AIエージェントのためのセキュリティとは何ですか

概要

AIエージェントのためのセキュリティを使用すると、データへのアクセス、ツールの使用、アクションを実行する際の可視性や制御を失うことなく、組織にAIエージェントを安全に採用できます。 プロンプトインジェクション、不正なデータアクセス、機密データの漏洩、その他の誤用からエージェントのワークフローを保護し、セキュリティまたはコンプライアンスのリスクを引き起こす可能性があるこれらの状況を防ぐことができます。

CatoはAIエージェントを以下のカテゴリに分類します：

ローカルエージェントは通常、ユーザーエンドポイントで実行され、大部分がサードパーティによって提供されています。 管理されたエージェントは一般的に、クラウドプラットフォームおよびSaaSプロバイダーによって提供されるローコードまたはノーコードエージェントです。 カスタムエージェントは、エンドポイントやクラウド環境に構築して実行できる完全にコード化されたエージェントです。

AIエージェントのためのセキュリティは、管理する環境全体でこれらのエージェントタイプを監視し、統治するための統一された方法を提供します。 ポリシーの施行を維持し、運用リスクを低減し、コンプライアンスの要件をサポートしながら、自信を持ってAIエージェントを展開できます。

AIエージェントによって提示されるリスク

自律的に操作し、ツール、データ、および外部システムと対話するAIエージェントは、伝統的なAIチャットボットの脅威を超えた独自のセキュリティ、コンプライアンス、およびガバナンスリスクを引き起こします：

• AIに特化した攻撃 - 確認インジェクション、脱獄試行、およびエージェントの行動を操作するために設計されたマルチターン攻撃を含みます。 チャットボットとは異なり、エージェントはツールの応答（間接的な確認インジェクション）を通じて攻撃される可能性もあり、ツールの出力に含まれる悪意のあるペイロードがエージェントのアクションをハイジャックすることがあります。

• データのエクスフィルトレーション - コードリポジトリ、内部API、CRMシステム、またはファイルシステムにアクセスするエージェント。 これらのエージェントは、ツールの呼び出しまたはモデルの出力を通じて、ソースコード、資格情報、個人情報識別子、または財務データなどの機密データを意図しない形または悪意を持って漏洩させる可能性があります。

• シャドウエージェント - 管理されていない、または無許可のAIエージェントが従業員によってIT承認なしでインストールされ、セキュリティ体制に盲点を作り出します。 これには、企業ライセンスまたはセキュリティコントロールなしで実行されるコーディングアシスタントの個人インスタンスが含まれます。

• MCPサーバーのリスク - 悪意のあるまたは誤って構成されたMCPサーバーが、機密データを公開したり、不正なコマンドを実行したり、エージェントのワークフローに脆弱性を導入する可能性があります。

• コンプライアンス違反 - EU AI法などのAIシステムに関する規制要件や、コード生成、データ処理、自動意思決定を管理する内部ポリシーを満たせない場合。

• ガバナンスの欠如 - 配備されているエージェント、接続されているツール、およびアクセス可能なデータの可視性がないため、一貫したセキュリティポリシーを組織全体に施行することが不可能です