概要
AI セキュリティは、AWS Bedrock、Azure AI Foundry、Microsoft Copilot Studio などの管理 AI プラットフォーム上で稼働する AI エージェントを発見、トレース、保護することができます。 どのエージェントが存在し、どのデータソースおよびツールにアクセスでき、実行時にどのように動作するかを可視化します。
管理されたプラットフォームは、AI エージェントの作成、展開、スケーリングのためのインフラストラクチャを提供しますが、独自のセキュリティとガバナンスの課題も引き起こします。 組織は、これらのプラットフォームでどのエージェントが存在し、どのデータとツールにアクセスできるか、実行時にどのように動作するかについての集中した可視性が不足していることがよくあります。
管理されたエージェントの AI セキュリティは、不正アクセス、機密データの露出、危険なエージェント行動のリスクを軽減しながらガバナンスとコンプライアンスの要件をサポートします。
ユースケース
管理エージェントの探索
管理されたエージェントの安全を確保するための最初のステップは、何が存在しているかを知ることです。 Cato は API を介して管理された AI プラットフォームに接続し、環境内に展開されているすべてのエージェントを自動的に発見します。 各エージェントについて、システムはエージェントの名前、目的、構成手順、接続されたツールとコネクタ、ナレッジベースとデータソース、割り当てられた権限とアクセス制御を含む包括的なインベントリを収集します。
エージェンティックAIアクティビティのトレース
管理された AI プラットフォームは、エージェントが実行されるときにトレースデータを生成し、プロンプト、モデルの応答、ツール呼び出し、結果のシーケンスを記録します。 Cato はこのトレースデータをプラットフォームから直接問い合わせ、Agentic AI ダッシュボードにストリーミングし、管理されたエージェントが実際にどのように動作しているかをリアルタイムで可視化します。
トレースは、ユーザーの問い合わせ、モデルの応答、エージェントが呼び出したツール（およびそのパラメータ）を含むエージェントの対話の全ライフサイクルをキャプチャします。 このレベルの詳細は、エージェンティックな行動を理解するために不可欠です。単純なチャットボットとは異なり、エージェントは応答を生成する前に、複数のツール呼び出しの連鎖を実行することがあります。 単一のユーザーリクエストがなければトレースでは見えない複雑な一連のアクションを引き起こすことがあります。
セキュリティとコンプライアンスチームのために、トレースは事件調査および監査に必要な証拠を提供します。 管理されたエージェントがアクセスしてはならないデータにアクセスした場合、予期しないツール呼び出しを行った場合、またはポリシーに違反する出力を生成した場合、トレース記録が正確に何が起こったかをステップバイステップで示します。 これは、インシデントの影響範囲を理解するためにも非常に貴重です。トレースは、何が間違っていたのかだけでなく、どのデータが触れられ、どのアクションが取られたのかを明らかにします。
AIファイアウォール統合による保護
探索とトレースは可視性を提供しますが、組織は管理されたエージェントに対しても積極的な保護が必要です。 Cato は、このトレースされたエージェント呼び出しを AI ファイアウォール（AI-FW）にストリーミングすることにより、エージェントセキュリティスタック全体で使用されているガードとポリシーに対して評価されるようにします。
この統合は、管理されたエージェントを通じて流れるすべてのプロンプト、モデル応答、ツール呼び出し、およびツールメッセージが AI-FW エンジンによって検査されることを意味します。 エンジンは、確認注入、脱獄試み、機密データ露出、およびポリシー違反を検出するモデルを適用し、ローカルおよびカスタムエージェントを保護する同じ四点検査を行います。 AI-FWが脅威を検出すると、監視チームにアラートを送信し、コンプライアンス目的でイベントを記録し、または統合および施行モードに応じて違反行為をブロックできます。