概要
カスタムAIエージェントは、コード内でAI駆動のワークフローを構築し、それらを内部システム、データベース、サードパーティサービスに直接接続できます。 組織は、LangChain、OpenAI Agents SDK、またはLLMプロバイダへの直接API呼び出しなどのフレームワークを使用してこれらのエージェントを構築することがよくあります。 これらのエージェントは業務ワークフローに深く統合されており、機密データとツールにアクセスできるので、ランタイムの可視性と保護が必要です。
エージェントのためのAIセキュリティは、SDKレベルでCato AIファイアウォール（AI-FW）と直接統合することでカスタムエージェントを保護します。 開発者は、最小限のコード変更でカスタムエージェントをAI-FWに接続できます。通常、LLMのベースURLをAI-FWのプロキシエンドポイントにリダイレクトし、認証ヘッダーを追加します。 AI-FWはリクエストパスに透明に配置され、エージェントとLLMの間のトラフィックを検査し、元のプロバイダーへのリクエストをプロキシします。 これにより、エージェントの活動を追跡し、エージェントのコアロジックを変更したり、別のセキュリティレイヤーを追加したりすることなく、ランタイム保護を強制できます。
使用事例
カスタムエージェント活動の追跡
カスタムエージェントがAI-FWに接続されると、そのすべてのインタラクションが自動的に追跡され、ダッシュボードに表示されます。 すべての呼び出しは、完全な会話履歴、ツールコールとそのパラメータ、ツールの応答、エージェントの最終出力を含むセッションとして記録されます。 セキュリティチームは、管理またはローカルエージェントと同じようにこれらのセッションを閲覧、検索、調査できます。
カスタムエージェントの追跡は特に価値があります。これらのエージェントは、可視性を得るのが最も困難な場合があるためです。 AI-FW統合により、開発者の負担を最小限に抑えてこの計器制御を実現し、以前は不透明だったシステムを完全に観察可能にします。
AI攻撃からのランタイム保護
AI-FWは、エージェントの不動産の残りを保護するのと同じガードとポリシーエンジンを使用して、カスタムエージェントに積極的なランタイム保護を提供します。 AI-FWは、カスタムエージェントとLLMプロバイダの間のリクエストパスにあるため、リアルタイムでポリシーを強制できます - モデル、ツール、またはユーザーに到達する前に違反をブロックまたはアラートします。
これは、カスタムエージェントが攻撃に対して最も暴露されやすいため、特に重要です。 カスタムエージェントが外部APIをクエリし、データベースを読み込み、ユーザーがアップロードしたドキュメントを処理する場合、これらのデータソースのいずれかを通じて間接的なプロンプトインジェクションに脆弱です。 工具によって返されるコンテンツに影響を与えることができる攻撃者は、データベースのレコードにある毒されたフィールドや文書内の悪意のある文字列など、単純なものでも、エージェントの動作を乗っ取ろうとする可能性があります。 AI-FWはコンテンツレベルでツールの応答を検査し、モデルに届いて後続のツールコールや出力に影響を与える前に、インジェクションペイロードを検出します。
プロダクショングレードのカスタムエージェントを構築する組織にとって、AI-FW統合はジェイルブレイク試行、機密データ漏洩（PII、資格情報）、ポリシー違反に対する保護も提供し、エージェントのコアロジックを変更する必要がありません。 セキュリティチームはダッシュボードでポリシーを中央で設定し、そのポリシーは接続されたすべてのカスタムエージェントで透過的に強制されます。