ガードは、カスタムAIアプリケーションにおけるAIセキュリティの施行ポイントです。 ガードを使ってAIのインタラクションを検査し、ポリシーアクションを適用し、保護されたアプリケーションの使用状況の可視性を得ます。 ガードのコンセプトとユースケースの詳細については、「AIセキュリティガードの操作」をご覧ください。
この記事では、ガードの作成方法、生成された認証キーを使用してAIアプリケーションに接続する方法、デプロイ後のガードアクティビティのモニタリングについて説明します。
ガードの定義
AI セキュリティ > ガード ページから、ガードを作成および管理します。 このページではアカウント内のすべてのガードがリストされ、ガードの種類、ホスティング場所、AIインタラクション、違反件数、作成日などの概略情報が含まれます。
ガードを作成する
ナビゲーションメニューから AI セキュリティ > ガード を選択し、新規 をクリックします。
ガード名を入力します。 Catoは、ガードがどのアプリケーションに適用されるかを思い出すのに役立つ説明的な名前を付けることを推奨します。
ガードタイプを選択：
プロキシ：ガードはインラインでプロンプトをインターセプトし、Catoは設定されたアクションを実行します
API：ガードはプロンプトをインターセプトせずにスキャンし、Catoは検出結果を返すので、アプリケーションがアクションを適用できます
AIゲートウェイ：ガードは既存のAIゲートウェイと統合し、プロンプトをスキャンし自動的にインターセプトします
プロキシガードタイプを選択した場合は、ガードがインタフェースするAIサービスを選択し、そのサービスのAPIキーを入力します。
検証 をクリックして、正しいキーが入力されたことを確認します
APIガードタイプを選択した場合は、ガードをOutpostでホストするかどうかを決定します。
保存 をクリック。
AIアプリケーションでガードを実装する
ガードを作成した後、ガードの実装詳細を表示するためにガードページから開きます。 ガード詳細ページでは、アプリケーショントラフィックをガードに接続するために必要な情報を提供します。
ガードタイプとサービスに応じて、ページには以下が含まれます：
エンドポイントの詳細
必要なヘッダー
リクエストボディのフォーマット
ガードAPIキー
このページには、アプリケーション統合の開始点としてコピーして使用できるサンプルリクエストコードも含まれています。
生成されたスニペットを使用してアプリケーションを更新し、選択した統合タイプに基づいてトラフィックがガードを経由するように、またはガードによって評価されるようにします。
ガード活動のモニタリング
ガードをデプロイした後、その活動をレビューして、どのように使用されているか、適用されているルールは何か、ポリシー違反を検出するかどうかを理解できます。 特定のセッションをクリックすると、モデルに送信された実際のインタラクションデータも確認できます。
注意：セッションデータを表示するには、必要な読み取り敏感コンテンツ権限が必要です。 役割と権限の詳細については、RBAC を使用した管理者ロールの管理を参照してください。
ガード概要ページは、選択されたガードのための概要情報を表示します。これには、インタラクション、違反率、アクティブルールなどが含まれます。
このデータを活用して、ガードの使用頻度、どのポリシーが実際に施行されているか、インタラクションが検出や違反を起こす頻度を理解できます。
ガードログ
ガードログページは、ガードが処理したトラフィックに対するセッションレベルの可視性を提供します。 各セッションについて、概要フィールドをレビューできます：
セッションID
呼び出し
検出
最初の活動
最後の活動
セッションを展開して、どのアクションが取られたか、セッションのタイムスタンプなどの詳細情報を確認します。
このデータは、ガードの活動をより詳細に調査し、予期通りにポリシーが施行されているかどうかを確認するのに役立ちます。