カスタムAIアプリケーションのためのAIセキュリティガードの概要

この記事では、AIセキュリティガードの作成プロセス、カスタムアプリケーションのガードへの接続、ガードインタラクションポリシーの設定について説明します。

概要

Cato AI セキュリティガードを使用すると、カスタムAIアプリケーションのトラフィックを、AI言語モデル(LLM)プロバイダーに到達する前にCatoを介してルーティングすることでセキュリティを確保できます。これにより、管理者はAIのインタラクションを確認し、プロンプト、レスポンス、ツール入力、およびツール出力に対応するポリシールールを適用することができます。

ステップ1 - AIセキュリティガードの作成

AIサービスまたはカスタムLLMエンドポイントへのCatoの接続方法を定義するガードを作成します。プロキシモードでは、アプリケーションがトラフィックをガードエンドポイントに送信し、ガードが検査後にトラフィックをプロバイダーエンドポイントに転送します。

AIセキュリティガードを作成するには:

ナビゲーションメニューからAI セキュリティ > ガードを選択します。
新規をクリックします。
ガード名を入力します。
ガードタイプ選択で、プロキシを選択してください。
AI サービス選択で、関連するAIサービスまたはカスタムエンドポイントを選択します。
エンドポイントURLにプロバイダーのエンドポイントを入力します。
ガードのホスティング設定を構成します。
保存をクリックします。

ガードが作成され、ガードページから利用可能になります。

ステップ2 - 接続詳細の取得

ガードを作成した後、アプリケーションがCato経由でトラフィックを送るために使用する接続詳細を取得します。これらの値はガードエンドポイントを特定し、アプリケーションを認証し、必要なプロバイダー認証の詳細を定義します。

接続詳細を取得するには:

ガードページからガードを開きます。
ガードエンドポイントをコピーします。
ガードAPIキーをコピーします。
リクエストヘッダーの要件をレビュします。
プロバイダー認証要件を確認します。
関連する場合、セッションIDヘッダーの要件を確認します。

アプリケーション設定を更新する際にこれらの値を使用します。

ステップ3 - アプリケーションをガードに接続

アプリケーションを更新し、AIリクエストをLLMプロバイダーではなくガードエンドポイントに送信するようにします。アプリケーションがガードに認証されると、ガードは設定に従ってトラフィックをプロバイダーエンドポイントに転送します。

アプリケーションをガードに接続するには:

アプリケーションの宛先URLをLLMプロバイダーエンドポイントからガードエンドポイントに更新します。
必要なガード認証ヘッダーを追加します。
プロバイダー認証詳細を必要に応じて追加します。
必要に応じてセッションID詳細を追加します。
アプリケーションを通じてテストトラフィックを送信します。

アプリケーションのトラフィックは現在ガードを通じてルーティングされています。

ステップ4 - ガードがトラフィックを受信しているか確認

トラフィックポリシールールを設定する前に、アプリケーションからガードにトラフィックが届いていることを確認します。これにより、アプリケーションが正しくガードに接続されていること、CatoがAIインタラクションを検査できることを確認できます。

ガードがトラフィックを受信していることを確認するには:

ナビゲーションメニューからAI セキュリティ > ガードを選択します。
ガードを開きます。
ガードログをオープンします。
生成されたセッションをレビューします。
プロンプトとレスポンスがログに記録されていることを確認します。

現時点で、ガードはアプリケーショントラフィックの可視性を提供します。ポリシーの適用はガードインタラクションポリシールールを作成して公開した後に開始されます。

ステップ5 - ガードインタラクションポリシールールの作成と公開

ガードインタラクションポリシーは、ガードがAIインタラクションを処理する方法を定義します。各ルールは対象のガード、検知エンジン、アクション、検査するトラフィック方向を指定します。

ルールはモニタリング、ブロック、機密データの匿名化、または匿名化とモニタリングまたはブロックの組み合わせを適用するアクションを適用できます。ルールベースの位置に関わらず、ルールは評価されます。複数のルールが同じインタラクションに一致する場合、より厳しいアクションが適用されます。

ガードインタラクションポリシールールを作成して公開するには:

ナビゲーションメニューから AI セキュリティ > ガードのインタラクションポリシー を選択します。
新規をクリックします。
ルール名前と説明を入力します。
有効化トグルでルールを有効にします。
ガードで、ルールが適用されるガードを選択します。
エンジンプロファイルでルールの検知カテゴリを選択します。
アクションでルールが一致した際に適用されるアクションを選択します。
方向で検査するトラフィック方向を選択します。
保存をクリックします。
追加のルールに対してこれらのステップを繰り返します。
未公開のリビジョンをレビューします。
公開をクリックします。

ポリシーが公開されると、ガードは通過するトラフィックに対してアクティブルールを強制します。

ステップ6 - ポリシーの検証

ガードが期待されるルールを強制し、ポリシーアクティビティがガードログに表示されることを確認するためにポリシーを検証します。

ポリシーを検証するには:

ナビゲーションメニューからAI セキュリティ > ガードを選択します。
ガードを開きます。
概要ページで、有効なルールを確認します。
ガードログをオープンします。
ポリシールールに一致するセッションをレビュします。
検出されたコンテンツ、適用されたアクション、および施行結果を確認します。