AIセキュリティエンジンプロファイルの設定

AIセキュリティエンジンプロファイルは、CatoがAIの対話を評価し、AI使用ポリシーを実施する方法を定義することができます。プロファイルは、AIプロンプトと応答内で特定のデータ、動作、またはコンテンツの種類を識別する一つ以上の検出器の論理的なコンテナです。プロファイルをAIインタラクションポリシーのルールにアタッチし、ルールのアクションがCatoが一致するトラフィックをどのように処理するかを決定します。

検出器はプロファイルの構成要素です。各検出器は、個人識別子、機密事業情報、秘密、または規制されたAI使用シナリオなど、特定のカテゴリのコンテンツを識別します。 Cato によって提供される定義済みディテクターを使用するか、組織の特定の要件を満たすために、カスタムトピック & インテントまたは正規表現（regex）に基づいたカスタムデテクターを作成できます。

検出ロジック（プロファイルと検出器）を施行ロジック（ポリシールールとアクション）から分離することで、柔軟性と再利用性を得ることができます。同じプロファイルを複数のルールに適用し、プロファイルを中央で更新して、全ての関連ルールにすぐに影響を与えることができます。

プロファイルを作成した後、AIインタラクションポリシーのルールのエンジンプロファイルフィールドで選択し、ブロックまたは他の施行オプションなどの適切なアクションを定義します。

Use Case

企業ABCのセキュリティ管理者として、社員が機密データを公共のAIツールで共有することを防ぐ責任があります。

ユーザーが個人または規制された情報をAIアプリケーションに送信しようとする時に検出するための個人識別子保護と呼ばれるエンジンプロファイルを作成することを決定します。

まず、プロファイルを作成し、個人識別子カテゴリから定義済みの検出器を追加します。含まれるものは:

名前
ID番号 / SSN
メールアドレス
電話番号

定義済みの検出器ではカバーされていない、組織の内部顧客アカウント番号を識別するために、正規表現パターンを使用してカスタム検出器を作成します。

次に、AIインタラクションポリシーのルールを作成し、エンジンプロファイルのフィールドで個人識別子保護のプロファイルを選択します。アクションセクションでは、ブロックを選択します。

今、ユーザーがAIアプリケーションに顧客の個人情報や内部アカウント番号を入力しようとすると、ポリシーに基づいてそのインタラクションはブロックされます。

このターゲットアプローチにより、組織全体のAI使用を制限することなく機密データを保護することができます。

エンジンプロフィールを作成

制御したいデータまたはコンテンツのタイプを示す検出器をグループ化するためのエンジンプロファイルを作成します。

エンジンプロフィールを作成するには:

ナビゲーションメニューから セキュリティ> AI セキュリティ> エンジンプロファイル を選択します。
新規プロフィール をクリックします。
プロファイル名と、必要に応じて説明を入力します。 Cato は、ルールに適用するときにプロファイルを識別しやすくするための説明を提供することを推奨しています。
ディテクターを追加をクリックします。
プロファイルに含める検出器を選択します:
- 定義済みのディテクターカテゴリから選択します
- または、以前に作成したカスタムデテクターを選択します
一致するロジックを設定します。
選択した検出器のすべて(AND)または全て(OR)を満たすかどうかを選択します
適用をクリックし、その後保存をクリックします。

プロファイルは、AIインタラクションポリシーのルールを作成または編集する際に、エンジンプロファイルフィールドで選択できるようになりました。

ディテクターの設定

Catoによって提供される事前定義済みカテゴリに基づいて検知器を作成するか、組織固有のパターンに一致するカスタム検知器を定義できます。各検知器には、信頼度レベルを設定したり、指定された検知器のために無視する文字列を設定したりすることができます。

信頼度レベルの設定は検出基準がどれほど厳密かを決定します。

より高い信頼度レベルは、アラート数が少なく、真の陽性である可能性の高い問題に集中します。
低い信頼度レベルは感度を高め、より多くの潜在的な問題を検出できますが、追加の境界線または偽陽性のアラートを生成する可能性があります。

除外する文字列では、通常、検知器にとって関連のある固有名詞などを定義しますが、理由により無視したい場合、たとえばあなたの会社名などを除外できます。

定義済みディテクターの使用

Catoはカテゴリごとに整理された即座に使える検出器を提供します、例えば:

個人識別子
コード & 技術的識別子
AI 使用規制
敏感なビジネス情報

これらの検出器（およびその他）は使用準備ができており、追加の設定は必要ありません。

定義済みディテクターをプロファイルに追加するには:

プロファイルの作成中に、ディテクターを追加をクリックします。
ディテクターから選択をクリックします。
異なるディテクター間で適用されるロジックを決定します。
ディテクターを選択パネルでブラウズまたは検索します。
カテゴリを展開し、例えば、個人識別子 または コード & 技術的識別子を選択し、関連するディテクターを選択します。
適用をクリックします。
（オプション）プロファイルペインで、検知器の横にある3つの点をクリックすると、以下を決定できます。
- 除外する文字列
- 信頼度のしきい値
保存をクリックします。

カスタムデテクターの作成

定義済みの検出器が要件を満たさない場合、カスタム検出器を作成します。

以下を使用してカスタム検出器を定義できます:

構造化パターンのための正規表現（regex）

カスタムデテクターを作成するには:

プロファイルの作成中に、ディテクターを追加をクリックします。
カスタムデテクターを作成をクリックします。
名前を入力し、カスタム検出器タイプの下で、次のいずれかを選択します:
- 正規表現
一致する基準を定義します。
- 正規表現について、正規表現パターンを入力します
適用をクリックします。