注: これは限られたリリースでのみ利用可能な早期利用 (EA) 機能です。 この機能を有効にする方法についての詳細は、Cato Networksの担当者にお問い合わせいただくか、電子メールを ea@catonetworks.com に送信してください。
この機能はエンドユーザー向けAIセキュリティ及びアプリケーション向けAIセキュリティサービスの一部です。
概観
カスタムトピックとインテント検出器は、AIアプリケーションで処理される前にユーザーのプロンプトをリアルタイムで分析し、リスクのあるトピックと潜在的な意図を特定します。
これにより、組織は許容使用ポリシーを実施し、誤用を防ぎ、AIのインタラクションが企業、法的および規制要件に対応し、組織の具体的なニーズに合わせることを保証できます。
次の項目でAIのインタラクションを評価します:
トピック – ユーザーが問い合わせている内容
インテント – ユーザーが問い合わせている理由または方法
使用ケース
組織は独自のビジネスリスクとコンプライアンスニーズに一致するようにカスタムトピックとインテントを定義できます。 使用事例には以下が含まれます:
機密の企業情報へのアクセスまたは漏洩の試み、既定の検出器でカバーされていないもの。
組織固有のIPアセット
標準の検出器でカバーされていない独自の許容使用基準
カスタムトピックとインテント検出器の制限
最適なパフォーマンスと検出精度を保証するために、カスタムトピックとインテント検出器は次の制限を適用します:
検出器の制限 – 各アカウントにつき最大5つのカスタムトピックとインテント検出器を有効にできます
入力長の要件 – カスタムトピックとインテント検出器は最低3語から最高50語まで含む必要があります
これらの制約は、質の高いシグナル検出を維持するために設計されており、広範すぎたり効果がない定義を防ぎ、AIアプリケーション全体で一貫したポリシーの執行を確保します。
ベストプラクティス
カスタムトピックとインテントの検出精度と有効性は、カスタムトピックとインテントがどれほどよく定義されているかに依存します。 曖昧で広範すぎる、また構造が不十分な入力は、検出の質を低下させたり意図しない結果を招く可能性があります。 推奨ガイドラインに従うことは、最適な結果を達成するために欠かせません。
明確に特定し、曖昧な定義を避ける
明確に定義されたトピックとインテントはより正確な結果を生み出します。
広すぎる定義は多くのプロンプトに一致する可能性があり、誤検知が発生します。
狭すぎる定義は関連する活動を逃す可能性があり、誤検知の低下に繋がります。
例:
広いカテゴリーを避けるべきです: 競合他社についての情報
会社名を含めるべきです: サンプル会社に関する情報
キーワードの代わりに説明的なフレーズを使用
単語ひとつ定義では弱い信号を提供します。 説明的なフレーズはモデルにより良いコンテクストを提供し、精度を向上させて誤検知を減少させます。
例:
キーワードを使用しない: 内部システムの資格情報
フレーズを使用する: 内部システムから資格情報を抽出する
アクションを重視したフレーズを使用
AIエンジンはユーザーが何をしようとしているかを評価し、単に述べただけの内容ではありません。 これにより、キーワードの完全一致なしでプロンプトが検出されることが可能です。
インテントに配慮した表現は、特に曖昧なプロンプトに対する検出精度を改善します。 ユーザーの意図を明確に描写する3～6語の動詞フレーズを使用してください。
例:
説明を使用しない: 専有ネットワーク情報
アクションを描写すべきです: 専有ネットワークセキュリティアーキテクチャ設計へのアクセスリクエスト
重複する定義を避ける
類似の意味を持つ複数のトピックやインテントを定義すると、有効性が低下します。 これらは同じプロンプトに反応する可能性が高く、カバレッジを改善せずにノイズを追加することがあります。 類似の概念を統合して単一の明確に定義されたトピックまたはインテントにまとめます。
テストと反復
カスタムトピックとインテント検出器は実際の使用に基づいて継続的に改善されるべきです。 検出器やプロファイルをPlaygroundでテストして反復することを強く推奨します。
検出が広すぎる場合は、定義をより具体的にします
検出が狭すぎる場合は、定義を拡張するか言い換えます
バランスの取れた設定で開始し、観測された活動に基づいて改良します。