概要
ユーザーは、日常業務の一部として AI チャットアプリケーションとしばしばやり取りしますが、そこに伴うセキュリティ、コンプライアンス、データ曝露のリスクを十分に考慮しているわけではありません。 これらのツールへのアクセスを完全にブロックすることでリスクを軽減できますが、AI 主導のワークフローがもたらす生産性の利点も失うことになります。
AIセキュリティユーザーインタラクションポリシーは、リアルタイムでプロンプトを検査し、リスクのあるコンテンツが検出されると対応することで、ユーザーがAIチャットアプリケーションとどのようにインタラクションするかを管理します。 AI チャットを完全にブロックする代わりに、承認済みの AI の使用を許可しつつ、機密データの公開、ポリシー違反、コンプライアンスリスクを防止するための細粒度の保護措置を適用できます。
ユーザーインタラクションルールを定義して、組織のセキュリティとガバナンスの要求に基づいて、確認コンテンツの特定のタイプをブロック、匿名化、アラート、モニタすることができます。 このアプローチにより、正当かつ生産的なAIツールの利用を妨げることなく、機密情報を保護し、AI利用ポリシーを施行することができます。
注意: AIセキュリティAPI統合モジュールを使用する場合、ユーザーインタラクションポリシーはモニタリングアクションのみをサポートします。
前提条件
AI トラフィックを検査するために、アカウントレベルで TLS インスペクションが有効にされている必要があります。 アカウントでTLSインスペクションが無効の場合、ユーザーインタラクションポリシーはAIトラフィックを検査しません。
ユーザーインタラクションポリシールールは、アカウントレベルのTLSインスペクション設定に基づいて一致するAIトラフィックを検査し、特定のTLSインスペクションルールは必要ありません。
AI インタラクションポリシーのルールは、TLS インスペクションポリシーよりも優先され、アプリケーションまたは宛先向けに TLS バイパスルールが設定されている場合でも、暗号化されたトラフィックを検査します。
ユーザーインタラクションポリシーの設定
ポリシーを有効にする
ルールを作成する前に、Cato管理アプリケーションでエンドユーザー向けにユーザーインタラクションポリシーを有効にしてください。
エンドユーザー向けに AI インタラクションポリシーを有効化するには：
From the navigation menu, click AI Security > User Interaction Policy.
ユーザーインタラクションポリシーのトグルを有効化する。
ユーザーインタラクションポリシールールを設定する
ユーザーインタラクションポリシールールを作成するには:
From the navigation menu, click AI Security > User Interaction Policy.
一般セクションで、例えば名前や説明といったフィールドを設定します。
ソースセクションで、ルールが適用されるユーザーやグループを選択するか、すべてを選択してすべてのソースにルールを適用します。
アプリケーションセクションで、ルールが適用される AI アプリケーションを選択するか、すべてを選択してすべての対応アプリケーションにルールを適用します。
エンジンププロファイルセクションで、AI プロンプトを評価する際に使用するプロファイルを選択します。
アクションセクションで、プロンプトがコンテンツプロファイルに一致したときに適用するアクションを選択します。例: ブロック。
API ルールを作成している場合、唯一の利用可能なアクションはモニタリングです。
(オプション) アクションが適用された際、ユーザーに通知を送る通知テンプレートを選択します。
保存をクリックします。
プロンプトが設定された基準に一致すると、選択されたアクションが施行されます。
アクションを理解する
AI インタラクションポリシーは、各ルールに対して以下のアクションをサポートしています：
ブロック - プロンプトはブロックされ、AI ベンダーに情報が送信されません
モニタ - プロンプトが AI ベンダーに送信され、インタラクションがモニタされます
匿名化してブロック - 選択したエンジンプロファイルに以下を含む場合：
コンテンツの匿名化をサポートする場合、コンテンツが匿名化されて送信されます
コンテンツの匿名化をサポートしない; プロンプトはブロックされます
匿名化してモニタ - 選択したエンジンプロファイルに以下を含む場合：
コンテンツの匿名化をサポートする場合、コンテンツが匿名化されて送信されます
コンテンツの匿名化をサポートしません。 プロンプトが AI ベンダーに送信され、インタラクションがモニタされます