概要
ユーザーは、日常業務の一部として AI チャットアプリケーションとしばしばやり取りしますが、そこに伴うセキュリティ、コンプライアンス、データ曝露のリスクを十分に考慮しているわけではありません。これらのツールへのアクセスを完全にブロックすることでリスクを軽減できますが、AI 主導のワークフローがもたらす生産性の利点も失うことになります。
AIセキュリティユーザーインタラクションポリシーは、リアルタイムでプロンプトと添付ファイル内のサポートされているテキストベースのコンテンツを検査し、リスクのあるコンテンツが検出された場合に対応することで、ユーザーがAIチャットアプリケーションとどのように交流するかを制御します。 AI チャットを完全にブロックする代わりに、承認済みの AI の使用を許可しつつ、機密データの公開、ポリシー違反、コンプライアンスリスクを防止するための細粒度の保護措置を適用できます。各ルールは、ブラウザプラグイン、直接API統合、または既存のネットワークインフラストラクチャを通じてトラフィックを検査するため、保護が必要なAIアプリケーションやデバイスに合わせてカバレッジを調整できます。
ユーザーインタラクションルールを定義して、組織のセキュリティとガバナンスの要求に基づいて、確認コンテンツの特定のタイプをブロック、匿名化、アラート、モニタすることができます。このアプローチにより、正当かつ生産的なAIツールの利用を妨げることなく、機密情報を保護し、AI利用ポリシーを施行することができます。
注意: AIセキュリティAPI統合モジュールを使用する場合、ユーザーインタラクションポリシーはモニタリングアクションのみをサポートします。
前提条件
AI トラフィックを検査するために、アカウントレベルで TLS インスペクションが有効にされている必要があります。アカウントでTLSインスペクションが無効の場合、ユーザーインタラクションポリシーはAIトラフィックを検査しません。
ユーザーインタラクションポリシールールは、アカウントレベルのTLSインスペクション設定に基づいて一致するAIトラフィックを検査し、特定のTLSインスペクションルールは必要ありません。
AI インタラクションポリシーのルールは、TLS インスペクションポリシーよりも優先され、アプリケーションまたは宛先向けに TLS バイパスルールが設定されている場合でも、暗号化されたトラフィックを検査します。
インターネットファイアウォールは、ネットワークトラフィックを検査するために有効化されている必要があります。また、インターネットファイアウォールでQUIC用のデフォルトルールが有効であることを確認してください。
ユーザーインタラクションポリシーの設定
ポリシーを有効にする
ルールを作成する前に、Cato管理アプリケーションでエンドユーザー向けにユーザーインタラクションポリシーを有効にしてください。
エンドユーザー向けに AI インタラクションポリシーを有効化するには：
From the navigation menu, click AI Security > User Interaction Policy.
ユーザーインタラクションポリシーのトグルを有効化する。
インターセプションタイプを理解する
各ユーザーインタラクションポリシールールは、カトーがAIトラフィックを検査する方法を定義するためにインターセプションタイプを使用します。そのルールはサポートする必要のあるAIアプリケーションと必要な施行レベルに基づいています。
ブラウザプラグイン: ChromeとEdge用の軽量なブラウザ拡張機能で、MDM解決策を介して配布されます。 AIアプリケーショントラフィックをブラウザで直接検査し、ネットワークを経由しない管理されていないデバイスを含め、誰がどのAIツールを使用しているかについての確かな可視性を提供します。トラフィックはインラインで検査されるため、この方法はAIトラフィックをブロックできます。
ネットワーク: Cato Cloudインフラストラクチャと連携します: Catoクライアント、Catoエンタープライズブラウザ、またはソケット。ユーザーにCatoクライアントを展開したアカウントの場合、このインターセプションタイプには追加の展開や設定は必要ありません。トラフィックはインラインで検査されるため、この方法はAIトラフィックをブロックできます。
API統合: 承認され企業によって承認されたAIアプリケーションに直接接続します。例としては、Microsoft、GitHub、またはAnthropicとのAPIを介した統合があります。この方法はポリシー違反に関するモニタリングとアラートをほぼリアルタイムで提供しますが、トラフィックをブロックしません。これは施行ではなく、信頼され承認済みのAIアプリへの可視性を目的としています。
ファイル添付検査の理解
ユーザーインタラクションポリシーは、ユーザーがサポートされているAIアプリケーションのプロンプトに添付するファイルのテキストベースのコンテンツを検査することができます。ファイル添付の検査はDLPとは独立して動作し、添付ファイルから抽出されたコンテンツにユーザーインタラクションポリシーを適用します。
ファイル添付検査はChatGPT、Gemini、Copilot、Claudeでサポートされています。
ファイル添付検査には以下の制限があります:
ファイルは最大10 MBまでサポートされています。
サポートされているテキストファイル、例: TXT、JSON、XLS、PDF、DOCX。 OCR、画像ファイル、および写真はサポートされていません。
ファイルコンテンツに対しては、ブロックおよびモニタのみがサポートされます。ファイルコンテンツの匿名化はサポートされていません。
ファイルの検査は選択されたファイルコンテンツを評価するため、スキャンされていないセクションでリスクのあるコンテンツが現れるときには、検出が変わる可能性があります。
ファイル添付検査はユーザー向けのAIセキュリティだけでサポートされています。
ユーザーインタラクションポリシールールを設定する
ユーザーインタラクションポリシールールを作成するには:
From the navigation menu, click AI Security > User Interaction Policy.
新規をクリックし、ルールのインタラクションタイプを選択します。
一般セクションで、例えば名前や説明といったフィールドを設定します。
ソースセクションで、ルールが適用されるユーザーやグループを選択するか、すべてを選択してすべてのソースにルールを適用します。
アプリケーションセクションで、ルールが適用される AI アプリケーションを選択するか、すべてを選択してすべての対応アプリケーションにルールを適用します。
エンジンププロファイルセクションで、AI プロンプトを評価する際に使用するプロファイルを選択します。
アクションセクションで、プロンプトがコンテンツプロファイルに一致したときに適用するアクションを選択します。例: ブロック。
API ルールを作成している場合、唯一の利用可能なアクションはモニタリングです。
(オプション) アクションが適用された際、ユーザーに通知を送る通知テンプレートを選択します。
Click Save. The panel closes, and the settings are updated in the policy.
The changes are saved to your unpublished revision and are available for editing until they are published or discarded.公開 をクリックします。確認ウィンドウが開きます、公開をクリックします。
アクションを理解する
AI インタラクションポリシーは、各ルールに対して以下のアクションをサポートしています：
ブロック - プロンプトはブロックされ、AIベンダーに情報が送信されません。
モニタ - プロンプトがAIベンダーに送信され、インタラクションがモニタされます。
匿名化してブロック - 選択したエンジンプロファイルに以下を含む場合:
コンテンツの匿名化をサポートする場合、コンテンツが匿名化されて送信されます
コンテンツの匿名化をサポートしない; プロンプトはブロックされます
匿名化してモニタ - 選択したエンジンプロファイルに以下を含む場合:
コンテンツの匿名化をサポートする場合、コンテンツが匿名化されて送信されます
コンテンツの匿名化をサポートしません。プロンプトが AI ベンダーに送信され、インタラクションがモニタされます
注意: 匿名化は、検出器が匿名化できるテキストコンテンツのみをサポートします。匿名化アクションを選択すると、Catoはサポートされているコンテンツを匿名化します。匿名化できないコンテンツ、ファイルコンテンツを含むコンテンツには、Catoはルール内で他のアクションを適用します: ブロックまたはモニタ。