この記事は、組織内のAIアプリへの安全なアクセスをどのように維持するかを説明します。
概要
AIベースのツールを使用することは生産性を向上させますが、それと同時に新たなセキュリティの課題とリスクを組織に導入することにもなります。 例えば、ユーザーは無料版のAIアプリに機密データを入力することで、この情報をアプリのベンダーが使用する権利を持つことがあります。 悪意のある者がAIアプリのLLMを利用して、機密データを抽出することができます。 AIアプリが急速に拡大する中、セキュリティチームはどのアプリケーションが使用され、どこで機密データが共有されているかを把握するという課題に直面しています。
組織とその機密データを保護しつつ、安全なAIアプリケーションの使用を可能にするために、Catoは次の三部構成の戦略を推奨しています。
可視性の向上: どのAIアプリケーションが使用されているのか、誰が使用しているのか、どう利用されているのかを理解します。
アクセス制御: AIアプリケーションへのアクセスを制御し、セキュリティ対策を強化するためのポリシーを実施します。
データの保護: AIアプリケーション内での不正アクセスや共有を防ぐことで、機密情報を保護を確保します。
機能の組み合わせを活用することで、この戦略を実行し、AIアプリのトラフィックを監視および保護することができます。 インターネットファイアウォールのルールを定義して、AIアプリのカテゴリへのアクセスを制御し、特定のAIアプリのルールを設定できます。 さらに、アプリケーション制御ポリシーを定義して、ユーザーがAIアプリや詳細な操作をブロックし、機密情報を安全に保つことができます。 さらに、データ制御ポリシーを構成して、機密データがAIアプリへ転送されるのを防止することができます。
環境内でのAIアプリの可視性の向上
組織内で使用されているAIアプリに関連するリスクを把握し理解することで、データ漏洩のリスクやコンプライアンス違反、潜在的なセキュリティの脆弱性を防ぐことができます。 どのAIアプリが使用されているのか、誰が使用しているのか、機密データとどのように関わっているのかを理解することで、ポリシーを施行し、脅威を軽減し、責任あるAI導入を確実にします。 可視化はまた、AIアプリのリスクの可能性を評価し、ガバナンスを維持し、組織のセキュリティフレームワークにAIの使用を揃えるのに役立ちます。
GenAI アプリダッシュボードとアプリカタログは、どのAIアプリが環境で使用されているかの可視性と理解を提供します。
GenAI ダッシュボード
GenAIアプリダッシュボードは、インラインのGenAIアプリの使用状況を含む、包括的な可視性を提供します。 ダッシュボードを通じて、組織内で使用されているAIアプリケーションとその使用者を把握し、すべてのユーザーのやり取りと機密データの共有を追跡します。 GenAIアプリダッシュボードによって提供される可視性を利用して、リスクを特定することでデータ侵害を予防できます。 詳細情報は、ジェンAIアプリダッシュボードの使用をご覧ください。
アプリカタログ
アプリカタログには、数百におよぶAIアプリやサービスのセキュリティデータ、コンプライアンス、一般情報が含まれています。 TPRM（サードパーティリスク管理）を実施するためのすべての知見を提供し、このアプリの使用リスクを評価します。 カタログを利用して、アプリに関するより詳細な情報を学び、組織でどのように使用するかを決定できます。 詳細については、アプリカタログの使用をご覧ください。
監査活動がGenAIアプリをサポート
監査活動では、Cato Cloudに接続されていないユーザーであっても、どのユーザーによってSaaSアプリケーションで行われた活動をすべて把握できます。 Microsoft CopilotやChatGPTはCatoと統合され、これらのアプリで共有されたチャットやデータの可視性を提供します。 詳細については、APIを介したアプリケーション制御とアクティビティをご覧ください。
ユースケース - シャドーAIの特定
Company ABC は、GenAI アプリダッシュボードを確認し、未知のAI駆動のコード分析ツールを特定します。 アプリカタログでそのアプリを検索し、リスクスコアが6であることを確認します。 機密情報の漏洩リスクを回避するために、アプリへのアクセスをブロックするためのアプリケーション制御ロールを作成します。
AIアプリへのアクセス制御
適切なアクセス制御がなければ、ユーザーが誤って機密情報をAIモデルに入力し、データ漏洩や規制違反が発生する可能性があります。 さらに、検証されていないAIアプリケーションはセキュリティ脆弱性を招き、専用コードを公開してしまったり、誤解または有害なコンテンツを生成したりする可能性があります。 厳格なアクセスポリシーを施行することで、認可されたユーザーのみが認可されたAIツールを使用することを保証し、リスクを最小限にしつつAIの採用を可能にします。
アプリカテゴリへのアクセス制御
Catoは、一般の生成AIツールカテゴリに加えて、8つのシステムカテゴリをAIアプリ用に保持しています。 これらはインターネットファイアウォールで、例えばコードアシスタントアプリや、ChatGPT、AgentGPT、Google Bard、Elicit AI、MagicPen AI、Poe AI、OpenAIなどの人気のあるAIアプリへのアクセスを制御するために使用できます。
特定のAIアプリやアプリカテゴリのルールを定義することもできます。 例えば、生成AIツールカテゴリへのトラフィックをブロックするルールを作成した後、特定のユーザーグループがChatGPTへのアクセスを許可する高優先度のルールを作成できます。 詳細については、Catoインターネットファイアウォールとは？をご覧ください。.
次の例のインターネットファイアウォールのルールは、ユーザーグループ研究チームにChatGPTへのアクセスを許可し、生成AIツールカテゴリへのその他のアクセスをすべてブロックするものです。
アプリケーション制御ポリシーは、アプリのリスクスコアやそのコンプライアンスレベルなどの特定の基準に基づいてアプリアクセスを細かく制御できます。 アプリケーション制御ルールの設定についての詳細は、アプリケーション制御ポリシーの管理をご覧ください。
テナントアクセスの制御
アプリの無償版での機密情報の漏洩を防ぐためにアプリケーション制御ポリシーのルールを作成し、プライベートアカウントへのユーザーアクセスをブロックし、企業テナントへのアクセスのみを許可できます。 例えば、OpenAIアプリのルールを定義し、組織のテナントへのログインアクティビティのみを許可し、その他すべてのログインをブロックします（例: プライベートEメールアドレスでのログイン）。
以下は、ユーザー名に会社ドメインを含むログインをOpenAIに許可する最初のルール、次に直接およびサードパーティの認証を通じたすべてのログインをブロックする次のルールを含む、サンプルのルールベースです。
詳細な活動の制御
一部のアプリでは、必要なアプリケーションへのユーザーアクセスを許可しつつ危険なアクティビティをブロックすることで、セキュリティと生産性のバランスを取ることができます。 これを行うには、アプリケーション制御ポリシーで細かいアクティビティを含むルールを作成します。 例えば、Wordtuneへのアクセスを許可して、ファイルのアップロードはブロックすることができます。
一時チャットの実施（ChatGPT）
ChatGPTは、ユーザーのプライバシーを強化するために設計された一時的なチャット機能を提供します。 OpenAIによれば、これらのチャットはユーザーの履歴には表示されず、メモリに保存されず、モデルを訓練するために使用されることもありません。 ただし、このプライバシー保護機能はデフォルトで無効になっています。 ユーザーがその機能を手動で有効にしない限り、すべてのやり取りが保存され、仕事関連の使用には潜在的なリスクとなります。
アプリケーション制御ポリシーは、ユーザーが一時チャット中にいるかどうかを検出し、そうでない場合にトラフィックをブロックすることができます。 これにより、組織はChatGPTへのユーザーアクセスを提供しながら、機密データが誤って漏洩しないようにできます。
機密データの保護
GenAIアプリは、プロプライエタリコードや個人識別情報（PII）、機密ビジネスデータをユーザーが意図せずに共有してしまうリスクがある方法で、ユーザー入力を処理する場合が多いです。 CatoのDLPサービスは、アプリ内でコンテンツをスキャンし、ポリシーを施行することで、アプリを使用するときに機密データをユーザーが危険にさらすことを防ぐのをサポートします。 GenAIアプリ用のDLPルールを作成することで、AIモデルへの機密データの入力を検出しブロックするポリシーを施行できます。
事前定義されたデータプロファイル
CatoのDLPサービスは、高度な技術を用いてトラフィックフロー内の機密データを検出可能な数十のモデルを使用します。 この中には、金融、法務、人事、移民、医療といったカテゴリが含まれています。 加えて、DLPにはGenAIアプリで使用するためのデータタイプも含まれています。 たとえば、PIIデータプロファイルにはクレジットカード情報や運転免許証などのデータタイプが含まれています。 これにより、関連する機密データにのみ適用されるきめ細やかなポリシーを作成し、AIアプリでの使用を防止することができます。
事前定義されたデータプロファイルを使用すれば、独自のファイルやデータでカスタムMLモデルをトレーニングできます。 高度なAIエンジンはこの入力から学習し、コンテキストを判断し、後に同じドメイン内の機密データを検出します。
詳細情報は、DLPのカスタムデータタイプの操作をご覧ください。
事前定義されたデータ違反の監視
注:
この機能は、2025年3月25日以降に作成されたアカウントのデフォルトで利用可能です。 これ以前に作成されたアカウントには、手動でデータタイプを作成することができます。 詳細については、AIアプリの監視に推奨されるDLP構成をご覧ください。
アプリケーション制御とDLPポリシーには、Cato推奨の事前定義されたルールが含まれています。 これらには、AIアプリを保護するためのルールも含まれています。 デフォルトでは、DLPがGenAIツールへアップロードされる次のデータタイプに対して、イベントを作成し監視します。
PII
財務データ
アクセスキーとトークン
法的データ
ユースケース - データポリシー違反の特定
Company ABC は新しいSaaSアプリケーションを契約しようとしています。 契約を確認し要約するために、それを高リスクのGenAIアプリの無料版にアップロードします。 事前定義されたDLPルールは、警告のイベントを作成し、このポリシー違反をセキュリティチームに通知します。