개요
사용자는 보안, 준수 또는 데이터 노출 위험을 완전히 고려하지 않고 일상적인 업무의 일환으로 AI 채팅 애플리케이션과 상호 작용하는 경우가 많습니다. 이러한 도구에 대한 액세스를 완전히 차단하면 위험을 줄일 수 있지만 AI 기반 워크플로우가 제공하는 생산성 혜택도 제거됩니다.
AI 보안 사용자 상호 작용 정책은 실시간으로 첨부된 파일의 프롬프트 및 지원되는 텍스트 기반 콘텐츠를 검사하여 AI 채팅 애플리케이션과 사용자가 상호 작용하는 방식을 제어할 수 있게 하며 위험한 콘텐츠가 감지될 때 대응합니다. AI 채팅을 완전히 차단하는 대신 승인된 AI 사용을 허용하면서도 민감한 데이터 노출, 정책 위반 및 준수 위험을 방지하는 세밀한 보호를 적용할 수 있습니다. 각 규칙은 브라우저 플러그인, 직접 API 통합 또는 기존 네트워크 인프라를 통해 트래픽을 검사하여 보호할 필요가 있는 AI 애플리케이션 및 장치에 대한 범위를 조정할 수 있습니다.
사용자 상호 작용 규칙을 정의하여 조직의 보안 및 거버넌스 요구 사항에 따라 특정 유형의 프롬프트 콘텐츠를 차단, 익명화, 알림 또는 모니터링합니다. 이 접근 방식은 AI 도구의 적법하고 생산적인 사용을 방해하지 않고 민감한 정보를 보호하고 AI 사용 정책을 시행할 수 있게 해줍니다.
참고: AI Security API 통합 모듈을 사용할 때, AI Interaction Policies는 모니터링 작업만 지원합니다.
전제 조건
AI 상호작용 정책이 AI 트래픽을 검사하려면 계정 수준에서 TLS 검사가 활성화되어야 합니다. 계정에서 TLS 검사가 비활성화된 경우 AI 상호작용 정책은 AI 트래픽을 검사하지 않습니다.
AI 상호작용 정책 규칙은 계정 수준 TLS 검사 설정에 따라 일치하는 AI 트래픽을 검사하며, 특정 TLS 검사 규칙이 필요하지 않습니다.
AI 상호작용 정책 규칙은 TLS 검사 정책보다 우선하며, 애플리케이션 또는 목적지에 TLS 우회 규칙이 구성되어 있어도 암호화된 트래픽을 검사합니다.
네트워크 트래픽을 검사할 수 있도록 인터넷 방화벽이 활성화되어야 하며, 인터넷 및 WAN 트래픽 권장사항에서 QUIC에 대한 기본 규칙이 인터넷 방화벽에서 활성화되어야 합니다.
사용자 상호 작용 정책 구성
하위 정책 활성화
규칙을 만들기 전에 Cato 관리 애플리케이션에서 최종 사용자에 대한 사용자 상호 작용 정책을 활성화합니다.
최종 사용자를 위한 AI 상호 작용 정책을 활성화하려면:
From the navigation menu, click AI Security > User Interaction Policy.
사용자 상호 작용 정책 토글을 활성화합니다.
인터셉션 유형 이해
각 사용자 상호작용 정책 규칙은 인터셉션 유형을 사용하여 해당 규칙에 대해 AI 트래픽을 Cato가 검사하는 방법을 정의합니다. 이것은 적용 수준과 커버해야 하는 AI 애플리케이션에 따라 다릅니다.
브라우저 플러그인: MDM 솔루션을 통해 배포된 Chrome 및 Edge를 위한 가벼운 브라우저 확장 프로그램입니다. 브라우저에서 직접 AI 애플리케이션 트래픽을 검사하여 네트워크를 통해 라우팅되지 않는 관리되지 않는 장치에서도 누가 AI 도구를 사용하는지 신뢰할 수 있는 가시성을 제공합니다. 트래픽이 인라인으로 검사되므로 이 방법은 AI 트래픽을 차단할 수 있습니다.
네트워크: Cato Cloud 인프라와 함께 작동: Cato 클라이언트, Cato 엔터프라이즈 브라우저 또는 소켓. 사용자에게 Cato 클라이언트를 배포한 계정의 경우, 이 인터셉션 유형은 추가 배포나 설정이 필요하지 않습니다. 트래픽이 인라인으로 검사되므로 이 방법은 AI 트래픽을 차단할 수 있습니다.
API 통합: API를 통해 Microsoft, GitHub, 또는 Anthropic와의 통합 예시와 같이 승인된 AI 애플리케이션에 직접 연결됩니다. 이 방법은 거의 실시간으로 정책 위반에 대한 모니터링 및 경고를 제공하지만 트래픽을 차단하지 않습니다. 이는 강제 적용보다 신뢰할 수 있는 이미 승인된 AI 앱의 가시성을 위해 설계되었습니다.
파일 첨부물 검사 이해
사용자 상호작용 정책은 지원되는 AI 애플리케이션의 프롬프트에 사용자가 첨부하는 파일의 지원되는 텍스트 기반 콘텐츠를 검사할 수 있습니다. 파일 첨부물 검사는 DLP와 독립적으로 작동하며 첨부 파일에서 추출된 콘텐츠에 사용자 상호작용 정책을 적용합니다.
파일 첨부물 검사는 ChatGPT, Gemini, Copilot, 그리고 Claude를 지원합니다.
파일 첨부물 검사에는 다음과 같은 제한이 있습니다:
최대 10MB까지 파일을 지원합니다
지원되는 텍스트 파일 형식, 예를 들어 TXT, JSON, XLS, PDF, 그리고 DOCX. OCR, 이미지 파일, 그리고 사진은 지원되지 않습니다.
파일 콘텐츠에 대한 작업으로 차단 및 모니터링만 지원됩니다. 파일 콘텐츠에 대한 익명화는 지원되지 않습니다.
파일 검사는 선택된 파일 콘텐츠를 평가하므로 위험한 콘텐츠가 스캔되지 않은 섹션에 나타날 때 감지가 달라질 수 있습니다.
파일 첨부물 검사는 사용자에 대한 AI 보안에만 지원됩니다.
사용자 상호 작용 정책 규칙 구성
사용자 상호 작용 정책 규칙을 만들려면:
From the navigation menu, click AI Security > User Interaction Policy.
새로운을 클릭하고 규칙에 대한 상호작용 유형을 선택합니다.
일반 섹션에서 이름 및 설명과 같은 필드를 구성합니다.
소스 섹션에서 규칙이 적용되는 사용자 또는 그룹을 선택하거나, 모든 소스에 규칙을 적용하려면 모든을 남겨둡니다.
애플리케이션 섹션에서 규칙이 적용되는 AI 애플리케이션을 선택하거나, 모든 지원 애플리케이션에 규칙을 적용하려면 모든을 남겨둡니다.
엔진 프로필 섹션에서 AI 프롬프트를 평가하는 데 사용되는 프로필을 선택합니다.
작업 섹션에서 작업을 선택하여 프롬프트가 콘텐츠 프로필과 일치할 때 적용됩니다, 예를 들어 차단.
API 규칙을 만드는 경우, 사용 가능한 유일한 작업은 모니터링입니다.
(선택 사항) 사용자에게 작업이 강제 적용될 때 알리기 위해 알림 템플릿을 선택합니다.
Click Save. The panel closes, and the settings are updated in the policy.
The changes are saved to your unpublished revision and are available for editing until they are published or discarded.클릭 게시. 확인 창이 열리고 게시를 클릭하십시오.
작업 이해하기
AI 상호작용 정책은 각 규칙에 대해 다음 작업을 지원합니다:
차단 - 프롬프트가 차단되고 AI 벤더에게 정보가 전송되지 않습니다.
모니터링 - 프롬프트가 AI 벤더에게 보내지고 상호작용이 모니터링됩니다.
익명화 및 차단 - 선택한 엔진 프로필에 포함된 탐지기가 있다면:
익명화된 콘텐츠 지원, 콘텐츠는 익명화되고 전송됩니다.
익명화된 콘텐츠 지원 안 함; 프롬프트가 차단됩니다.
익명화 및 모니터링 - 선택한 엔진 프로필에 포함된 탐지기가 있다면:
익명화된 콘텐츠 지원, 콘텐츠는 익명화되고 전송됩니다.
콘텐츠 익명화를 지원하지 않습니다. 프롬프트는 AI 벤더에게 발송되며 상호 작용은 모니터링됩니다.
참고: 익명화는 탐지기가 익명화할 수 있는 텍스트 콘텐츠에 대해서만 지원됩니다. 익명화 작업을 선택하면 Cato가 지원되는 콘텐츠를 익명화합니다. 익명화할 수 없는 콘텐츠, 파일 콘텐츠를 포함하여 Cato는 규칙에서 다른 작업을 적용합니다: 차단 또는 모니터링.