최종 사용자에 대한 AI 보안 - 세션 탐색기를 사용한 모니터링 및 분석

세션 탐색기 페이지는 조직 전체에서 AI 채팅 애플리케이션의 사용을 모니터링하고 사용자 프롬프트를 통해 데이터 노출의 잠재적 위험을 평가할 수 있게 해줍니다. AI 보안을 활성화한 후, 페이지는 지원되고 활성화된 AI 애플리케이션으로 전송된 프롬프트에 대한 가시성을 제공하여 사용 패턴을 이해하고 잠재적으로 위험한 상호작용을 조사할 수 있게 도와줍니다.

각 상호작용은 단일 프롬프트를 나타내며 프롬프트를 받은 AI 애플리케이션과 감지된 주제 및 의도를 포함한 컨텍스트 정보를 포함합니다.

탐지

모니터 작업이 포함된 AI 보안 규칙을 정의하면, 일치하는 프롬프트가 탐지 표시와 함께 AI 상호작용 페이지에 나타납니다. 이 상호작용에 대해:

감지 열은 감지를 유발한 모니터링 프로필을 보여줍니다
모니터링 규칙이 프롬프트와 일치하는지 빠르게 식별할 수 있습니다

이 정보는 규칙 적용 범위를 검증하고 정책을 조정하는 데 도움이 됩니다.

상호작용 세부 정보

특정 상호작용을 깊이 들여다볼 때, 사용 가능한 세부 정보는 할당된 권한에 따라 달라집니다. 관리자 민감한 내용 읽기 권한을 가진 사용자는 AI 애플리케이션으로 전송된 실제 프롬프트를 볼 수 있습니다. 프롬프트에 문제가 있는 내용이 포함된 경우, 관련 섹션이 플래그 또는 하이라이트 됩니다. 규칙 작업에 차단이 포함된 경우, 상호작용 세부 정보는 사용자에게 제공된 차단 페이지를 보여줍니다.

역할과 권한에 관한 정보는 RBAC을 사용하여 관리자 역할 관리하기를 참조하세요.

참고: 프롬프트 보기와 같은 작업은 감사 로그에 기록됩니다.

사용 사례 - 직원이 AI 채팅을 어떻게 사용하는지 이해하기

ABC 회사는 AI 보안을 활성화하여 직원들이 일상 업무에서 AI 채팅 애플리케이션을 어떻게 사용하는지에 대한 가시성을 얻습니다. AI 상호작용 페이지의 상호작용을 검토함으로써 보안 팀은 사용자들이 AI 도구에 어떤 종류의 질문과 요청을 제출하는지 확인할 수 있습니다.

이 통찰력은 조직이 직원 활동을 더 잘 이해하고 공통 지식 격차나 반복적인 지원 요구 사항을 식별하며, 추가적인 지침, 교육 또는 활성화를 통해 생산성을 향상시키면서 위험을 줄이는 데 도움을 줍니다.

AI 상호 작용 분석

세션 세부 정보를 사용하여 특정 AI 상호 작용을 분석하여 전체 컨텍스트를 이해하고, 탐지를 검증하며, 피드백이나 후속 조치를 필요로 하는 문제를 식별할 수 있습니다.

AI 상호 작용을 분석하려면:

네비게이션 메뉴에서 AI 보안 > 세션 탐색기를 클릭합니다.
조사할 상호 작용을 선택하고 세션 내용을 보려면 세션 공개를 클릭하십시오.
프롬프트와 대응 순서를 검토하여 상호작용의 전체 컨텍스트를 이해합니다.
특정 프롬프트에 대해 조사를 계속하려면 분석 보기를 클릭합니다. 엔진 분석 보고서가 열립니다.

분석 보고서 검토 중

엔진 분석 보고서는 특정 프롬프트가 AI 보안 엔진에 의해 전송 당시 어떻게 평가되었는지에 대한 세부적인 보기를 제공합니다. 각 규칙, 프로필, 그리고 감지기가 실행 중 활성 상태였음을 표시하여 감지가 어떻게 결정되었는지 이해하는 데 도움을 줍니다. 각 보고서에는 참조, 세션 탐색기에서 검색, 또는 지원팀과 작업 시 사용할 수 있는 분석 ID가 포함되어 있습니다.

보고서 내에서 탐지가 시각적으로 표시됩니다:

노란색으로 표시된 프로필은 탐지가 발생했음을 나타냅니다. 이것은 이 DNS 정책 프로필이 실행되었으며 적어도 하나의 탐지기가 일치한 결과를 생성했음을 의미합니다.
초록색으로 표시된 프로필은 규칙이 실행되었지만 탐지가 발생하지 않았음을 나타냅니다.

행동을 추가 조사하기 위해, 엔진 플레이그라운드에서 열기를 클릭하여 전체 세션을 다시 실행할 수 있습니다. 이를 통해 현재 DLP 프로필이 어떻게 동작하는지 확인하고 결과가 예상과 다를 경우 구성을 미세 조정할 수 있습니다.

분석 보고서를 검토할 때, 구성이 실행된 이후 업데이트되었을 수 있음을 유념하세요. 결과적으로 현재 정의는 원래 프롬프트가 평가되었을 때 적용된 것과 다를 수 있습니다.

피드백 제출

프롬프트의 탐지 결과가 부정확할 경우, Cato가 탐지를 평가하는 데 도움이 될 피드백을 제출할 수 있습니다. 오탐의 경우, 잘못 일치한 프롬프트에 대해 트리거된 탐지기를 검토하십시오. 탐지기가 트리거되어야 했으나 트리거되지 않은 경우, 해당 프롬프트가 전송될 당시 실행 중인 모든 탐지기를 검토하십시오.

예상 결과를 설명하기 위해 자유 텍스트 댓글을 추가하고 조사를 돕기 위한 컨텍스트를 제공하십시오. Cato는 피드백을 검토하고, 시간이 지남에 따라 탐지기 품질을 개선하는 데 이를 사용합니다.

중요한 문제에 대해, 피드백이외에도 지원 티켓을 열 수 있습니다.

AI 상호작용에 대한 피드백을 제출하려면:

엔진 분석에서 피드백 제출을 클릭하십시오.
오탐을 보고하려면 트리거된 탐지기를 사용하십시오.
오검을 보고하려면 해당 프롬프트의 프로필에 활성 상태였던 탐지기를 검토하기 위해 모든 탐지기를 사용하십시오.
관련 탐지기 또는 탐지기를 선택하십시오.
추가 컨텍스트를 제공하기 위해 자유 텍스트 댓글을 추가하십시오.
긴급한 문제에 대해 지원 티켓 열기를 선택하십시오.
제출을 클릭합니다.