사용자 정의 AI 애플리케이션은 민감한 데이터, 비안전한 콘텐츠, 공격 시도 또는 조직의 AI 사용 정책을 위반하는 요청을 포함한 프롬프트를 처리할 수 있습니다. 이러한 애플리케이션에 대한 액세스를 차단하는 것은 위험을 줄일 수 있지만, 승인된 AI 워크플로의 가치를 제한할 수도 있습니다.
Guard 상호 작용 정책을 통해 특정 guard가 실시간으로 콘텐츠를 검사하고 위험하거나 비준수 콘텐츠가 감지될 때 작업을 적용하여 AI 상호 작용을 처리하는 방법을 제어할 수 있습니다. 모든 보호된 워크플로에 같은 보호를 적용하는 대신, 선택된 guard에 대해 세분화된 규칙을 만들고 각 애플리케이션의 보안 요구 사항에 맞는 엔진 프로필 및 작업을 할당할 수 있습니다.
Guards 상호 작용 정책 규칙을 사용하여 조직의 보안 및 관리 요구 사항에 기반하여 AI 상호 작용을 감지, 차단, 익명화 또는 모니터할 수 있습니다. 이것은 합법적인 비즈니스 사용을 방해하지 않고 민감한 정보를 보호하고 AI 애플리케이션 사용 정책을 강화하는 데 도움을 줍니다.
Guard 상호 작용 정책 구성
규칙을 만들기 전에 Cato 관리 애플리케이션에서 최종 사용자를 위한 Guard 상호 작용 정책을 활성화하세요.
정책을 활성화하려면:
네비게이션 메뉴에서 AI 보안을 선택합니다.
AI 앱 보안 아래에서 Guards 상호 작용 정책을 선택하세요
AI 앱 정책 토글을 활성화하세요.
Guard 상호 작용 정책 규칙 구성
Guard 상호 작용 정책의 규칙은 규칙 기반의 위치에 관계없이 평가됩니다. 한 개 이상의 규칙이 트리거되면 더 엄격한 작업이 적용됩니다. 예를 들어, 모니터 작업이 있는 규칙과 차단 작업이 있는 다른 규칙이 있는 경우, 차단 작업이 적용됩니다.
규칙을 생성하기 위해:
AI 상호 작용 정책 페이지에서 새로운을 클릭합니다.
일반 섹션에서 필드를 구성합니다, 예를 들어 이름과 설명뿐만 아니라 규칙의 위치.
Guard 섹션에서 규칙이 적용될 특정 guard를 선택하거나 전체 선택을 클릭하여 모든 guard에 규칙을 적용하세요.
엔진 프로필 섹션에서 AI 프롬프트를 평가하는 데 사용하는 프로필을 선택하세요.
엔진 프로필은 콘텐츠가 확인되는 데이터 유형입니다. 예를 들어, 프롬프트에 포함된 사회 보장 번호가 있는지 확인하기 위해 PII를 사용합니다.
작업 섹션에서 프롬프트가 콘텐츠 프로필과 일치할 때 적용할 차단과 같은 작업을 선택하세요.
규칙의 범위를 결정하기 위해 최소 하나 이상의 방향을 선택하여 규칙을 적용하세요
저장을 클릭하십시오.