가드는 사용자 정의 AI 애플리케이션에서 AI 보안을 위한 강제 적용 포인트입니다. 가드를 사용하여 AI 상호 작용을 검사하고 정책 작업을 적용하며 보호된 애플리케이션이 어떻게 사용되는지를 자세히 볼 수 있습니다. 가드 개념과 사용 사례에 대한 추가 정보는 AI 보안 가드 작업을 참조하십시오.
이 문서에서는 가드를 생성하고 생성된 인증 키를 사용하여 AI 애플리케이션에 연결하고 배포 후 가드 활동을 모니터링하는 방법을 설명합니다.
가드 정의
AI 보안 > 가드 페이지에서 가드를 생성하고 관리합니다. 이 페이지는 계정 내 모든 가드를 나열하고 가드 유형, 호스팅 위치, AI 상호 작용, 위반 횟수, 생성 날짜 등의 요약 정보를 포함합니다.
가드를 생성하려면
탐색 메뉴에서 AI 보안 > 가드를 선택하고 새로운을 클릭합니다.
가드 이름을 입력하십시오. Cato는 가드가 어떤 애플리케이션에 적용되는지를 기억하는 데 도움이 되는 설명력을 제공할 것을 권장합니다.
가드 유형을 선택합니다:
프록시: 가드가 인라인으로 프롬프트를 차단하고 Cato가 구성된 작업을 수행합니다
API: 가드가 프롬프트를 가로채지 않고 스캔하며, Cato가 감지 결과를 반환하여 애플리케이션이 작업을 적용할 수 있도록 합니다
AI 게이트웨이: 가드가 기존 AI 게이트웨이와 통합되어 프롬프트를 스캔하고 자동으로 차단합니다
프록시 가드 유형을 선택한 경우, AI 서비스와 인터페이스할 가드를 선택하고 서비스 API 키를 입력하십시오.
검증을 클릭하여 올바른 키가 입력되었는지 확인하십시오
API 가드 유형을 선택한 경우 가드를 외부 지점에 호스트할지 여부를 결정하십시오.
(선택 사항) Cato가 검사할 수 없는 요청을 어떻게 처리하는지 결정하십시오. 허용 패스스루 토글을 활성화하여 요청을 AI 서비스 엔드포인트로 검사 없이 전달하십시오. 패스스루 허용을 비활성화하여 이러한 요청을 거부합니다.
저장을 클릭하십시오.
AI 애플리케이션에서 가드 구현
가드를 생성한 후, 가드 페이지에서 애플리케이션에 대한 구현 세부 정보를 보려면 열어보세요. 가드 세부 정보 페이지는 애플리케이션 트래픽을 가드에 연결하는 데 필요한 정보를 제공합니다.
가드 유형 및 서비스에 따라 페이지에는 다음이 포함될 수 있습니다:
엔드포인트 세부 정보
필수 헤더
요청 본문 형식
가드 API 키
이 페이지는 애플리케이션 통합의 시작점으로 사용할 수 있는 샘플 요청 코드도 포함합니다.
생성된 코드를 사용하여 애플리케이션을 업데이트하여 선택한 통합 유형에 따라 트래픽이 가드를 통해 전송되거나 가드에 의해 평가되도록 합니다.
가드 활동 모니터링
가드를 배포한 후에는 규칙이 적용되는지, 정책 위반을 감지하는지 이해하기 위해 활동을 검토할 수 있습니다. 특정 세션을 클릭하면 모델에 보내진 실제 상호 작용 데이터를 확인할 수 있습니다.
참고: 세션 데이터를 보려면 필요한 민감한 콘텐츠 읽기 권한이 있어야 합니다. 역할 및 권한에 대한 정보는 RBAC을 사용하여 관리자 역할 관리하기를 참조하세요.
가드 개요 페이지는 상호 작용, 위반 비율, 활성 규칙 등의 요약 정보를 제공합니다.
이 데이터를 사용하여 가드가 얼마나 자주 사용되는지, 어떤 정책이 활성으로 적용되는지, 상호 작용이 얼마나 자주 감지나 위반을 유발하는지 이해할 수 있습니다.
가드 로깅
가드 로깅 페이지는 가드가 처리하는 트래픽에 대한 세션 수준 가시성을 제공합니다. 각 세션에 대해 다음과 같은 요약 필드를 검토할 수 있습니다:
세션 ID
호출
탐지
첫 활동
최근 활동
세션을 확장하여 수행된 작업, 세션의 타임스탬프 등의 추가 정보를 볼 수 있습니다.
이 데이터는 가드 활동을 더 자세히 조사하고 가드가 예상대로 정책을 준수하고 있는지 확인하는 데 도움이 됩니다.