AI 보안 가드와 작업

AI 보안 가드가 당신이 생성하는 AI 기반 애플리케이션을 보호하고 관리하며, 런타임에서 보안 통제를 실행합니다. 이들은 당신이 생성한 AI 애플리케이션, 사용자 및 지원되는 AI 모델 간의 트래픽을 검사하고 통제할 규칙을 실행할 수 있도록 합니다. 가드를 사용하여 악성 프롬프트, 안전하지 않은 콘텐츠 및 민감한 데이터 노출을 애플리케이션에 영향을 미치기 전에 감지합니다. 가드는 또한 AI 애플리케이션이 어떻게 사용되는지에 대한 가시성을 제공하여 위반 사항을 모니터링하고 조직 정책을 일관된 제어 포인트로 강제합니다.

가드는 AI 보안을 위한 강제 실행 층으로 작동합니다. 정책에서 설정한 감지 및 액션에 따라 프롬프트와 적절한 경우 모델 응답을 평가합니다. 정책 매치에 기반하여 가드는 상호작용을 허용, 차단 또는 기록할 수 있습니다.

가드의 작동 원리

가드는 AI 트래픽을 검사하고 정책에 정의된 감지 및 액션과 비교합니다. 이는 트래픽이 모델 제공자에 도달하기 전에 AI 상호작용에 보안 및 거버넌스 통제를 적용할 수 있게 하며, 일부 경우에는 응답이 사용자에게 반환되기 전에도 가능합니다.

트래픽 흐름

AI 보안은 당신의 애플리케이션이 가드와 어떻게 통합되는지에 따라 다양한 트래픽 흐름 모델을 지원합니다.

• 프록시 모드 - 이 모드에서는 가드가 애플리케이션과 AI 제공자 사이에 인라인으로 배치됩니다. 사용자 애플리케이션은 요청을 가드를 통해 보내며, 가드는 콘텐츠를 정책에 따라 평가한 후 트래픽을 제공자에게 전달합니다.

  이 모드는 트래픽 경로 내에서 직접 제어를 적용할 수 있게 합니다. 가드는 요청이 제공자에게 도달하기 전과 지원되는 경우에는 응답이 애플리케이션에 반환되기 전에 요청을 검사할 수 있습니다. 이는 실시간 보호 및 가시성을 위한 직접적인 강제 실행 포인트를 제공합니다.

  

• API 모드 - API 모드에서는 애플리케이션이 인라인 프록시를 통해 트래픽을 라우팅하는 대신 API 기반 통합을 통해 가드와 상호작용합니다. 애플리케이션은 애플리케이션 흐름의 일환으로 평가를 위해 관련 콘텐츠를 가드로 보냅니다.

  이 모드는 인라인 배포가 선호되지 않는 환경에 대한 유연성을 더욱 향상시킵니다. 가드는 여전히 정책에 따라 콘텐츠를 평가하나, 강제 실행 흐름은 애플리케이션이 가드와 어떻게 통합되는지에 따라 달라집니다.

  

가드는 무엇을 감지하고 강제합니까

당신은 AI 관련 위험 범위에 대한 정책을 감지하고 강제하기 위해 가드를 사용할 수 있습니다. 포함되는 사항은 다음과 같습니다:

• 프롬프트 주입 시도

• 안전하지 않거나 제한된 콘텐츠

• 개인 식별 정보(PII) 또는 보호된 건강 정보(PHI)와 같은 민감한 데이터 노출

• 회사 정책에 따른 주제 또는 사용 위반

• 의심스럽거나 규격에 맞지 않는 AI 상호작용

가드가 일치를 감지하면 정책에 구성된 액션을 적용합니다. 예를 들어, 가드는 요청을 차단하거나 허용할 수 있으며, 모니터링 및 조사를 위한 이벤트를 기록할 수 있습니다.

유스 케이스 - 내부 AI Assistant 보호

귀사의 경우, 내부 문서를 검색하고 콘텐츠를 요약하기 위해 내부 AI Assistant를 사용하여 직원들을 돕습니다. 민감한 데이터 노출 위험, 프롬프트 주입 및 정책 위반을 줄이기 위해 AI 보안 가드를 애플리케이션 트래픽에 적용합니다.

가드는 프롬프트와 지원되는 경우 응답을 AI 보안 정책에 따라 검사합니다. 콘텐츠가 AI 제공자에 도달하거나 사용자에게 반환되기 전에 안전하지 않거나 규격에 맞지 않는 상호작용을 감지하여 차단하거나 기록할 수 있습니다.

지원되는 공급업체

프록시 모드는 다음 공급업체 및 API 형태를 지원합니다.