이 문서는 Kong AI 게이트웨이를 Cato AI 보안과 통합하여 홈그로운 에이전트를 관리하고 정책 시행을 제공하는 정보를 제공합니다.
개요
Cato AI 보안은 기존 Kong AI 게이트웨이를 통과하는 AI 트래픽을 검사하고 정책을 강제 적용할 수 있게 해 줍니다. 각 애플리케이션을 별도로 구성하는 대신 게이트웨이를 Cato 가드에 연결하고 중앙 집중식 모니터링 및 정책 시행을 통해 트래픽을 관리합니다.
이 문서는 Kong AI 게이트웨이 통합 구성, 홈그로운 에이전트를 매핑하고 Interaction Explorer에서 정책 시행을 검증하는 방법을 설명합니다.
전제 조건
시작하기 전에 다음 요구 사항을 확인하십시오:
- 애플리케이션에 대한 AI 보안 라이센스
- AI 보안 > 가드 및 AI 보안 > 가드 상호작용 정책에 대한 관리자 권한
- Kong 컨슈머가 Kong 키 인증 플러그인으로 인증합니다.
- decK
kong.yaml구성을 생성하고 적용할 액세스 권한 - Kong Konnect 개인 액세스 토큰 및 제어 평면 이름 Kong Konnect 개인 액세스 토큰 페이지에서 토큰을 생성하십시오.
- Kong AI Custom Guardrail 플러그인 배포 권한
- Kong AI 게이트웨이를 통해 트래픽을 보내는 테스트 앱 또는 클라이언트
- Kong에서 Cato AI 보안 API 엔드포인트로의 네트워크 액세스
구성 워크플로우
통합에는 다음 단계가 포함됩니다:
| 스테이징 | 작업 | 결과 |
|---|---|---|
| 1 | AI 게이트웨이 가드 생성 | Cato는 가드를 생성하고 Kong을 위한 API 키를 제공합니다. |
| 2 | Kong 구성 | Kong이 Cato로 AI 트래픽을 보내어 검사합니다. |
| 3 | 게이트웨이 트래픽 확인 | Cato는 Interaction Explorer에서 가드로부터의 트래픽을 보여줍니다. |
| 4 | 홈그로운 에이전트 매핑 | Cato는 Kong 컨슈머 트래픽을 홈그로운 에이전트에 부여합니다. |
AI 게이트웨이 가드 생성
Kong 트래픽에 대한 Cato 시행 지점을 정의하기 위해 AI 게이트웨이 가드를 생성합니다.
가드를 생성하려면:
- 내비게이션 메뉴에서 AI 보안 > 경비를 선택합니다.
- 새로운을 클릭하십시오.
- 가드 이름에서 가드 이름을 입력합니다. 예:
Kong AI 게이트웨이. - 유형에서 AI 게이트웨이를 선택합니다.
- AI 게이트웨이 통합 유형에서 Kong을 선택합니다.
- 가드 호스트에서 배포에 적합한 Cato 클라우드 또는 아웃포스트를 선택합니다.
- 저장을 클릭하십시오.
가드를 저장한 후 Kong에서 트래픽을 받을 준비가 됩니다. 정책 규칙을 구성할 때까지 가드는 규칙을 강제하지 않습니다.
Kong AI 게이트웨이 구성
Guard API 키를 사용하여 Kong AI Custom Guardrail 플러그인을 구성합니다. 플러그인은 AI 트래픽을 Cato로 보내어 검사하고 Cato가 차단 작업을 반환할 때 요청을 차단합니다.
Guard 연결 세부 정보 가져오기
Guard 연결 세부 정보를 가져오려면:
- 내비게이션 메뉴에서 AI 보안 > 경비를 선택합니다.
- Kong AI 게이트웨이 가드를 선택합니다.
- 배포 탭을 선택합니다.
- Guard API 키 중 하나를 복사합니다.
각 가드에는 두 개의 API 키가 있습니다. 트래픽 검사를 중단하지 않도록 인증서를 회전할 때 사용되지 않은 키를 사용하십시오.
Kong AI Custom Guardrail 플러그인 구성
플러그인은 다음 설정을 사용합니다:
| 필드 | 설명 |
|---|---|
guarding_mode |
Cato가 검사하는 트래픽을 지정함: INPUT, OUTPUT, 또는 BOTH |
stop_on_error |
true일 때, Kong이 Cato에 도달하지 못하면 트래픽을 차단합니다. 다음과 같을 때 사용: false를 설정하여 Cato가 사용 불가일 때 트래픽을 허용합니다. |
api_key |
Kong을 Cato 가드에 인증함 |
api_base |
귀하의 CMA 지역에 대한 Cato AI 보안 API 기본 URL |
Cato는 텍스트만 검사합니다. 이미지 콘텐츠는 검사되지 않습니다.
플러그인을 구성하려면:
-
다음을
kong.yaml로 저장하십시오._format_version: "3.0" plugins: - name: ai-custom-guardrail config: guarding_mode: BOTH text_source: concatenate_all_content stop_on_error: true params: api_key: "${{ env \"DECK_CATO_API_KEY\" }}" api_base: "<CATO_AI_SECURITY_API_BASE_URL>" request: url: $(conf.params.api_base)/fw/v1/analyze headers: Authorization: Bearer $(conf.params.api_key) Content-Type: application/json x-cato-gateway-key-alias: "$(get_key_alias)" body: messages: "$(build_messages)" response: block: "$(check_response.block)" block_message: "$(check_response.block_message)" ssl_verify: true functions: get_key_alias: | return function() local c = kong.client.get_consumer() return (c and (c.username or c.id)) or "" end check_response: | return function(resp) local ra = resp and resp.required_action local block = type(ra) == "table" and ra.action_type == "block_action" local reason if block then reason = ra.detection_message or "Blocked by Cato Networks guardrail" else reason = "Allowed by Cato Networks guardrail" end return { block = block, block_message = reason, } end build_messages: | return function(content, source) if source == "OUTPUT" then return { { role = "assistant", content = content } } end local body = kong.request.get_body() if body and body.messages then return body.messages end return { { role = "user", content = content } } end -
<CATO_AI_SECURITY_API_BASE_URL>을 귀하의 CMA 지역에 대한 Cato AI 보안 API 기본 URL로 바꾸십시오. -
Kong Konnect 및 Cato 인증서를 환경 변수로 설정하십시오:
export KONNECT_TOKEN=<your-kong-konnect-personal-access-token> export DECK_KONNECT_TOKEN=$KONNECT_TOKEN export DECK_KONNECT_CONTROL_PLANE_NAME=<your-control-plane-name> export DECK_KONNECT_CONTROL_PLANE_REGION=<region>.api.konghq.com export DECK_CATO_API_KEY=<guard-api-key> -
구성을 Kong 제어 평면에 적용하십시오:
deck gateway sync kong.yaml
가드 API 키를 안전하게 저장하십시오. 환경 변수 또는 비밀 관리자를 사용하고 키를 소스 컨트롤에 커밋하지 마십시오.
Kong 통합 행동
- 응답 측면에서 Kong은 사용자 정의 가드레일 플러그인에게 비서 응답 텍스트만 노출합니다. 도구 호출은 실시간으로 노출되지 않기 때문에 Cato는 실행 이전에 검사하거나 차단할 수 없습니다. Cato는 모니터링을 위한 후속 요청에서 이를 수신합니다.
- 통합은 기본적으로 닫힌 상태에서 실패합니다. Cato에 도달할 수 없는 경우 Kong이 트래픽을 차단합니다. stop_on_error를
false로 설정하여 가용성이 엄격한 시행보다 중요한 경우 열림 실패 행동을 사용합니다. - Kong은 사용자 정의 가드레일 플러그인을 통한 서버 전송 이벤트(SSE) 검사를 지원하지 않습니다. LLM 응답이 스트림일 때 Cato는 사용자 메시지와 도구 응답만 검사할 수 있습니다.
- 통합은 OpenAI Chat Completions API 형식을 지원합니다.
Cato에서 게이트웨이 트래픽을 확인합니다.
Kong 트래픽이 Cato에 도달하는지 확인하기 위해 Interaction Explorer를 사용하십시오.
게이트웨이 트래픽을 확인하려면:
- Kong AI 게이트웨이를 통해 앱에서 테스트 프롬프트를 보냅니다.
- 내비게이션 메뉴에서 AI 보안 > Interaction Explorer을 선택합니다.
- 가드 목록에서 Kong AI 게이트웨이 가드로 필터링합니다.
- 테이블에 테스트 세션이 표시되는지 확인합니다.
홈그로운 에이전트를 매핑하기 전에 Homegrown Agent 열은 트래픽에 대한 대시(-)를 표시합니다. 이는 예상된 행동입니다.
홈그로운 에이전트를 가드에 매핑
각 홈그로운 에이전트를 인증하는 Kong 컨슈머 이름에 매핑합니다. Cato는 이러한 매핑을 사용하여 Kong 트래픽을 올바른 홈그로운 에이전트에 부여합니다.
홈그로운 에이전트를 매핑하려면:
- Kong에서 홈그로운 에이전트에 대한 컨슈머 사용자 이름을 식별하십시오.
- 내비게이션 메뉴에서 AI 보안 > 경비를 선택합니다.
- Kong AI 게이트웨이 가드를 선택합니다.
- 구성 탭을 선택합니다.
- 매핑된 홈그로운 에이전트에서 매핑할 홈그로운 에이전트를 목록에서 선택합니다.
- 단계 1에서 가져온 컨슈머 사용자 이름을 Kong 컨슈머 이름에 입력합니다.
- 저장을 클릭하십시오.
매핑은 매핑된 홈그로운 에이전트 테이블에 표시됩니다. 이를 제거하려면 행에서 삭제 아이콘을 클릭합니다.
에이전트 부여 확인
Cato가 트래픽을 매핑된 홈그로운 에이전트에 부여하는지 확인합니다.
에이전트 부여를 확인하려면:
- 매핑된 컨슈머를 사용하여 Kong을 통해 테스트 요청을 보냅니다.
- 내비게이션 메뉴에서 AI 보안 > Interaction Explorer을 선택합니다.
- 매핑된 홈그로운 에이전트로 보기 필터링
- 홈그로운 에이전트 열이 매핑된 에이전트를 표시하는지 확인합니다.
매핑이 올바르면 Interaction Explorer는 대시 대신 홈그로운 에이전트 이름을 표시합니다.