Press CTRL+K to open search

포트키 AI 게이트웨이 통합을 Cato AI 보안과 구성하기

  • 업데이트 날짜 Sep 8, 2026
  • 에 게시됨 Aug 2, 2026
  • 4 읽은 시간(초)
Prev Next

개요

Cato AI 보안은 기존 포트키 AI 게이트웨이를 통해 흐르는 AI 트래픽에 대한 정책을 검사하고 적용할 수 있게 해줍니다. 각 애플리케이션을 개별적으로 구성하는 대신, 게이트웨이를 Cato 가드에 연결하고 게이트웨이 트래픽에 중앙 집중식 모니터링, 데이터 보호, 정책 강제 적용을 적용합니다.

이 문서는 포트키 AI 게이트웨이 통합을 구성하고, 자체 개발 앱을 매핑하며, Guard 로깅에서 정책 강제 적용을 검증하는 방법을 설명합니다.

사전 준비사항

시작하기 전에 다음 요구 사항이 충족되었는지 확인하십시오.

  • AI 게이트웨이 가드를 지원하는 AI 보안 라이선스

  • AI 보안 > 가드 및 AI 보안 > 가드 상호작용 정책의 관리자 권한

  • 배포 및 작동 중인 포트키 AI 게이트웨이

  • 포트키 AI 게이트웨이를 다시 시작하거나 다시 불러올 수 있는 권한

  • 매핑할 자체 개발 앱의 연결 매개변수

  • AI 게이트웨이를 통해 트래픽을 보내는 테스트 앱 또는 클라이언트

  • 포트키에서 https://api.aisec.catonetworks.com으로의 네트워크 액세스

구성 워크플로우

통합에는 다음 단계가 포함됩니다.

스테이징

작업

결과

1

AI 게이트웨이 가드 생성

Cato는 가드를 생성하고 포트키에 대한 연결 세부 정보를 제공합니다.

2

포트키 구성

포트키는 AI 트래픽을 Cato로 전송하여 검사를 받습니다.

3

자체 개발 앱 매핑

Cato는 특정 자체 개발 앱에 게이트웨이 트래픽을 할당합니다.

4

정책 강제 적용을 구성합니다.

Cato는 일치하는 트래픽에 AI 보안 정책 규칙을 적용합니다.

AI 게이트웨이 가드 생성하기

포트키 트래픽의 Cato 강제 적용 지점을 정의하기 위해 AI 게이트웨이 가드를 생성합니다.

가드를 생성하려면:

  1. 내비게이션 메뉴에서 AI 보안 > 경비를 선택합니다.

  2. 새로운을 클릭하십시오.

  3. 가드 이름에 가드 이름을 입력합니다.

    예시: Portkey-Sample

  4. 유형에서 AI 게이트웨이를 선택합니다.

  5. AI 게이트웨이 통합 유형에서 LiteLLM을 선택합니다.

  6. 가드의 호스트에서 Cato의 클라우드를 선택합니다.

  7. 자체 개발 에이전트 매핑을 비워 둡니다.

  8. 저장을 클릭하십시오.

가드를 저장한 후 포트키 AI 게이트웨이로부터 트래픽을 받을 준비가 됩니다. 가드는 활성 상태이지만, 정책 규칙을 구성해야 규칙을 강제 적용하지 않습니다.

게이트웨이 통합을 검증한 후 자체 개발 앱을 매핑합니다.

포트키 구성

AI 게이트웨이가 Cato로 트래픽을 보내어 검사를 받도록 가드 연결 세부 정보로 포트키를 구성합니다.

가드 연결 세부 정보 가져오기

경비 연결 세부 정보를 가져오기 위해:

  1. 내비게이션 메뉴에서 AI 보안 > 경비를 선택합니다.

  2. AI 게이트웨이 가드를 선택합니다.

  3. 가드 구성에서 연결 세부 정보를 복사합니다.

가드 연결 세부 정보에는 다음이 포함됩니다.

  • API 키

  • 가드레일 구성 스니펫

  • Cato API 기본 URL

가드레일 구성은 다음 구조를 사용합니다.

curl -i https://api.portkey.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "x-portkey-api-key: "
  -d '{
    "model": "gpt-3.5-turbo",
    "messages": [
      {"role": "user", "content": "hi my email is joe@acme.com"}
    ]
  }'

주요 필드는 다음과 같습니다.

필드

설명

x-portkey-api-key

Portkey를 인증하여 Cato Guard에 연결합니다.

모델

Portkey가 요청을 보내는 LLM 모델 정의

메시지

사용자가 LLM에 보내는 프롬프트를 포함하고, Cato가 검사를 시행합니다.

API 키를 안전하게 저장하고 소스 제어에 커밋하지 않도록 하십시오. 배포가 환경 변수 또는 비밀 관리자 지원을 제공하는 경우, API 키를 Portkey 설정에 직접 저장하는 대신 해당 방법을 사용하십시오.

Portkey에서 Cato 플러그인 구성하기

Portkey AI 게이트웨이 트래픽을 Cato Guard로 보내려면, Portkey 조직 설정에서 Cato Networks 플러그인을 활성화하고 Cato의 Guard 배포 세부 정보로 구성합니다.

1. Portkey에서 조직 설정을 클릭하십시오.

2. 플러그인 페이지로 이동하십시오.

3. Cato Networks 플러그인을 검색하십시오.

4. Cato Networks 플러그인을 활성화하십시오.

5. 플러그인 설정에서 Cato의 가드 배포 페이지에서 제공된 값을 입력하십시오.

  - API 키

  - API 기본 URL

6. 업데이트를 클릭하십시오.

플러그인이 활성화된 후, Portkey는 Cato Guard에 인증하고 LLM 입력과 출력을 검사할 수 있습니다.

Cato Networks를 위한 Portkey 가드레일 생성

Cato Networks 플러그인을 활성화하고 구성한 후, 플러그인을 사용하여 Cato로 LLM 입력과 출력을 보내도록 Portkey 가드레일을 생성합니다.

각 자체 개발 앱에 대한 가시성을 원하면, 각 앱에 대한 개별 Portkey 가드레일을 생성하십시오. 가드 수준에서의 가시성이 필요한 경우 단일 Portkey 가드레일을 사용할 수 있습니다.

1. Portkey에서 가드레일 페이지로 이동하십시오.

2. 생성을 클릭하십시오.

3. 사용 가능한 검사에선, 파트너 탭을 클릭하십시오.

4. Cato Networks를 검색하십시오.

5. Cato Networks 가드레일 카드에서 추가를 클릭하십시오.

6. 가드레일 이름을 입력하십시오.

7. 저장을 클릭하십시오.

자체 개발 앱을 포트키 구성 및 API 키에 연결하기

Portkey는 구성을 사용하고 API 키를 통해 특정 가드레일을 통해 트래픽을 라우팅합니다. Cato 가드레일을 적용하려면, 가드레일 ID를 복사하고 이를 참조하는 구성을 생성한 후, 구성을 사용하는 API 키를 생성합니다.

각 자체 개발 앱에 대한 가시성이 필요하면, 각 앱에 대한 개별 Portkey 구성 및 API 키를 생성하십시오. 가드 수준에서 가시성만 필요한 경우, 단일 구성 및 API 키를 사용할 수 있습니다.

  1. Portkey에서 가드레일 페이지로 이동하십시오.

  2. 생성한 Cato 가드레일의 ID를 복사하십시오.

  3. 구성 페이지로 이동하십시오.

  4. 생성을 클릭하십시오.

  5. 구성을 편집하여 입력_가드레일 및 출력_가드레일 모두에 가드레일 ID를 포함시킵니다.

    { "retry": { 
    "attempts": 3 }, 
    "cache": { 
    "mode": "simple" }, 
    "input_guardrails": [ "pg-portke-sampleID" ], 
    "output_guardrails": [ "pg-portke-sampleID" ] 
}

  6. 샘플 ID를 이전에 복사한 가드레일 ID로 대체하십시오.

  7. 저장을 클릭합니다.

  8. API 키 페이지로 이동하십시오.

  9. 새로 만들기를 클릭하십시오.

  10. API 키의 이름을 입력하십시오.

  11. 생성한 구성을 선택하십시오.

  12. 생성을 클릭하십시오.

Cato에서 게이트웨이 트래픽 확인 (옵션)

Guard 로깅을 사용하여 Portkey 트래픽이 Cato에 도달함을 확인하십시오.

Cato의 게이트웨이 트래픽을 확인하려면:

  1. 앱에서 테스트 프롬프트를 생성하십시오.

  2. 내비게이션 메뉴에서 AI 보안 > 상호작용 탐색기를 선택하십시오.

  3. 가드 드롭다운에서 가드에 따라 선택 항목을 필터링하십시오.

  4. 로그 항목에 가드 이름이 표시되는지 확인하십시오.

이 시점에서, 자체 개발 에이전트 열에서는 각 항목에 대해 대시(-)가 표시됩니다. 아직 가드에 매핑된 자체 개발 앱이 없기 때문에 이는 예상된 결과입니다.

이 단계에서는 Cato가 게이트웨이 트래픽을 기록합니다. 앱 매핑 후, Cato는 해당 트래픽을 특정 자체 개발 앱에 할당합니다.

자체 개발 앱을 가드에 매핑하기

Cato에서 포트키 가드레일 이름을 사용하여 앱을 매핑합니다. 가드 구성이나 자체 개발 앱 구성에서 자체 개발 앱을 매핑할 수 있습니다. 이 절차는 가드 구성을 사용합니다.

자체 개발 앱을 가드에 매핑하려면:

  1. 내비게이션 메뉴에서 AI 보안 > 가드를 선택합니다.

  2. AI 게이트웨이 가드를 선택합니다.

  3. 자체 개발 에이전트 매핑에서 매핑 추가를 클릭합니다.

  4. 자체 개발 에이전트에서 자체 개발 앱을 선택합니다.

    예시:Portkey-sample-1

  5. 가상 키 별칭에 앱 포트키 가드레일 이름을 입력합니다.

  6. 저장을 클릭하십시오.

앱 할당 확인

Cato가 게이트웨이 트래픽을 매핑된 자체 개발 앱에 할당했는지 확인하십시오.

앱 할당을 확인하려면:

  1. 매핑된 자체 개발 앱에서 Portkey를 통해 테스트 요청을 보냅니다.

  2. 내비게이션 메뉴에서 AI 보안 > 상호작용 탐색기를 선택합니다.

  3. 매핑된 자체 개발 에이전트로 보기를 필터링하십시오.

    예시: Portkey-sample-1

  4. 자체 개발 에이전트 열에 매핑된 앱이 표시되는지 확인하십시오.

앱이 올바르게 매핑되면 Guard 로깅에 대시(-) 대신 앱 이름이 표시됩니다.

가드 상호작용 정책 규칙 구성하기

Guards Interaction Policy 규칙을 구성하여 일치하는 LiteLLM 트래픽에 AI 보안 제어를 강제적으로 적용합니다.

규칙을 생성하기 전에 범위가 강제 적용에 미치는 영향을 이해하십시오.

범위

강제 적용 행동

가드 전용

선택한 AI 게이트웨이 가드의 모든 트래픽에 적용됩니다.

특정 자체 개발 에이전트

선택된 자체 개발 앱의 트래픽에만 적용됩니다.

Guards Interaction Policy 규칙을 구성하려면:

  1. 내비게이션 메뉴에서 AI 보안 > Guards 상호작용 정책을 선택합니다.

  2. 새로운을 클릭하십시오.

  3. 이름에 규칙의 이름을 입력합니다.

    예시: PII 차단

  4. 활성화됨 토글을 사용하여 규칙을 활성화하십시오.

    활성화되면 토글이 녹색으로 표시됩니다．

  5. 경비원에서 AI 게이트웨이 가드를 선택합니다.

    예시: Portkey-sample-1

  6. 에이전트에서 매핑된 자체 개발 앱을 선택합니다.

    예시: Portkey-sample-1

  7. 엔진 프로필에서 관련 콘텐츠를 탐지하는 데 사용하는 프로필을 선택합니다.

    예시: 개인 식별자

  8. 작업에서 강제적용 작업을 선택합니다.

    예시: 익명화 및 모니터링

  9. 저장을 클릭하십시오.

  10. 게시를 클릭합니다.

정책이 게시되고 전파된 후, 규칙은 일치하는 트래픽에 대해 시행됩니다.

정책 강제 적용 확인

규칙 범위와 엔진 프로필에 일치하는 테스트 트래픽을 보내 정책 강제 적용을 확인합니다.

정책 강제 적용 확인:

  1. 매핑된 홈그로운 앱을 통해 LiteLLM에서 테스트 요청을 보냅니다.

  2. 선택된 엔진 프로필에 일치하는 내용을 포함합니다.

  3. 네비게이션 메뉴에서 AI 보안 > 경비를 선택합니다.

  4. AI 게이트웨이 경비를 선택합니다.

  5. 경비 로깅을 엽니다.

  6. 매핑된 홈그로운 에이전트로 로그를 필터링합니다.

  7. 위반된 규칙이 정책 규칙을 표시하는지 확인합니다.

    예시: 개인 식별 정보 차단

선택된 엔진 프로필과 일치하지 않는 트래픽은 위반된 규칙을 표시하지 않고 정상적으로 통과합니다.

관련 기사