참고: 이것은 제한된 릴리스에서만 사용할 수 있는 초기 사용 기능(EA)입니다. 기능 활성화에 대한 정보는 ea@catonetworks.com으로 이메일을 보내거나 Cato Networks 담당자에게 문의하십시오.
이 기능은 라이선스가 부여된 최종 사용자용 AI 보안 및 애플리케이션 서비스용 AI 보안의 일부입니다.
개요
사용자 정의 주제 및 의도 탐지기는 AI 애플리케이션이 처리하기 전에 사용자 프롬프트를 실시간으로 분석하여 위험한 주제와 근본적인 의도를 식별합니다.
이로써 조직은 허용 가능한 사용 정책을 시행하고 오용을 방지하며, AI 상호작용이 기업, 법률, 규제 요구 사항과 일치하도록 맞춤화할 수 있습니다.
각 AI 상호작용을 다음과 함께 평가합니다:
주제 – 사용자가 묻고 있는 것
의도 – 사용자가 왜 또는 어떻게 묻고 있는지
사용 사례
조직은 특정 사업 위험과 규정 준수 요구를 충족하도록 사용자 정의 주제와 의도를 정의할 수 있습니다. 사용 사례에는 다음이 포함됩니다:
미리 정의된 탐지기로 커버되지 않은 기밀 회사 정보에 대한 접근 또는 노출 시도
조직별 IP 자산
표준 탐지기로 커버되지 않는 고유 허용 사용 기준
사용자 정의 주제 및 의도 탐지기의 제한사항
최적의 성능과 탐지 정확성을 보장하기 위해 사용자 정의 주제 및 의도 탐지기는 다음 제한사항을 시행합니다:
탐지기 제한 – 최대 5개의 사용자 정의 주제 및 의도 탐지기를 계정당 활성화할 수 있습니다
입력 길이 요구사항 – 사용자 정의 주제 및 의도 탐지기는 최소 3단어에서 최대 50단어로 구성되어야 합니다.
이 제한사항은 높은 품질의 신호 탐지를 유지하고, 지나치게 광범위하거나 비효율적인 정의를 방지하며, AI 애플리케이션 전반에 일관된 정책 시행을 보장하기 위해 설계되었습니다.
모범 사례
사용자 정의 주제 및 의도 탐지 정확성과 효과는 사용자 정의 주제와 의도가 얼마나 잘 정의되는가에 달려 있습니다. 모호하거나 지나치게 광범위하거나 구조적으로 미흡한 입력은 탐지 품질 저하 또는 의도하지 않은 결과를 초래할 수 있습니다. 권장 지침을 따르는 것이 최적의 결과를 얻는 데 필수적입니다.
특정하고 모호한 정의를 피하십시오
명확하게 정의된 주제와 의도가 더 정확한 결과를 산출합니다.
지나치게 폭넓은 정의는 너무 많은 프롬프트에 일치할 수 있습니다 (높은 오탐률)
지나치게 좁은 정의는 관련 활동을 놓칠 수 있습니다 (높은 미탐률)
예시:
광범위한 범주를 사용하지 마십시오: 우리 경쟁사에 대한 정보
회사명을 포함시켜라: 샘플 회사에 대한 정보
키워드 대신 설명적인 문구를 사용하세요
단어 정의 하나는 약한 신호를 제공합니다. 설명적인 문구는 모델에 더 나은 컨텍스트를 제공하여 정확성을 개선하고 오탐률을 줄입니다.
예시:
키워드를 사용하지 마세요: 내부 시스템 자격증명
구절을 사용하세요: 내부 시스템에서 자격증명 추출
행동 지향적 표현 사용하기
AI 엔진은 사용자가 무엇을 하려고 하는지를 평가하며, 그들이 언급한 것만을 확인하지 않습니다. 이는 정확한 키워드 매치가 없어도 프롬프트를 탐지할 수 있다는 의미입니다.
의도 인식 표현은 탐지 정확성을 개선하며, 특히 모호한 프롬프트에 효과적입니다. 사용자 의도를 명확히 나타낼 수 있는 3-6 단어의 동사 구문을 사용하세요.
예시:
설명을 사용하지 마십시오: 네트워크 정보 소유 설명
행동을 설명하세요: 소유 네트워크 보안 구조 설계에 대한 접근 요청
겹치는 정의 피하기
유사한 의미를 가진 여러 주제 또는 의도를 정의하면 효율성이 감소됩니다. 이는 동일한 프롬프트에 트리거되어, 소음이 증가할 뿐 커버리지는 향상되지 않습니다. 유사한 개념을 단일, 잘 정의된 주제 또는 의도로 통합하십시오.
테스트와 반복
사용자 정의 주제 및 의도 탐지기는 실제 사용 기반으로 지속적으로 개선해야 합니다. 탐지기와 프로필을 Playground에서 테스트하고 반복하는 것이 강력히 권장됩니다.
탐지가 너무 광범위하면 정의를 더욱 특정하게 만드십시오
탐지가 너무 좁다면 정의를 확대하거나 표현을 수정하십시오
균형 잡힌 설정으로 시작하고 관찰된 활동에 맞춰 조정하십시오.