Kong AI गेटवे एकीकरण को Cato AI सुरक्षा के साथ कॉन्फ़िगर करना

यह लेख आपके होमग्रोन एजेंट्स के लिए नीति की निगरानी और प्रवर्तन के लिए Kong AI गेटवे को Cato AI सुरक्षा के साथ एकीकृत करने की जानकारी प्रदान करता है।

समीक्षा

Cato AI सुरक्षा आपको अपने मौजूदा Kong AI गेटवे के माध्यम से बहने वाले AI ट्रैफ़िक की निरीक्षण और नीति प्रवर्तन करने की अनुमति देती है। प्रत्येक अनुप्रयोग को अलग से विन्यस्त करने के बजाय, आप गेटवे को Cato गार्ड के साथ जोड़ते हैं और गेटवे ट्रैफ़िक के लिए केंद्रीकृत निगरानी और नीति प्रवर्तन लागू करते हैं।

यह लेख बताता है कि Kong AI गेटवे एकीकरण की कॉन्फ़िगरिंग कैसे करें, होमग्रोन एजेंट्स को मानचित्र करें, और इंटरैक्शन एक्सप्लोरर में नीति प्रवर्तन को सत्यापित करें।

पूर्वशर्तें

शुरू करने से पहले, सुनिश्चित करें कि ये आवश्यकताएँ पूरी हो गई हैं:

• एप्लिकेशन के लिए AI सुरक्षा लाइसेंस
• व्यवस्थापक अनुमति AI सुरक्षा > गार्ड और AI सुरक्षा > गार्ड इंटरैक्शन नीति के लिए
• Kong उपभोक्ता Kong की की प्रमाणीकरण प्लगइन के साथ प्रमाणीकरण करते हैं
• एक decK kong.yaml कॉन्फ़िगरेशन बनाने और लागू करने की पहुंच
• Kong Konnect व्यक्तिगत एक्सेस टोकन और नियंत्रण प्लेन नाम। व्यक्तिगत एक्सेस टोकनों पृष्ठ से टोकन बनाएं Kong Konnect में
• Kong AI कस्टम गार्डरेल प्लगइन तैनात करने की अनुमति
• ट्रैफ़िक भेजने वाला परीक्षण एप्लिकेशन या क्लाइंट Kong AI गेटवे के माध्यम से
• आपके CMA क्षेत्र के लिए Cato AI सुरक्षा API एंडपॉइंट पर Kong से नेटवर्क पहुंच

कॉन्फ़िगरेशन कार्यप्रवाह

एकीकरण में ये चरण शामिल हैं:

AI गेटवे गार्ड बनाएं

Kong ट्रैफ़िक के लिए Cato प्रवर्तन बिंदु को परिभाषित करने के लिए AI गेटवे गार्ड बनाएं।

गार्ड बनाने के लिए:

1. नेविगेशन मेनू से एआई सुरक्षा > गार्ड्स चुनें।
2. नई पर क्लिक करें।
3. गार्ड नाम में, गार्ड के लिए एक नाम दर्ज करें। उदाहरण के लिए, Kong AI Gateway।
4. प्रकार में, AI गेटवे चुनें।
5. AI गेटवे एकीकरण प्रकार में, Kong चुनें।
6. गार्ड के होस्ट में, अपनी तैनाती के लिए उपयुक्त Cato क्लाउड या आउटपोस्ट चुनें।
7. Save पर क्लिक करें।

गार्ड सहेजने के बाद, यह Kong से ट्रैफ़िक प्राप्त करने के लिए तैयार है। गार्ड नियम प्रवर्तन नहीं करता जब तक कि आप एक नीति नियम को कॉन्फ़िगर नहीं करते।

Kong AI गेटवे कॉन्फ़िगर करें

गार्ड API कुंजी के साथ Kong AI कस्टम गार्डरेल प्लगइन को कॉन्फ़िगर करें। प्लगइन निरीक्षण के लिए Cato को AI ट्रैफ़िक भेजता है और जब Cato ब्लॉक कार्रवाई लौटाता है तो अनुरोधों को अवरुद्ध करता है।

गार्ड कनेक्शन विवरण प्राप्त करें

गार्ड कनेक्शन विवरण प्राप्त करने के लिए:

1. नेविगेशन मेनू से एआई सुरक्षा > गार्ड्स चुनें।
2. Kong AI गेटवे गार्ड चुनें।
3. तैनाती टैब चुनें।
4. गार्ड API कुंजियों में से एक की प्रतिलिपि बनाएँ।

प्रत्येक गार्ड के पास दो API कुंजियाँ होती हैं। प्रमाण-पत्र घुमाते समय अप्रयुक्त कुंजी का उपयोग करें ताकि ट्रैफ़िक निरीक्षण विघ्नित न हो।

Kong AI कस्टम गार्डरेल प्लगइन कॉन्फ़िगर करें

प्लगइन निम्नलिखित सेटिंग्स का उपयोग करता है:

Cato केवल पाठ का निरीक्षण करता है। छवि सामग्री का निरीक्षण नहीं किया गया है।

प्लगइन को कॉन्फ़िगर करने के लिए:

1. निम्नलिखित कॉन्फ़िगरेशन को kong.yaml के रूप में सहेजें।

   _format_version: "3.0"
   plugins:
   - name: ai-custom-guardrail
     config:
       guarding_mode: BOTH
       text_source: concatenate_all_content
       stop_on_error: true
       params:
         api_key: "${{ env \"DECK_CATO_API_KEY\" }}"
         api_base: "<CATO_AI_SECURITY_API_BASE_URL>"
       request:
         url: $(conf.params.api_base)/fw/v1/analyze
         headers:
           Authorization: Bearer $(conf.params.api_key)
           Content-Type: application/json
           x-cato-gateway-key-alias: "$(get_key_alias)"
         body:
           messages: "$(build_messages)"
       response:
         block: "$(check_response.block)"
         block_message: "$(check_response.block_message)"
       ssl_verify: true
       functions:
         get_key_alias: |
           return function()
             local c = kong.client.get_consumer()
             return (c and (c.username or c.id)) or ""
           end
         check_response: |
           return function(resp)
             local ra = resp and resp.required_action
             local block = type(ra) == "table" and ra.action_type == "block_action"
             local reason
             if block then
               reason = ra.detection_message or "Blocked by Cato Networks guardrail"
             else
               reason = "Allowed by Cato Networks guardrail"
             end
             return {
               block = block,
               block_message = reason,
             }
           end
         build_messages: |
           return function(content, source)
             if source == "OUTPUT" then
               return { { role = "assistant", content = content } }
             end
             local body = kong.request.get_body()
             if body and body.messages then
               return body.messages
             end
             return { { role = "user", content = content } }
           end
   

2. <CATO_AI_SECURITY_API_BASE_URL> को अपने CMA क्षेत्र के लिए Cato AI सुरक्षा API आधार URL से बदलें।

3. Kong Konnect और Cato प्रमाण-पत्र को वातावरण चर के रूप में सेट करें:

   export KONNECT_TOKEN=<your-kong-konnect-personal-access-token>
   export DECK_KONNECT_TOKEN=$KONNECT_TOKEN
   export DECK_KONNECT_CONTROL_PLANE_NAME=<your-control-plane-name>
   export DECK_KONNECT_CONTROL_PLANE_REGION=<region>.api.konghq.com
   export DECK_CATO_API_KEY=<guard-api-key>
   

4. Kong नियंत्रण प्लेन पर कॉन्फ़िगरेशन लागू करें:

   deck gateway sync kong.yaml
   

गार्ड API कुंजी को सुरक्षित रूप से संग्रहित करें। पर्यावरण चर या एक सीक्रेट्स मैनेजर का उपयोग करें, और कुंजी को स्रोत नियंत्रण में शामिल न करें।

Kong एकीकरण व्यवहार

• प्रतिक्रिया पक्ष में, Kong केवल सहायक द्वारा उत्तर टेक्स्ट को कस्टम गार्डरेल प्लगइन को उजागर करता है। साधन कॉल्स वास्तविक समय में उजागर नहीं होते हैं, इसलिए Cato उन्हें निष्पादन से पहले निरीक्षण या ब्लॉक नहीं कर सकता। Cato उन्हें निगरानी के लिए अंतिम अनुरोधों में प्राप्त करता है।
• एकीकरण डिफ़ॉल्ट रूप से बंद हो जाता है। जब Cato तक नहीं पहुँचा जा सकता, Kong ट्रैफ़िक को अवरुद्ध करता है। जब उपलब्धता सख्त प्रवर्तन से अधिक महत्वपूर्ण हो तो stop_on_error को false पर सेट करें ताकि खुले-असफल व्यवहार का उपयोग किया जा सके।
• Kong कस्टम गार्डरेल प्लगइन के साथ सर्वर-सेंड इवेंट्स (SSE) निरीक्षण का समर्थन नहीं करता है। जब LLM प्रतिक्रिया स्ट्रीम होती है, Cato केवल उपयोगकर्ता संदेश और साधन प्रतिक्रियाओं का निरीक्षण कर सकता है।
• एकीकरण OpenAI चैट पूरा करने के API स्वरूप का समर्थन करता है।

Cato में गेटवे ट्रैफ़िक को सत्यापित करें

पुष्टि करने के लिए कि Kong ट्रैफ़िक Cato तक पहुँचता है, इंटरैक्शन एक्सप्लोरर का उपयोग करें।

गेटवे ट्रैफ़िक को सत्यापित करने के लिए:

1. Kong AI गेटवे के माध्यम से ऐप से एक परीक्षण प्रॉम्प्ट भेजें।
2. नेविगेशन मेनू से, AI सुरक्षा > इंटरैक्शन एक्सप्लोरर चुनें।
3. गार्ड सूची से, अपने Kong AI गेटवे गार्ड द्वारा फ़िल्टर करें।
4. पुष्टि करें कि परीक्षण सत्र तालिका में दिखाई देता है।

होमग्रोन एजेंट को मानचित्रित करने से पहले, होमग्रोन एजेंट कॉलम ट्रैफ़िक के लिए एक डैश (-) दिखाता है। यह अपेक्षित है।

गार्ड के लिए होमग्रोन एजेंट्स को मानचित्रित करें

प्रत्येक होमग्रोन एजेंट को Kong उपभोक्ता नाम पर मानचित्र करें जिसके रूप में यह प्रमाणीकरण करता है। Cato इन मानचित्रणों का उपयोग Kong ट्रैफ़िक को सही होमग्रोन एजेंट को जोड़ने के लिए करता है।

होमग्रोन एजेंट को मानचित्रित करने के लिए:

1. Kong में, होमग्रोन एजेंट के लिए उपभोक्ता उपयोगकर्ता नाम की पहचान करें।
2. नेविगेशन मेनू से एआई सुरक्षा > गार्ड्स चुनें।
3. Kong AI गेटवे गार्ड चुनें।
4. कॉन्फ़िगरेशन टैब चुनें।
5. मानचित्रित होमग्रोन एजेंट्स के अंतर्गत, मानचित्र के लिए होमग्रोन एजेंट चुनें की सूची से एक होमग्रोन एजेंट चुनें।
6. Kong उपभोक्ता नाम में, चरण 1 से उपभोक्ता उपयोगकर्ता नाम दर्ज करें।
7. Save पर क्लिक करें।

मानचित्रण मानचित्रित होमग्रोन एजेंट्स तालिका में दिखाई देता है। इसे हटाने के लिए, इसकी पंक्ति में हटाएं आइकन पर क्लिक करें।

एजेंट वर्णन की सत्यापना करें

पुष्टि करें कि Cato ट्रैफ़िक को मानचित्र ने किए गए होमग्रोन एजेंट को जोड़ता है।

एजेंट वर्णन की सत्यापना करने के लिए:

1. मानचित्रित उपभोक्ता का उपयोग करते हुए Kong के माध्यम से एक परीक्षण अनुरोध भेजें।
2. नेविगेशन मेनू से, AI सुरक्षा > इंटरैक्शन एक्सप्लोरर चुनें।
3. दृश्य को मानचित्रित होमग्रोन एजেন্ট द्वारा फ़िल्टर करें।
4. पुष्टि करें कि होमग्रोन एजेंट कॉलम मानचित्रित एजेंट दिखाता है।

जब मानचित्रण सही होता है, इंटरैक्शन एक्सप्लोरर होमग्रोन एजेंट का नाम दिखाता है बजाय एक डैश के।