Cato AI নিরাপত্তার সাথে Kong AI গেটওয়ে ইন্টিগ্রেশন কনফিগার করছেন

এই নিবন্ধটি আপনার হোমগ্রাউন ​​এজেন্টের জন্য নীতি নিরীক্ষণ এবং কার্যকর করতে Cato AI নিরাপত্তার সাথে Kong AI গেটওয়ে ইন্টিগ্রেশন সম্পর্কিত তথ্য প্রদান করে।

সারসংক্ষেপ

Cato AI নিরাপত্তা আপনাকে আপনার বিদ্যমান Kong AI গেটওয়েতে প্রবাহিত AI ট্রাফিকের নীতি পরীক্ষা এবং প্রয়োগ করতে দেয়। প্রতিটি অ্যাপ্লিকেশন আলাদাভাবে কনফিগার করার পরিবর্তে, আপনি গেটওয়েকে একটি Cato গার্ডের সাথে সংযুক্ত করুন এবং গেটওয়ে ট্রাফিকের জন্য কেন্দ্রীয়কৃত নিরীক্ষণ এবং নীতি প্রয়োগ করুন।

এই নিবন্ধটি Kong AI গেটওয়ে ইন্টিগ্রেশন কনফিগার, হোমগ্রাউন এজেন্টগুলি ম্যাপ করা এবং ইন্টারঅ্যাকশন এক্সপ্লোরার-এ নীতি প্রয়োগের বৈধতা সম্পর্কে ব্যাখ্যা করে।

প্রয়োজনীয় শর্ত

শুরু করার আগে, নিশ্চিত করুন যে এই প্রয়োজনীয়তাগুলি পূরণ করা হয়েছে:

• অ্যাপ্লিকেশনগুলির জন্য AI নিরাপত্তা লাইসেন্স
• AI নিরাপত্তা > গার্ডস এবং AI নিরাপত্তা > গার্ডস ইন্টারঅ্যাকশন নীতি-এর জন্য অ্যাডমিন অনুমতি
• Kong কী প্রমাণীকরণ প্লাগইন দিয়ে Kong গ্রাহকরা প্রমাণীকরণ করে
• একটি decK kong.yaml কনফিগারেশন তৈরি এবং প্রয়োগ করার জন্য অ্যাক্সেস
• Kong Konnect ব্যক্তিগত অ্যাক্সেস টোকেন এবং কন্ট্রোল প্লেন নাম। Kong Konnect এর ব্যক্তিগত অ্যাক্সেস টোকেন পৃষ্ঠায় থেকে টোকেন তৈরি করুন
• Kong AI কাস্টম গার্ডরেল প্লাগইন মোতায়েন করার অনুমতি
• Kong AI গেটওয়ের মাধ্যমে ট্রাফিক পাঠানো টেস্ট অ্যাপ বা ক্লায়েন্ট
• আপনার CMA অঞ্চলের জন্য Cato AI নিরাপত্তা API এন্ডপয়েন্টে Kong থেকে নেটওয়ার্ক অ্যাক্সেস

কনফিগারেশন কর্মপ্রবাহ

ইন্টিগ্রেশন এই পর্যায়গুলি অন্তর্ভুক্ত করে:

AI গেটওয়ে গার্ড তৈরি করুন

Kong ট্রাফিকের জন্য Cato প্রয়োগ পয়েন্ট নির্ধারণ করতে AI গেটওয়ে গার্ড তৈরি করুন।

গার্ড তৈরি করতে:

1. নেভিগেশন মেনু থেকে নির্বাচন করুন AI নিরাপত্তা > গার্ড৷
2. নতুন চেপে ক্লিক করুন।
3. গার্ড নেম-এ, গার্ডের জন্য একটি নাম লিখুন। যেমন, Kong AI গেটওয়ে।
4. ধরন-এ, AI গেটওয়ে নির্বাচন করুন।
5. AI গেটওয়ে ইন্টিগ্রেশন টাইপ-এ, Kong নির্বাচন করুন।
6. গার্ড এর হোস্ট-এ, আপনার মোতায়েনের জন্য উপযুক্ত হল Cato Cloud অথবা আউটপোস্ট নির্বাচন করুন।
7. সংরক্ষণ করুন এ ক্লিক করুন।

আপনি গার্ড সংরক্ষণ করার পরে, এটি Kong থেকে ট্রাফিক গ্রহণের জন্য প্রস্তুত। আপনি একটি নীতি নিয়ম কনফিগার না করা পর্যন্ত গার্ড নিয়ম প্রয়োগ করে না।

Kong AI গেটওয়ে কনফিগার করুন

গার্ড API কি-এর সাথে Kong AI কাস্টম গার্ডরেল প্লাগইন কনফিগার করুন। প্লাগইনটি Cato-তে নিরীক্ষণের জন্য AI ট্রাফিক পাঠায় এবং যখন Cato একটি ব্লক কার্য ফেরত দেয় তখন অনুরোধগুলি ব্লক করে।

গার্ড সংযোগের বিবরণ পুনরুদ্ধার করুন

গার্ড সংযোগের বিবরণ পুনরুদ্ধার করতে:

1. নেভিগেশন মেনু থেকে নির্বাচন করুন AI নিরাপত্তা > গার্ড৷
2. Kong AI গেটওয়ে গার্ড নির্বাচন করুন।
3. মোতায়েন ট্যাবটি নির্বাচন করুন।
4. গার্ড API কী-এর মধ্যে একটি কপি করুন।

প্রত্যেক গার্ডের দুটি API কী থাকে। অনুপযুক্ত কী ব্যবহার করুন যখন আপনি ক্রেডেনশিয়ালগুলি ঘুরান ট্রাফিক পরীক্ষা বাধাগ্রস্ত করার এড়াতে।

Kong AI কাস্টম গার্ডরেল প্লাগইন কনফিগার করুন

প্লাগইন নিম্নলিখিত সেটিংস ব্যবহার করে:

Cato কেবল টেক্সট পরীক্ষা করে। চিত্রের বিষয়বস্তু পরীক্ষা করা হয় না।

প্লাগইন কনফিগার করতে:

1. নিম্নলিখিত কনফিগারেশন হিসাবে kong.yaml সংরক্ষণ করুন।

   _ফর্ম্যাট_ভার্সন: "3.0"
   প্লাগিন:
   - নাম: ai-custom-guardrail
     কনফিগ:
       guarding_mode: BOTH
       text_source: concatenate_all_content
       stop_on_error: true
       params:
         api_key: "${{ env \"DECK_CATO_API_KEY\" }}"
         api_base: "<CATO_AI_SECURITY_API_BASE_URL>"
       অনুরোধ:
         url: $(conf.params.api_base)/fw/v1/analyze
         headers:
           Authorization: Bearer $(conf.params.api_key)
           Content-Type: application/json
           x-cato-gateway-key-alias: "$(get_key_alias)"
         body:
           messages: "$(build_messages)"
       প্রতিক্রিয়া:
         block: "$(check_response.block)"
         block_message: "$(check_response.block_message)"
       ssl_verify: true
       functions:
         get_key_alias: |
           return function()
             local c = kong.client.get_consumer()
             return (c and (c.username or c.id)) or ""
           end
         check_response: |
           return function(resp)
             local ra = resp and resp.required_action
             local block = type(ra) == "table" and ra.action_type == "block_action"
             local reason
             if block then
               reason = ra.detection_message or "Blocked by Cato Networks guardrail"
             else
               reason = "Allowed by Cato Networks guardrail"
             end
             return {
               block = block,
               block_message = reason,
             }
           end
         build_messages: |
           return function(content, source)
             if source == "OUTPUT" then
               return { { role = "assistant", content = content } }
             end
             local body = kong.request.get_body()
             if body and body.messages then
               return body.messages
             end
             return { { role = "user", content = content } }
           end
   

2. <CATO_AI_SECURITY_API_BASE_URL> আপনার CMA অঞ্চলের জন্য Cato AI নিরাপত্তা API ভিত্তি URL দিয়ে প্রতিস্থাপন করুন।

3. Kong Konnect এবং Cato ক্রেডেনশিয়ালগুলিকে পরিবেশ ভেরিয়েবল হিসাবে সেট করুন:

   export KONNECT_TOKEN=<আপনার-kong-konnect-ব্যক্তিগত-অ্যাক্সেস-টোকেন>
   export DECK_KONNECT_TOKEN=$KONNECT_TOKEN
   export DECK_KONNECT_CONTROL_PLANE_NAME=<আপনার-নিয়ন্ত্রণ-প্লেন-নাম>
   export DECK_KONNECT_CONTROL_PLANE_REGION=<অঞ্চল>.api.konghq.com
   export DECK_CATO_API_KEY=<গার্ড-api-key>
   

4. Kon ng কন্ট্রোল প্লেনে কনফিগারেশন প্রয়োগ করুন:

   deck gateway sync kong.yaml
   

গার্ড API কী নিরাপদে সংরক্ষণ করুন। পরিবেশ ভেরিয়েবল বা একটি গোপনীয়তা ম্যানেজার ব্যবহার করুন এবং কীটির উৎস নিয়ন্ত্রণে প্রতিশ্রুতি করবেন না।

Kong ইন্টিগ্রেশন আচরণ

• প্রতিক্রিয়া পাশে, Kong শুধুমাত্র সহকারী উত্তর টেক্সটটি কাস্টম গার্ডরেল প্লাগইনতে প্রকাশ করে। টুল কলগুলি রিয়েল টাইমে প্রকাশ করা হয় না, তাই Cato সেগুলি কার্যকর করার আগে পরীক্ষা বা ব্লক করতে পারে না। Cato নিরীক্ষণের জন্য অনুরোধে ফিরে আসে।
• ডিফল্টভাবে ইন্টিগ্রেশন বন্ধ ব্যর্থ হয়। যখন Cato অযোগ্য, Kong ট্রাফিক ব্লক করে। অনুপস্থিতি কঠোর প্রয়োগের চেয়ে বেশি গুরুত্বপূর্ণ হলে, ফেইল-ওপেন আচরণ ব্যবহার করতে stop_on_error false এ সেট করুন।
• Kong সার্ভার-প্রেরিত ইভেন্ট (SSE) পরীক্ষণ কাস্টম গার্ডরেল প্লাগইন সহ সমর্থন করে না। যখন LLM প্রতিক্রিয়া স্ট্রিম, Cato শুধুমাত্র ব্যবহারকারীর বার্তা এবং টুলের প্রতিক্রিয়া পরীক্ষা করতে পারে।
• ইন্টিগ্রেশন OpenAI চ্যাট কমপ্লিশনস API বিন্যাস সমর্থন করে।

Cato এ গেটওয়ে ট্রাফিক যাচাই করুন

ইন্টারঅ্যাকশন এক্সপ্লোরার ব্যবহার করে নিশ্চিত করুন Kong ট্রাফিক Cato-তে পৌঁছায়।

গেটওয়ে ট্রাফিক যাচাই করতে:

1. Kong AI গেটওয়ের মাধ্যমে একটি অ্যাপ থেকে পরীক্ষার প্রম্পট পাঠান।
2. নেভিগেশন মেনু থেকে AI নিরাপত্তা > ইন্টারঅ্যাকশন এক্সপ্লোরার নির্বাচন করুন।
3. গার্ড তালিকা থেকে, আপনার Kong AI গেটওয়ে গার্ড দ্বারা ফিল্টার করুন।
4. নিশ্চিত করুন যে পরীক্ষা সেশন টেবলে প্রদর্শিত হয়েছে।

আপনি একটি হোমগ্রাউন এজেন্ট ম্যাপ করার আগে, হোমগ্রাউন এজেন্ট কলাম ট্রাফিকের জন্য একটি ড্যাশ (-) দেখায়। এটি প্রত্যাশিত।

গার্ডের জন্য হোমগ্রাউন এজেন্টগুলি ম্যাপ করুন

প্রত্যেক হোমগ্রাউন এজেন্টকে Kong গ্রাহক নামের সাথে ম্যাপ করুন যেটি এটি হিসেবে প্রমাণিত করেছে। Cato এই ম্যাপিংগুলি ব্যবহার করে সঠিক হোমগ্রাউন এজেন্টকে Kong ট্রাফিক অ্যাট্রিবিউট করতে।

একটি হোমগ্রাউন এজেন্ট ম্যাপ করতে:

1. Kong-এ, হোমগ্রাউন এজেন্টের জন্য গ্রাহক ব্যবহারকারীর নাম সনাক্ত করুন।
2. নেভিগেশন মেনু থেকে নির্বাচন করুন AI নিরাপত্তা > গার্ড৷
3. Kong AI গেটওয়ে গার্ড নির্বাচন করুন।
4. কনফিগারেশন ট্যাব নির্বাচন করুন।
5. ম্যাপ করা হোমগ্রাউন এজেন্টস-এর অধীনে, ম্যাপ করতে একটি হোমগ্রাউন এজেন্ট নির্বাচন করুন তালিকা থেকে একটি হোমগ্রাউন এজেন্ট নির্বাচন করুন।
6. Kong গ্রাহক নাম-এ, ধাপ 1 থেকে গ্রাহক ব্যবহারকারীর নাম লিখুন।
7. সংরক্ষণ করুন এ ক্লিক করুন।

ম্যাপিং ম্যাপ করা হোমগ্রাউন এজেন্টস টেবিলে প্রদর্শিত হয়। এটি মুছে ফেলতে, এর সারিতে মুছে ফেলা আইকনে ক্লিক করুন।

এজেন্ট অ্যাট্রিবিউশন যাচাই করুন

Cato নিশ্চিত করুন যে ট্রাফিক ম্যাপ করা হোমগ্রাউন এজেন্টে অ্যাট্রিবিউট করে।

এজেন্ট অ্যাট্রিবিউশন যাচাই করতে:

1. ম্যাপ করা গ্রাহক ব্যবহার করে Kong এর মাধ্যমে একটি পরীক্ষা অনুরোধ পাঠান।
2. নেভিগেশন মেনু থেকে AI নিরাপত্তা > ইন্টারঅ্যাকশন এক্সপ্লোরার নির্বাচন করুন।
3. ম্যাপ করা হোমগ্রাউন এজেন্ট দ্বারা দৃশ্যটি ফিল্টার করুন।
4. নিশ্চিত করুন যে হোমগ্রাউন এজেন্ট কলামটি ম্যাপ করা এজেন্ট দেখায়।

যখন ম্যাপিং সঠিক, ইন্টারঅ্যাকশন এক্সপ্লোরার ড্যাশের পরিবর্তে হোমগ্রাউন এজেন্টের নাম দেখায়।