সারসংক্ষেপ
অযাচিত মুছে ফেলার ঝুঁকি কমাতে ধ্বংসাত্মক কমান্ড ডিটেক্টর ব্যবহার করুন AI কোডিং ওয়ার্কফ্লো চলাকালীন। ডিটেক্টর কমান্ডগুলো মূল্যায়ন করে যা ফাইল, সম্পদ, বা ডেটা মুছে ফেলে, এবং ইন্টারঅ্যাকশন এ কন্টেক্সট সহ।
আপনি নিরাপত্তা কোডিং এজেন্ট নীতিতে এই ডিটেক্টর ব্যবহার করতে পারেন ধ্বংসাত্মক কার্যকলাপের সতর্কতা দেওয়া বা একেবারে ব্লক করে দিতে নির্বাহীনের আগে।
Note: This is an Early Availability (EA) feature that is only available for limited release. For more information, contact your Cato Networks representative or send an email to ea@catonetworks.com.
কিভাবে ডিটেক্টর কন্টেক্সট ব্যবহার করে তা বুঝুন
মুছে ফেলার কমান্ড একটি প্রত্যাশিত ওয়ার্কফ্লো অংশ হতে পারে অথবা AI এজেন্ট দ্বারা অন্তর্ভুক্ত একটি অপ্রত্যাশিত কর্ম। কেবল কমান্ডটি ব্যবহারকারী এর অনুরোধ বা নির্দেশ দেওয়া হয়েছে কিনা নিশ্চয়তা দেয় না।
ধ্বংসাত্মক কমান্ড ডিটেক্টর কমান্ড-প্যাটার্ন মিলনকারী এবং AI বিশ্লেষণ একত্রিত করে মূল্যায়ন করে:
- টুল কল ধ্বংসাত্মক অপারেশন কার্যকর করে কিনা
- অপারেশন কোন ফাইল, সম্পদ বা ডেটা প্রভাবিত করে
- এই কথোপকথন দেখায় যে ব্যবহারকারী স্পষ্টভাবে কার্যটি অনুরোধ বা অনুমোদন করেছে কিনা
উদাহরণস্বরূপ, তৈরি করা বিল্ড আর্টিফ্যাক্ট মুছে ফেলা এবং স্থায়ী ডেটা সহ প্রকল্পের ডিরেক্টরি মুছে ফেলার মধ্যে পার্থক্য রয়েছে। এজেন্টকে কোনো ত্রুটি নির্ণয়ের জন্য জিজ্ঞাসা করা মুছে ফেলার অনুমতি স্পষ্টভাবে দেয় না।
প্রথমে ডিটেক্টর সম্ভাব্য ধ্বংসাত্মক কমান্ড সনাক্ত করে এবং টুল কল এর পরিপ্রেক্ষিত তাদের প্রভাব পর্যালোচনা করে। ধ্বংসাত্মক হিসেবে সনাক্তকৃত কমান্ডগুলির জন্য, এটি ব্যবহারকারী অনুমোদনের জন্য উপলব্ধ সংলাপ পরীক্ষা করে।
বিশ্লেষণ যদি স্পষ্টত অনুরোধ বা ধ্বংসাত্মক কর্মের অনুমোদন সনাক্ত করে, ডিটেক্টর সনাক্তকরণ দমন করে। অস্পষ্ট ইচ্ছা বা অনিশ্চিত অনুমোদন একই প্রমাণ সরবরাহ করে না।
এই সাহায্য করে আপনি নীতি প্রয়োগে মনোনিবেশ করতে ধ্বংসাত্মক কার্যকলাপে যা ব্যবহারকারী স্পষ্টভাবে অনুরোধ বা অনুমোদন করেনি।
প্লেগ্রাউন্ডে ডিটেক্টর এক্সপ্লোর করুন
কিভাবে ডিটেক্টর বিভিন্ন ইন্টারঅ্যাকশন প্রসঙ্গে কমান্ড মূল্যায়ন করে তা পরীক্ষা করার জন্য প্লেগ্রাউন্ড ব্যবহার করুন, নীতি প্রয়োগ করার আগে।
সংকল্পিত পরীক্ষার জন্য, ধ্বংসাত্মক কমান্ড শুধুমাত্র ধারণকারী একটি ইঞ্জিন প্রোফাইল ব্যবহার করুন। এটি এই ডিটেক্টরকে ফলাফলের জন্য সহজে সংযুক্ত করে।
ব্যবহারকারীর অনুরোধ এবং প্রস্তাবিত টুল কল উভয়কেই আপনার পরীক্ষা ইন্টারঅ্যাকশন এ অন্তর্ভুক্ত করুন। সাধারণ সংলাপ পাঠ্যে পেস্টকৃত মুছে ফেলার কমান্ডটি কার্যকরী টুল কল দ্বারা বর্তমান ক্রিয়াকলাপের সাথে একই ঠিকানা দেয় না।
প্লেগ্রাউন্ডে ডিটেক্টর পরীক্ষা করার জন্য:
- নেভিগেশন মেনু থেকে AI নিরাপত্তা > প্লেগ্রাউন্ড নির্বাচন করুন।
- ধ্বংসাত্মক কমান্ড ধারণকারী ইঞ্জিন প্রোফাইল সক্রিয় করুন।
- নীচে বর্ণিত উদাহরণ ইন্টারঅ্যাকশন যোগ করুন।
[সংলাপ বার্তাগুলি প্রবেশের জন্য যাচাই করা পদ্ধতি এবং একটি কার্যকর টুল কল যুক্ত করুন] - রান সিমুলেটর ক্লিক করুন।
- প্রোফাইলটি কোনো ভঙ্গির ট্রিগার করে কিনা পর্যালোচনা করুন।
- ব্যবহারকারীর অনুরোধ পরিবর্তন করুন যখন প্রস্তাবিত টুল কল অপরিবর্তিত রেখে, তারপর আবার সিমুলেশন চালান।
[ইন্টারঅ্যাকশন এবং সনাক্তকরণ ফলাফল প্রদর্শন করা একটি স্ক্রিনশট যোগ করুন.]
সাধারণ প্লেগ্রাউন্ড ওয়ার্কফ্লো জন্য দেখুন প্লেগ্রাউন্ডে ইঞ্জিন প্রোফাইল পরীক্ষা।
ভিন্ন প্রসঙ্গে একই কার্য তুলনা করুন
এই অংশে, আমরা দুটি দৃশ্য পর্যালোচনা করবো, একটিতে কোডিং এজেন্টের দ্বারা আকস্মিক কার্য গ্রহণের ব্যাপারে এবং অন্যটিতে ব্যবহারকারীর দ্বারা স্পষ্ট অনুরোধের ফলে কিছু মুছে ফেলা হয়েছে।
| ইন্টারেকশন | ব্যবহারকারীর অনুরোধ | প্রস্তাবিত টুল কার্য |
|---|---|---|
| অপ্রত্যাশিত মুছে ফেলা | অ্যাপ্লিকেশনটি কেন তার প্রকল্পের তথ্য লোড করতে পারছে না তা নির্ণয় করুন | প্রকল্পের তথ্য গাইড মুছে ফেলুন |
| স্পষ্টভাবে অনুরোধ করা মুছে ফেলা | প্রকল্পের তথ্য গাইড মুছে ফেলুন। আমি আরও এর বিষয়বস্তু চাই না | একই গাইড মুছে ফেলুন |
প্রথম ইন্টারেকশনে, ব্যবহারকারী তার গিট রিপোসিটরি পরিস্কার করতে সাহায্য চায়। অ্যাসিস্ট্যান্ট জিজ্ঞাসা করে যে অপরিবর্তিত পরিবর্তনগুলি বাতিল করা উচিত কিনা, এবং "না" বলার পরও একটি গিট রিসেট করার চেষ্টা করা হয় (পরীক্ষার উদ্দেশ্যে, সেশনটি সংযুক্ত রয়েছে destructive-command-unintended.json)।
দ্বিতীয় ইন্টারেকশনে, ব্যবহারকারী মুছে ফেলার উদ্দেশ্য এবং লক্ষ্য নির্ধারণ করে। ডিটেক্টর এই অনুরোধকে অনুমোদনের প্রমাণ হিসেবে পর্যালোচনা করে (পরীক্ষার উদ্দেশ্যে, সেশনটি সংযুক্ত রয়েছে destructive-command-confirmed.json)।
প্রস্তাবিত কার্য উভয় ক্ষেত্রে একই। আলোচনা ব্যবহারের উদ্দেশ্য অনুযায়ী বিভিন্ন প্রমাণ প্রদান করে।
উভয় ইন্টারেকশন প্লেগ্রাউন্ডে চালান এবং ফলাফল তুলনা করুন। ক্রিয়া এবং এর লক্ষ্য ব্যবহারকারীর অনুরোধের সাথে সাথে পর্যালোচনা করুন।
যে নির্দিষ্ট ইন্টারেকশনগুলি পরীক্ষা করা হয়েছে তার পর পর্যবেক্ষিত ফলাফল যোগ করুন। উপরে তুলনা করা সিদ্ধান্তের যুক্তি বাস্তবায়নকে তুলে ধরা হয়েছে।
কোডিং এজেন্টের নীতিতে ডিটেক্টর যোগ করুন
যে কোডিং-এজেন্ট কার্যক্রমের উপর আপনি পরিচালনা করতে চান সে জন্য ধ্বংসাত্মক আদেশ প্রয়োগ করুন। ব্যবহারকারী, কোডিং এজেন্ট এবং টুলগুলি যা নিয়ম দ্বারা অন্তর্ভুক্ত করা হয়েছে সংজ্ঞায়িত করুন, তারপর প্রয়োগ কার্য নির্বাচন করুন।
আপনার সুরক্ষা লক্ষ্য অনুযায়ী কার্য নির্বাচন করুন:
| সুরক্ষা লক্ষ্য | নীতির আচরণ |
|---|---|
| সনাক্ত ধ্বংসাত্মক কার্যক্রমের দৃশ্যমানতা লাভ করুন | ক্রিয়াকলাপে সতর্কতা প্রদান করুন |
| সনাক্ত ধ্বংসাত্মক কার্য প্রতিরোধ করুন | ক্রিয়া বন্ধ করুন |
| প্রস্তাবিত কার্য পর্যালোচনা করার সুযোগ ব্যবহারকারীদের দিন | নির্বাহনের আগে নিশ্চিতকরণ প্রয়োজন |
সাধারণ নীতি কার্যপ্রবাহের জন্য, কনফিগারিং দ্য কোডিং এজেন্টের নীতি দেখুন।