সারসংক্ষেপ
পরিচালিত এজেন্টদের জন্য AI নিরাপত্তা আপনাকে AWS Bedrock, Azure AI Foundry এবং Microsoft Copilot Studio-এর মতো পরিচালিত AI প্ল্যাটফর্মে চলমান AI এজেন্টগুলি আবিষ্কার, সনাক্ত এবং সুরক্ষিত করতে দেয়। আপনি কোন এজেন্ট বিদ্যমান, কোন ডেটা উত্স এবং টুলগুলি তারা অ্যাক্সেস করতে পারে এবং তারা রানটাইমে কিভাবে আচরণ করছে তার দৃশ্যমানতা পাবেন।
পরিচালিত প্ল্যাটফর্মগুলি AI এজেন্ট তৈরি, স্থাপনা এবং স্কেল করার জন্য অবকাঠামো প্রদান করে - তবে তারা একটি স্বতন্ত্র নিরাপত্তা এবং প্রশাসনিক চ্যালেঞ্জেসত্ত্বেও হয়। সংগঠনগুলি প্রায়শই এই প্ল্যাটফর্মগুলিতে কোন এজেন্ট বিদ্যমান, তারা কি ডেটা এবং টুলগুলি অ্যাক্সেস করতে পারে এবং তারা রানটাইমে কিভাবে আচরণ করছে তার কেন্দ্রীয় দৃশ্যমানতার অভাব পায়।
পরিচালিত এজেন্টদের জন্য AI নিরাপত্তা আপনাকে অননুমোদিত প্রবেশের ঝুঁকি, সংবেদনশীল তথ্য উন্মোচন, এবং অনিরাপদ এজেন্ট কাজগুলি হ্রাস করতে সাহায্য করে এবং প্রশাসনিক ও সম্মতি প্রয়োজনীয়তাগুলি সমর্থন করে।
ব্যবহার কেস
পরিচালিত এজেন্টদের আবিষ্কার
পরিচালিত এজেন্টদের সুরক্ষিত করার প্রথম ধাপটি হল কি বিদ্যমান তা জানা। Cato API এর মাধ্যমে পরিচালিত AI প্ল্যাটফর্মগুলিতে সংযুক্ত হয় এবং স্বয়ংক্রিয়ভাবে পরিবেশের মধ্যে স্থাপন করা সমস্ত এজেন্ট আবিষ্কার করে। প্রতি এজেন্টের জন্য, সিস্টেম একটি সম্পূর্ণ নির্দেশিকা সংগ্রহ করে যা এজেন্টের নাম, উদ্দেশ্য এবং কনফিগারেশন নির্দেশাবলীর সাথে কার্যকরিস্থ করা, সংযুক্ত টুল ও কানেক্টর, জ্ঞানভাণ্ডার এবং ডেটা সোর্সের তালিকা এবং নির্ধারিত অনুমতি এবং অ্যাক্সেস নিয়ন্ত্রণ অন্তর্ভুক্ত করে।
এজেন্টিক AI কার্যকলাপ ট্রেসিং
পরিচালিত AI প্ল্যাটফর্মগুলি এজেন্টগুলি কার্যকর জন্য ট্রেসিং ডেটা তৈরি করে - প্রম্পটের ক্রম, মডেল প্রতিক্রিয়া, টুল উপস্থাপনা এবং প্রতিটি এজেন্ট সেশন তৈরি করা ফলাফলগুলি রেকর্ড করে। Cato এই ট্রেসিং ডেটা সরাসরি প্ল্যাটফর্ম থেকে জিজ্ঞাসা করে এবং এটিকে এজেন্টিক AI ড্যাশবোর্ডে সংবহন করে, পরিচালিত এজেন্টগুলি প্রকৃতপক্ষে উৎপাদনে কিভাবে আচরণ করছে সেই সম্পর্কে বাস্তব সময় দৃশ্যমানতা প্রদান করে।
ট্রেসিং এজেন্টের কার্যকলাপের সম্পূর্ণ জীবনচক্র ক্যাপচার করে: প্রতিক্রিয়া করতে কি জিজ্ঞাসা করেছে ব্যবহারকারী, কিভাবে মডেল প্রতিক্রিয়া জানিয়েছে, কোন টুলগুলি এজেন্ট উপস্থাপন করেছে (এবং কোন পরামিতার মাধ্যমে), সেই টুলগুলোর কি ফলাফল প্রদান করেছে, এবং কিভাবে এজেন্ট তার শেষ আউটপুট প্রস্তুতির জন্য টুল ফলাফল ব্যবহার করেছে। এই স্তরের বিস্তারিত এজেন্টিক আচরণ বোঝার জন্য অপরিহার্য কারণ, একটি সাধারণ চ্যাটবটের মতো নয়, একটি এজেন্ট বিভিন্ন টুল কলের চেইন সম্পন্ন করতে পারে, প্রতিটি পূর্ববর্তী ফলাফলের উপর ভিত্তি করে তৈরি করার পরে একটি প্রতিক্রিয়া তৈরি করার আগে। একক ব্যবহারকারীর অনুরোধ একটি জটিল ক্রিয়া ক্রম ট্রিগার করতে পারে যা ট্রেসিং ব্যতীত অদৃশ্য থাকবে।
নিরাপত্তা এবং সম্মতি দলগুলির জন্য, ট্রেসিং ঘটনাটি তদন্ত এবং অডিটের প্রয়োজনীয় প্রমাণ উপলব্ধ করে। যদি একটি পরিচালিত এজেন্ট ডেটা অ্যাক্সেস করে যার এটি উচিত নয়, একটি অপ্রত্যাশিত টুল কল করা হয়, অথবা একটি আউটপুট উৎপন্ন করে যা নীতি লঙ্ঘন করে, ট্রেসিং রেকর্ডটি ধাপে ধাপে যা ঘটেছে তা দেখায়। এটি একটি ঘটনার বিস্তারীয় প্রভাবকেন্দ্রীয়তা বোঝার জন্যও অমূল্য: ট্রেসিং শুধুমাত্র কি ভুল হয়েছে তা প্রকাশ করে না, কিন্তু কি ডেটা স্পর্শ হয়েছে এবং কোন কার্যগুলি পথে গৃহীত হয়েছে তা দেখায়।
AI ফায়ারওয়াল ইন্টিগ্রেশনের মাধ্যমে সুরক্ষা
আবিষ্কার এবং ট্রেসিং দৃশ্যমানতা প্রদান করে, তবে প্রতিষ্ঠানগুলিও তাদের পরিচালিত এজেন্টদের জন্য সক্রিয় সুরক্ষা প্রয়োজন। Cato এটি অর্জন করে ট্রেসড এজেন্ট কলগুলিকে AI ফায়ারওয়ালে (AI-FW) প্রবাহিত করে, যেখানে তারা এজেন্ট নিরাপত্তা স্ট্যাকের বাকি অংশগুলির মতো চার্গারি এবং নীতির বিরুদ্ধে মূল্যায়ন করা হয়।
এই ইন্টিগ্রেশন অর্থ ধারণ করে যে প্রতিটি প্রম্পট, মডেল প্রতিক্রিয়া, টুল কল, এবং টুল বার্তা একটি পরিচালনা করা এজেন্টে প্রবাহিত হলে AI-FW ইঞ্জিন দ্বারা পরীক্ষা করা হয়। ইঞ্জিন প্রম্পট ইনজেকশন, জেলব্রেক প্রচেষ্টা, সংবেদনশীল তথ্য উন্মোচন এবং নীতি লঙ্ঘনের জন্য সনাক্তকরণ মডেল প্রয়োগ করে, একই চার-পয়েন্ট পরিদর্শন যেটি স্থানীয় এবং কাস্টম এজেন্টদের রক্ষা করে। যখন AI-FW একটি হুমকি সনাক্ত করে, এটি নিরাপত্তা দলকে সতর্ক করতে পারে, সম্মতির উদ্দেশ্যে ঘটনাটি লগ করতে পারে, বা ইন্টিগ্রেশন এবং প্রয়োজনের মোডের ওপর নির্ভর করা, লঙ্ঘিত ক্রিয়া অবরুদ্ধ করতে পারে।
0 মন্তব্য
একটি মন্তব্য করার জন্য সাইন ইন করুন করুন।