কাস্টম AI এজেন্টের নিরাপত্তা কি

সারসংক্ষেপ

কাস্টম AI এজেন্টগুলি কোডে AI-চালিত ওয়ার্কফ্লো তৈরি করতে এবং সেগুলিকে অভ্যন্তরীণ সিস্টেম, ডেটাবেস এবং তৃতীয় পক্ষের সেবাসমূহের সাথে সরাসরি সংযুক্ত করতে দেয়। সংস্থাগুলি প্রায়শই LangChain, OpenAI এজেন্ট SDK, বা সরাসরি API কল ব্যবহার করে LLM প্রদানকারীদের সাথে এই এজেন্ট তৈরি করে। যেহেতু এই এজেন্টগুলি ব্যবসায়িক ওয়ার্কফ্লোতে গভীরভাবে সংযুক্ত এবং সংবেদনশীল ডেটা এবং সরঞ্জামগুলিতে অ্যাক্সেস থাকে, তাই তাদের রানটাইম দৃশ্যমানতা এবং প্রোটেকশন প্রয়োজন।

এজেন্টগুলির জন্য AI নিরাপত্তা Cato AI ফায়ারওয়াল (AI-FW)-এর SDK লেভেলে সরাসরি একত্রিত করার মাধ্যমে কাস্টম এজেন্টগুলিকে সুরক্ষিত করে। ডেভেলপাররা অল্প কোড পরিবর্তনের মাধ্যমে AI-FW এর সাথে একটি কাস্টম এজেন্ট সংযুক্ত করতে পারে, সাধারণত LLM বেস URL-কে AI-FW প্রক্সি এন্ডপয়েন্টে পুনর্নির্দেশ করে এবং একটি প্রমাণীকরণ হেডার যোগ করে। AI-FW তারপর রিকোয়েস্ট পাথে স্বচ্ছভাবে অবস্থান করে, এজেন্ট এবং LLM এর মধ্যে ট্র্যাফিক পরীক্ষা করে এবং মূল প্রদানকারী কে রিকোয়েস্ট প্রক্সি কানেকশন প্রদান করে। এটি এজেন্টের কার্যকলাপ ট্রেস করতে এবং এজেন্টের কোর লজিক পরিবর্তন না করেই রানটাইম প্রোটেকশন প্রয়োগ করতে দেয় বা আলাদা নিরাপত্তা স্তর যোগ ছাড়াই।

ব্যবহারের কেস

কাস্টম এজেন্ট কার্যকলাপের ট্রেসিং

একবার একটি কাস্টম এজেন্ট AI-FW এর সাথে সংযুক্ত হয়ে গেলে, তার সমস্ত আন্তঃক্রিয়া স্বয়ংক্রিয়ভাবে ট্রেস করা হয় এবং ড্যাশবোর্ডে দৃশ্যমান হয়। প্রতিটি আহ্বান, সম্পূর্ণ কথোপকথন ইতিহাস, সরঞ্জাম কল তাদের প্যারামিটার সহ, সরঞ্জামের প্রতিক্রিয়া এবং এজেন্টের চূড়ান্ত আউটপুট সহ একটি সেশন হিসাবে রেকর্ড করা হয়। নিরাপত্তা দল ব্রাউজ, অনুসন্ধান, এবং এই সেশনগুলি তদন্ত করতে পারে যেভাবে তারা পরিচালিত বা স্থানীয় এজেন্টগুলির জন্য করে।

কাস্টম এজেন্টগুলির জন্য ট্রেসিং বিশেষভাবে মূল্যবান কারণ এই এজেন্টগুলি প্রায়শই দৃশ্যমানতা পেতে সবচেয়ে কঠিন হয়। AI-FW সংহতি নিম্নতম ডেভেলপার প্রচেষ্টার সাথে এই যন্ত্রটি সরবরাহ করে, পূর্বে অনচ্ছ সিস্টেমকে সম্পূর্ণরূপে পর্যবেক্ষণযোগ্য করে তোলে।

রানটাইম সুরক্ষা AI আক্রমণ থেকে

AI-FW সক্রিয় রানটাইম সুরক্ষা প্রদান করে কাস্টম এজেন্টগুলির জন্য একই গার্ড এবং নীতি ইঞ্জিন ব্যবহার করে যা বাকি এজেন্ট সম্পত্তিকে সুরক্ষা দেয়। কাস্টম এজেন্ট এবং LLM প্রদানকারীর মধ্যে আবেদন পাথে AI-FW থাকার কারণে, এটি নীতি গুলো তাৎক্ষণিকভাবে কার্যকর করতে পারে - লঙ্ঘনগুলিকে মডেল, সরঞ্জাম বা ব্যবহারকারীর কাছে পৌঁছানোর আগে ব্লক বা সতর্ক করা।

এটি কাস্টম এজেন্টগুলির জন্য বিশেষভাবে গুরুত্বপূর্ণ কারণ তারা প্রায়শই আক্রমণের জন্য সবচেয়ে বেশি উন্মুক্ত থাকে। একটি কাস্টম এজেন্ট যা বাহ্যিক API অনুরোধ করে, ডেটাবেস থেকে পড়ে, বা ব্যবহারকারী-আপলোড করা ডকুমেন্ট প্রক্রিয়া করে তাত্ত্বিকভাবে যেকোনো ডেটা উৎস থেকে পরোক্ষ প্রম্পট ইনজেকশনের ঝুঁকির মধ্যে থাকে। একজন আক্রমণকারী, যিনি একটি টুলের দ্বারা প্রদত্ত ফলাফলের কন্টেন্ট প্রভাবিত করতে পারেন, এমনকি ডেটাবেস রেকর্ডের একটি বিষাক্ত ক্ষেত্র বা একটি দুষ্টস্বরূপ স্ট্রিং যেমন একটি সাধারণ কিছু সহ, এজেন্টের আচরণ দখল করার চেষ্টা করতে পারেন। AI-FW কন্টেন্ট লেভেলে টুলের প্রতিক্রিয়া পরীক্ষা করে, ইনজেকশন পেলোড সনাক্ত করে তারা মডেলে পৌঁছানোর এবং পরবর্তী টুল কল বা আউটপুট প্রভাবিত করার আগে।

যে সংস্থাগুলি উৎপাদনের গুণগত মানের কাস্টম এজেন্ট তৈরি করছে, তাদের AI-FW ইন্টিগ্রেশন ছাড়াও জেলব্রেক প্রচেষ্টা, সংবেদনশীল ডেটা ফাঁস (PII, পরিচয়পত্র), এবং নীতি লঙ্ঘনের প্রোটেকশন দেয়, সবগুলোই এজেন্টের কোর লজিক পরিবর্তন করতে না করেই। নিরাপত্তা দল ড্যাশবোর্ডে কেন্দ্রীয়ভাবে নীতি কনফিগার করে, এবং সেগুলি সমস্ত সংযুক্ত কাস্টম এজেন্ট জুড়ে স্বচ্ছভাবে প্রয়োগ করা হয়।