कस्टम एआई एजेंट सुरक्षा क्या है

अवलोकन

कस्टम एआई एजेंट आपको कोड में एआई-संचालित वर्कफ़्लो बनाने देते हैं और उन्हें सीधे आंतरिक सिस्टम, डेटाबेस और तृतीय-पक्ष सेवाओं से जोड़ते हैं। संगठन अक्सर इन एजेंटों को LangChain, ओपनएआई एजेंट्स एसडीके जैसे फ्रेमवर्क या एलएलएम प्रदाताओं से सीधे एपीआई कॉल का उपयोग करके बनाते हैं। क्योंकि ये एजेंट व्यापार कार्यप्रवाह में गहराई से एकीकृत हैं और अक्सर संवेदनशील डेटा और उपकरणों तक पहुँच रखते हैं, उन्हें रनटाइम दृश्यता और सुरक्षा की आवश्यकता होती है।

एजेंट के लिए एआई सुरक्षा एसडीके स्तर पर कैटो एआई फायरवॉल (एआई-एफडब्ल्यू) के साथ सीधा एकीकरण करके कस्टम एजेंटों को सुरक्षित करती है। डेवलपर्स न्यूनतम कोड परिवर्तनों के साथ कस्टम एजेंट को एआई-एफडब्ल्यू से जोड़ सकते हैं, आमतौर पर एलएलएम बेस यूआरएल को एआई-एफडब्ल्यू प्रॉक्सी एंडपॉइंट पर रीडायरेक्ट करके और प्रमाणीकरण हेडर जोड़कर। एआई-एफडब्ल्यू फिर अनुरोध पथ में पारदर्शी रूप से बैठता है, एजेंट और एलएलएम के बीच ट्रैफ़िक की जाँच करता है जबकि मूल प्रदाता को अनुरोधों का प्रॉक्सी करता है। यह आपको एजेंट गतिविधि का पता लगाने और रनटाइम सुरक्षा लागू करने की अनुमति देता है बिना एजेंट के कोर लॉजिक को बदले या अलग सुरक्षा परत जोड़ने के।

उपयोग के मामले

कस्टम एजेंट गतिविधि को ट्रेस करना

एक बार कस्टम एजेंट एआई-एफडब्ल्यू से जुड़े होने पर, इसके सभी इंटरैक्शन स्वचालित रूप से डैशबोर्ड में ट्रेस और प्रदर्शित किए जाते हैं। हर उद्घोषणा, जिसमें पूर्ण वार्तालाप इतिहास, उपकरण कॉल अपने पैरामीटर के साथ, उपकरण प्रतिक्रियाएं, और एजेंट का अंतिम आउटपुट शामिल हैं, एक सत्र के रूप में दर्ज किया जाता है। सुरक्षा टीमें इन सत्रों को ब्राउज़, खोज और जांच कर सकती हैं जैसे कि वे प्रबंधित या स्थानीय एजेंटों के लिए होती हैं।

कस्टम एजेंटों के लिए ट्रेसिंग विशेष रूप से मूल्यवान है क्योंकि ये एजेंट अक्सर दृश्यता में सबसे कठिन होते हैं। एआई-एफडब्ल्यू एकीकरण न्यूनतम डेवलपर प्रयास के साथ इस इंस्ट्रूमेंटेशन को प्रदान करता है, जिससे पहले अपारदर्शी सिस्टम को पूर्ण रूप से देखा जाने वाला में परिवर्तित करता है।

एआई हमलों से रनटाइम सुरक्षा

एआई-एफडब्ल्यू वही गार्ड्स और नीति इंजन का उपयोग करके कस्टम एजेंटों के लिए सक्रिय रनटाइम सुरक्षा प्रदान करता है, जो शेष एजेंट संपत्ति की सुरक्षा करता है। क्योंकि एआई-एफडब्ल्यू कस्टम एजेंट और एलएलएम प्रदाता के बीच अनुरोध पथ में है, यह वास्तविक समय में नीतियों को लागू कर सकता है - मॉडल, उपकरण, या उपयोगकर्ता तक पहुंचने से पहले उल्लंघनों पर अवरोध या अलर्ट।

यह विशेष रूप से महत्वपूर्ण है कस्टम एजेंटों के लिए क्योंकि वे हमले के लिए अक्सर सबसे अधिक एक्सपोज्ड होते हैं। एक कस्टम एजेंट जो बाहरी एपीआई को क्वेरी करता है, डेटाबेस से पढ़ता है, या उपयोगकर्ता अपलोड किए गए दस्तावेजों को प्रोसेस करता है, इन डेटा स्रोतों के माध्यम से अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के लिए संवेदनशील है। कोई हमला जो उपकरण द्वारा लौटाई गई सामग्री को प्रभावित कर सकता है, भले ही वह डेटाबेस रिकॉर्ड में एक विषाक्त फ़ील्ड या दस्तावेज में हानिकारक स्ट्रिंग के रूप में सरल हो, एजेंट के व्यवहार को हाईजैक करने की कोशिश कर सकता है। एआई-एफडब्ल्यू सामग्री स्तर पर उपकरण प्रतिक्रियाओं का निरीक्षण करता है, इंजेक्शन पेलोड्स का पता लगाता है इससे पहले कि वे मॉडल तक पहुंचें और अगले उपकरण कॉल या आउटपुट को प्रभावित करें।

उत्पादन-ग्रेड कस्टम एजेंटों के निर्माण वाले संगठनों के लिए, एआई-एफडब्ल्यू एकीकरण जेलब्रेक प्रयासों, संवेदनशील डेटा लीक (पीआईआई, क्रेडेंशियल्स), और नीति उल्लंघनों के खिलाफ सुरक्षा प्रदान करता है, सभी एजेंट के कोर लॉजिक को बदलने की आवश्यकता के बिना। सुरक्षा टीम डैशबोर्ड में केंद्रीय रूप से नीतियों को कॉन्फ़िगर करती है, और ये नीतियाँ सभी जुड़े कस्टम एजेंटों पर पारदर्शिता से लागू की जाती हैं।