एजेंट्स के लिए AI सुरक्षा क्या है

अवलोकन

एजेंट्स के लिए AI सुरक्षा आपको अपने संगठन में AI एजेंट्स को सुरक्षित रूप से अपनाने देती है बिना यह देखे कि वे डेटा, उपकरणों का उपयोग करते हैं और क्रियाएँ कैसे करते हैं। आप एजेंट वर्कफ़्लो को प्रॉम्प्ट इंजेक्शन, अनधिकृत डेटा एक्सेस, संवेदनशील डेटा एक्सपोज़र और अन्य दुरुपयोग से बचा सकते हैं जो सुरक्षा या अनुपालन जोखिम पैदा कर सकते हैं।

Cato इन श्रेणियों में AI एजेंट्स को वर्गीकृत करता है:

स्थानीय एजेंट सामान्यतः उपयोगकर्ता एंडपॉइंट पर चलते हैं और मुख्य रूप से तीसरे पक्ष द्वारा प्रदान किए जाते हैं। प्रबंधित एजेंट सामान्यतः कम कोड या नो कोड एजेंट होते हैं जो क्लाउड प्लेटफ़ॉर्म और SaaS प्रदाताओं द्वारा प्रदान किए जाते हैं। कस्टम एजेंट पूरी तरह से कोडेड एजेंट होते हैं जिन्हें आप एंडपॉइंट्स या क्लाउड पर्यावरण में बनाते हैं और चलाते हैं।

एजेंट्स के लिए AI सुरक्षा आपको इन एजेंट प्रकारों की निगरानी और शासन के लिए एकीकृत तरीका देती है जो आप प्रबंधित करते हैं। यह आपको नीति प्रवर्तन बनाए रखते हुए AI एजेंट्स को आत्मविश्वासपूर्वक तैनात करने में, परिचालन जोखिम कम करने में और आपके अनुपालन आवश्यकताओं का समर्थन करने में मदद करता है।

AI एजेंट्स द्वारा प्रस्तुत जोखिम

AI एजेंट्स जो स्वायत्त रूप से कार्य करते हैं और उपकरण, डेटा और बाहरी प्रणालियों के साथ बातचीत करते हैं, अद्वितीय सुरक्षा, अनुपालन और शासन जोखिम प्रस्तुत करते हैं जो पारंपरिक AI चैटबॉट धमकियों से ऊपर जाते हैं:

• AI-विशिष्ट हमले - जिसमें शामिल हैं: प्रॉम्प्ट इंजेक्शन, जेलब्रेक प्रयास, और मल्टी-टर्न हमले जिन्हें एजेंट व्यवहार को बदलने के लिए डिज़ाइन किया गया है। चैटबॉट्स के विपरीत, एजेंट्स को उनके उपकरण प्रतिक्रियाओं (अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन) के माध्यम से भी हमला किया जा सकता है, जहां एक हानिकारक पेलोड उपकरण की आउटपुट में एजेंट के कार्यों को हाइजैक कर सकता है।
• डेटा एक्सफिल्ट्रेशन - एजेंट्स जो कोड रिपॉजिटरी, आंतरिक API, CRM प्रणाली, या फाइल सिस्टम तक पहुंच रखते हैं। ये एजेंट अनायास या हानिकारक रूप से संवेदनशील डेटा को लीक कर सकते हैं जैसे स्रोत कोड, प्रमाणपत्र, व्यक्तिगत पहचानकर्ता, या वित्तीय डेटा, उपकरण कॉल या मॉडल आउटपुट के माध्यम से।
• शैडो एजेंट्स - अनियंत्रित या अनाधिकृत AI एजेंट्स कर्मचारी द्वारा बिना IT स्वीकृति के स्थापित किए जा सकते हैं, जिससे सुरक्षा परिदृश्य में अंधेरे स्थल पैदा होते हैं। इसमें पर्सनल इंस्टेंस शामिल हैं जो एंटरप्राइज लाइसेंस या सुरक्षा नियंत्रणों के बिना चल रहे हैं।
• MCP सर्वर जोखिम - हानिकारक या गलत कॉन्फ़िगर किए गए MCP सर्वर्स संवेदनशील डेटा का एक्सपोज़र कर सकते हैं, अनधिकृत आदेश निष्पादित कर सकते हैं, या एजेंट के वर्कफ़्लो में कमजोरियाँ उत्पन्न कर सकते हैं।
• अनुपालन उल्लंघन - AI प्रणाली के लिए नियामक आवश्यकताओं को पूरा करने में विफलता जैसे EU AI अधिनियम या कोड जेनरेशन, डेटा हैंडलिंग, और स्वचालित निर्णय लेने को नियंत्रित करने वाली आंतरिक नीतियाँ।
• शासन अंतराल - कौनसे एजेंट्स तैनात किए गए हैं, वे किस उपकरण से जुड़ते हैं, और वे कौनसे डेटा तक पहुँच सकते हैं, इनका दृश्यता की कमी, जो संगठन में लगातार सुरक्षा नीतियों को लागू करना असंभव बनाती है।