स्थानीय AI एजेंट्स की सुरक्षा क्या है

अवलोकन

स्थानीय एजेंट्स की सुरक्षा आपको उपयोगकर्ता एंडपॉइंट्स पर चल रहे कोडिंग एजेंट्स जैसे AI एजेंट्स की खोज और सुरक्षा करने देती है। आपको स्थापित एजेंट्स, उनके कॉन्फ़िगरेशन, लाइसेंस प्रकार, जुड़े हुए MCP सर्वर और रनटाइम गतिविधियों की दृश्यता प्राप्त होती है। यह आपको शैडो एजेंट्स को नियंत्रित करने और डेटा रिसाव और अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के जोखिम को कम करने में मदद करता है।

शैडो कोडिंग एजेंट्स की खोज और सुरक्षा

एक इंजीनियरिंग संगठन असामान्य कोडिंग सहायकों का उपयोग करने के लिए कुछ टीमों को एंटरप्राइज लाइसेंस के साथ अनुमति देता है, जैसे कि Cursor और Claude कोड। हालांकि, कंपनी के व्यक्तिगत डेवलपर्स ने IT अनुमोदन या एंटरप्राइज-ग्रेड सुरक्षा कंट्रोल्स के बिना अतिरिक्त AI कोडिंग टूल्स स्थापित किए हैं।

एजेंट्स के लिए AI सुरक्षा Cato AI स्काउट का उपयोग संगठन में एंडपॉइंट्स को स्कैन करने के लिए करता है, सभी स्थापित AI एजेंट्स, उनके कॉन्फ़िगरेशन, लाइसेंस प्रकार और जुड़े हुए MCP सर्वर की पहचान करता है। सुरक्षा टीम प्रबंधित और अप्रबंधित एजेंट्स की एक पूर्ण इन्वेंटरी प्राप्त करती है, जिससे वे प्रमाणित सुरक्षा स्थिति लागू कर सकते हैं - यह सुनिश्चित करते हुए कि केवल स्वीकृत, उचित रूप से विन्यस्त एजेंट्स ही उपयोग में हैं।

एजेंट टूल कॉल्स के माध्यम से डेटा रिसाव को रोकना

एक विकास टीम AI कोडिंग एजेंट्स का उपयोग करती है जो MCP सर्वर और अन्य प्रकार के उपकरणों के माध्यम से आंतरिक और बाहरी सिस्टम से जुड़ते हैं। जबकि ये एकीकृत प्रयास उत्पादकता को बढ़ाते हैं, वे एजेंट के माध्यम से संवेदनशील डेटा प्रवाह के पथ बनाते हैं और संभावित रूप से उजागर हो जाते हैं।

एजेंट्स के लिए AI सुरक्षा चार निरीक्षण बिंदुओं पर रनटाइम नीतियों को लागू करती है: उपयोगकर्ता प्रॉम्प्ट, मॉडेल आउटपुट्स, टूल कॉल्स और टूल संदेश। जब कोई एजेंट संवेदनशील डेटा, प्रमाणपत्र या PII को टूल कॉल के माध्यम से भेजने का प्रयास करता है, या जब कोई टूल प्रतिक्रिया संवेदनशील जानकारी शामिल करती है जो मॉडल को नहीं भेजी जानी चाहिए, तो नीति इंजन रीयल टाइम में उस क्रिया का पता लगाता है और रोकता/संशोधित करता है। यह सुनिश्चित करता है कि एजेंट-सहायता प्राप्त वर्कफ़्लो उत्पादक रहता है बिना डेटा रिसाव के जोखिम को पेश किए।

अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन से स्थानीय AI एजेंट्स की सुरक्षा

स्थानीय और कोडिंग एजेंट्स उपकरणों से आने वाले अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों के लिए उजागर होते हैं। उदाहरण के लिए, "EchoLeak" और "CurXecute"।

एजेंट्स के लिए AI सुरक्षा रनटाइम प्रोटेक्शन प्रदान करती है जो केवल LLM के साथ एक्सचेंज किए गए प्रॉम्प्ट और प्रतिक्रियाओं का निरीक्षण करती है, बल्कि टूल कॉल्स और टूल संदेश की सामग्री भी। जब एक टूल प्रतिक्रिया एक हानिकारक पेलोड को शामिल करती है, जैसे कि एजेंट के व्यवहार को हाईजैक करने का प्रयास कर रहा अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन, Cato AI फ़ायरवॉल इसका पता लगता है और सामग्री एजेंट तक पहुंचने से पहले इसे रोकता है। यह सुनिश्चित करता है कि बाहरी डेटा स्रोतों को एजेंट की क्रियाओं को प्रभावित करने के लिए हथियार नहीं बनाया जा सकता।