نظرة عامة
يتيح لك أمن الذكاء الاصطناعي للوكلاء تبني وكلاء الذكاء الاصطناعي في مؤسستك بشكل آمن دون فقدان الرؤية أو التحكم في كيفية وصولهم إلى البيانات واستخدام الأدوات وأداء المهام. يمكنك حماية سير العمل للوكلاء من حقن المطالبات والوصول غير المصرح إلى البيانات الحساسة وغيرها من الاستخدامات الخاطئة التي يمكن أن تؤدي إلى مخاطر أمنية أو الامتثال.
تصنف كاتو الوكلاء الذكاء الاصطناعي إلى هذه الفئات:
ينفذ الوكلاء المحليون عادةً على نقطة النهاية للمستخدم وعادةً ما يتم توفيرهم من قبل جهات خارجية. الوكلاء المدارة هم عادةً وكلاء لا تتطلب البرمجة أو ذات برمجة منخفضة ، يتم توفيرها من قبل منصات الحوسبة السحابية ومزودي SaaS. الوكلاء المخصصة هم وكلاء مكتملون بالكود تبنيهم وتديرهم على النقاط النهاية أو في بيئات السحابة.
يقدم لك الأمن الذكاء الاصطناعي للوكلاء وسيلة موحدة لرصد هذه الأنواع من الوكلاء وإدارتها عبر البيئات التي تديرها. يساعدك هذا في نشر وكلاء الذكاء الاصطناعي بثقة مع الحفاظ على تنفيذ السياسة وتقليل المخاطر التشغيلية ودعم متطلبات الامتثال لديك.
المخاطر التي يشكلها وكلاء الذكاء الاصطناعي
الوكلاء الذكاء الاصطناعي الذين يعملون بشكل مستقل ويتفاعلون مع الأدوات والبيانات والأنظمة الخارجية يقدمون مخاطر فريدة على الأمن والامتثال والحكم التي تتجاوز التهديدات التقليدية لروبوتات الدردشة.
- الهجمات الخاصة بالذكاء الاصطناعي - بما في ذلك: حقن المطالبات، محاولات الهروب، وهجمات متعددة الأدوار تهدف إلى التلاعب بسلوك الوكيل. على عكس روبوتات الدردشة، يمكن أيضًا مهاجمة الوكلاء من خلال استجابات الأدوات (حقن المطالبات غير المباشرة)، حيث يمكن لحمولة ضارة في مخرجات الأداة اختطاف إجراءات الوكيل.
- التسريب البياني - الوكلاء الذين لديهم حق الوصول إلى مستودعات الأكواد، الأنظمة الداخلية، أنظمة إدارة علاقات العملاء، أو أنظمة الملفات. قد يتم تسريب البيانات الحساسة عن غير قصد أو عمد من قبل هؤلاء الوكلاء مثل الأكواد المصدر، أوراق الاعتماد، المعرفات الشخصية، أو البيانات المالية من خلال استدعاءات الأدوات أو مخرجات النماذج.
- الوكلاء الظلال - يمكن أن يكون هناك وكلاء ذكاء اصطناعي غير مُدارة أو غير مصرح بها يتم تثبيتها بواسطة الموظفين دون موافقة تكنولوجيا المعلومات، مما يخلق ثغرات في وضع الأمان. يتضمن ذلك مثيلات شخصية لمساعدي البرمجة قيد التشغيل بدون تراخيص الشركة أو عناصر التحكم الأمنية.
- مخاطر خادم MCP - يمكن أن تكشف خوادم MCP الضارة أو التي تم تكوينها بشكل خاطئ عن بيانات حساسة، تنفيذ أوامر غير مصرح بها، أو إدخال ثغرات في سير عمل الوكيل.
- انتهاكات الامتثال - الفشل في تلبية المتطلبات التنظيمية لأنظمة الذكاء الاصطناعي، مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي، أو السياسات الداخلية التي تحكم إنشاء الأكواد، معالجة البيانات، واتخاذ القرارات المؤتمتة.
- فجوات الحوكمة - عدم القدرة على معرفة الوكلاء الذين يتم نشرهم، الأدوات التي يتصلون بها، والبيانات التي بإمكانهم الوصول إليها، مما يجعل من المستحيل فرض سياسات الأمان المتسقة في المؤسسة.
لا توجد تعليقات
الرجاء تسجيل الدخول لترك تعليق.