ما هو أمان وكلاء الذكاء الاصطناعي المدارة؟

نظرة عامة

يوفر الأمان للوكلاء المدارة اكتشافًا وتتبعًا وحماية للوكلاء التي تعمل على منصات الذكاء الاصطناعي المدارة مثل AWS Bedrock، Azure AI Foundry، وMicrosoft Copilot Studio. تحصل على رؤية كاملة حول الوكلاء الموجودة، وما هي مصادر البيانات والأدوات التي يمكنهم الوصول إليها، وكيف يتصرفون أثناء التشغيل. 

توفر المنصات المدارة البنية التحتية لإنشاء وتوزيع وتوسيع عمل الوكلاء الذكاء الاصطناعي - لكنها تقدم أيضًا مجموعة مميزة من التحديات المتعلقة بالأمان والحوكمة. تفتقر المنظمات غالبًا إلى رؤية مركزية حول الوكلاء الموجودة عبر هذه المنصات، وما هي البيانات والأدوات التي يمكنهم الوصول إليها، وكيف يتصرفون أثناء التشغيل.

يساعد الأمان للوكلاء المدارة في تقليل مخاطر الوصول غير المصرح به، وتسرب البيانات الحساسة، والإجراءات غير الآمنة للوكلاء بينما تدعم متطلبات الحوكمة والامتثال.

حالات الاستخدام

اكتشاف الوكلاء المدارة

الخطوة الأولى في تأمين الوكلاء المدارة هي معرفة ما هو موجود. يتصل Cato بمنصات الذكاء الاصطناعي المدارة عبر API ويكتشف تلقائيًا جميع الوكلاء المنتشرين داخل البيئة. لدى كل وكيل يجمع النظام قائمة شاملة تشمل اسم الوكيل، والغرض منه، وارشادات تكوينه، والأدوات والموصلات المتصلة به، وقواعد المعرفة ومصادر البيانات، والأذونات وأدوات التحكم في الوصول المعينة له.

تتبع أنشطة الذكاء الاصطناعي الوكيل

تولد منصات الذكاء الاصطناعي المدارة بيانات التتبع أثناء تنفيذ الوكلاء - تسجل تسلسل الطلبات، ردود النموذج، الاستدعاءات الأداتية، والنتائج التي تشكل كل جلسة للوكيل. يستفسر Cato عن بيانات التتبع مباشرة من المنصة ويجري بثها في لوحة معلومات الذكاء الاصطناعي الوكيل، مما يوفر رؤية في الوقت الفعلي حول كيفية تصرف الوكلاء المدارة فعليًا في الإنتاج.

يلتقط التتبع كامل دورة حياة التفاعل مع الوكيل: ما الذي طلبه المستخدم، كيف استجاب النموذج، أي الأدوات استدعاها الوكيل (وما هي المعلمات)، ما الذي أرجعته تلك الأدوات، وكيف استخدم الوكيل نتائج الأدوات لصياغة الناتج النهائي. هذا المستوى من التفاصيل ضروري لفهم سلوكيات الوكلاء لأنه، على عكس شات بوت بسيط، قد ينفذ الوكيل سلسلة من الاستدعاءات الادوات، كل منها يستند إلى النتيجة السابقة، قبل إنتاج الرد النهائي. يمكن لطلب مستخدم واحد أن يشغل سلسلة معقدة من الإجراءات التي تكون غير مرئية بدون التتبع.

بالنسبة لفرق الأمان والامتثال، يوفر التتبع الأدلة اللازمة للتحقيق في الحوادث والتدقيق. إذا قام وكيل مدارة بالوصول إلى بيانات يجب ألا يكون له الحق في الدخول إليها، يمكن للتتبع إظهار الخطوات التي حدثت خطوة بخطوة. هذا مهم أيضًا لفهم نطاق الحادث: يظهر التتبع ليس فقط ما الذي حدث بشكل خاطئ، بل أيضًا ما هي البيانات التي تم الوصول إليها وما هي الإجراءات التي تم اتخاذها على طول الطريق.

الحماية عبر تكامل جدار الحماية الذكي

يوفر الاكتشاف والتتبع الرؤية، ولكن تحتاج المنظمات أيضًا إلى حماية فعالة لوكلائها المدارة. يحقق Cato ذلك عن طريق بث استدعاءات الوكلاء المقتفاة إلى جدار الحماية الذكي (AI-FW)، حيث يتم تقييمها وفقا لنفس الخطوط التعليمية والسياسات المستخدمة عبر باقي نظام الأمان للوكلاء.

هذا التكامل يعني أن كل طلب، استجابة للنموذج، واستدعاء أداة، ورسالة أداة تمر عبر وكيل مدارة يتم فحصه بواسطة محرك AI-FW. يقوم المحرك بتطبيق نماذج الكشف لحقن الطلبات، محاولات الاختراق، التسربات البيانات الحساسة، وانتهاكات السياسات - وهو نفس التفتيش الرباعي الذي يحمي الوكلاء المحليين والمخصصين. عندما يكتشف AI-FW تهديد، يمكن أن ينبه فريق الأمان، يسجل الحدث لأغراض الامتثال، أو، بناءً على التكامل ووضعية التنفيذ، يقوم بحظر التفاعل المخالف.