ما هو أمان العملاء المحليين للذكاء الاصطناعي

نظرة عامة

يسمح الأمان لأجهزة الذكاء الاصطناعي المحلية باكتشاف وتأمين العملاء الذكاء الاصطناعي التي تعمل على نقاط النهاية للمستخدمين، مثل عملاء البرمجة. يساعدك في الحصول على رؤية واضحة للعملاء المثبتين، تهيئتها، أنواع الرخص، خوادم MCP المتصلة، و النشاط أثناء التشغيل. يساعد ذلك في التحكم في العملاء الخفيين وتقليل مخاطر تسرب البيانات وحقن الأذونات بشكل غير مباشر.

اكتشاف وتأمين العملاء البرمجيين الخفيين

تسمح منظمة الهندسة لبعض الفرق باستخدام مساعدي البرمجة المدارة مثل Cursor وClaude Code برخصة مؤسسية. ومع ذلك، قام أفراد من المطورين في مختلف أقسام الشركة بتثبيت أدوات برمجة الذكاء الاصطناعي الإضافية بدون موافقة إدارة تكنولوجيا المعلومات أو ضوابط الأمان المؤسسية.

يستخدم الأمان لأجهزة الذكاء الاصطناعي Cato AI Scout لفحص نقاط النهاية في جميع أنحاء المؤسسة، وتحديد جميع العملاء المثبتين، تهيئتها، أنواع الرخص، وخوادم MCP المتصلة. يحصل فريق الأمان على جرد كامل للعملاء المدارة وغير المدارة، مما يتيح لهم تطبيق مكانة أمان متسقة - وضمان أن العملاء المعتمدين والمحكمين بشكل صحيح هم فقط الذين يتم استخدامها.

منع تسرب البيانات من خلال اتصالات أدوات العملاء

يستخدم فريق التطوير عملاء البرمجة للذكاء الاصطناعي الذين يتصلون بأنظمة داخلية وخارجية عبر خوادم MCP وأنواع أخرى من الأدوات. في حين أن هذه التكاملات تعزز الإنتاجية، فإنها تخلق أيضًا مسارات لتدفق البيانات الحساسة عبر العملاء وربما تعرضها.

يفرض الأمان لأجهزة الذكاء الاصطناعي سياسات التشغيل عبر جميع نقاط الفحص الأربعة: طلبات المستخدم، مخرجات النماذج، اتصالات الأدوات، ورسائل الأدوات. عندما يحاول عميل إرسال بيانات حساسة أو اعتمادات أو بيانات تعريفية شخصية عبر اتصال أداة، أو عندما تحتوي استجابة الأداة على معلومات حساسة يجب ألا تمرر إلى النموذج، فإن محرك السياسات يكتشف ويمنع/ينقح الإجراء في الوقت الفعلي. يضمن هذا أن تظل تدفقات العمل المدعومة من العميل منتجة دون تقديم مخاطر تسرب البيانات.

حماية عملاء الذكاء الاصطناعي المحليين من حقن الأذونات غير المباشرة

يتعرض العملاء المحليون والبرمجيات لهجمات حقن الأذونات غير المباشرة التي تأتي من الأدوات. على سبيل المثال، "EchoLeak" و"CurXecute".

يوفر الأمان لأجهزة الذكاء الاصطناعي حماية وقت التشغيل التي تفحص طلبات الأذونات والردود المتبادلة مع LLM، وكذلك محتوى اتصالات الأدوات ورسائل الأدوات. عندما تحتوي ردود الأداة على حمولة ضارة، مثل حقن الأذونات غير المباشرة التي تحاول السيطرة على سلوك العميل، فإن جدار الحماية AI من كاتو يكتشفها ويمنعها قبل أن يصل المحتوى إلى العميل. يضمن هذا أن مصادر البيانات الخارجية لا يمكن أن تُسلَّح للتلاعب بأفعال العميل.