تأمين حركة مرور تطبيقات الذكاء الاصطناعي

توفر لوحة تحكم تطبيقات GenAI رؤية مركزية وشاملة لاستخدام تطبيقات GenAI المضمنة، بما في ذلك الذكاء الاصطناعي غير الظاهر. تفصل لوحة التحكم ما هي تطبيقات الذكاء الاصطناعي المستخدمة عبر مؤسستك، ومن المستخدم لها، وتتابع جميع التفاعلات بين المستخدمين ومشاركة البيانات الحساسة. مع الرؤية التي توفرها لوحة تحكم تطبيقات GenAI، يمكنك منع اختراقات البيانات بشكل استباقي من خلال تحديد المخاطر. لمزيد من المعلومات، انظر استخدام لوحة تحكم تطبيقات GenAI.

يحتوي فهرس التطبيقات على مجموعة واسعة من بيانات الأمان والامتثال والمعلومات العامة لمئات من تطبيقات وخدمات الذكاء الاصطناعي. يتضمن ذلك توفير جميع الرؤى لإجراء إدارة المخاطر مع الأطراف الثالثة (TPRM) لتقييم مخاطر استخدام هذا التطبيق. يمكنك استخدام الفهرس لتعلم المزيد عن تطبيق واتخاذ قرار بشأن كيفية استخدامه في مؤسستك. لمزيد من المعلومات، انظر استخدام فهرس التطبيقات.

توفر أنشطة التدقيق رؤية مستقلة لكافة الأنشطة التي يقوم بها أي مستخدم في تطبيق SaaS متصل حتى لو لم يكن المستخدم متصلاً بسحابة كاتو. يمكن دمج مايكروسوفت كوبايلوت وChatGPT مع كاتو لتزويدك برؤية للدردشات والبيانات التي يتم مشاركتها مع هذه التطبيقات. لمزيد من المعلومات، انظر ما هو التحكم في التطبيقات عبر API مع أنشطة التطبيقات.

شركة ABC تراجع لوحة تحكم تطبيقات GenAI وتحدد أداة تحليل التعليمات البرمجية غير المعروفة التي تعتمد على الذكاء الاصطناعي. يبحثون عن التطبيق في فهرس التطبيقات ويجدون أن التطبيق لديه درجة خطورة 6. لتجنب خطر إفشاء المعلومات الحساسة، يقومون بإنشاء دور للتحكم في التطبيق لمنع الوصول إلى التطبيق.

تحافظ كاتو على 8 فئات نظام لتطبيقات الذكاء الاصطناعي بالإضافة إلى الفئة العامة أدوات الذكاء الاصطناعي التوليدية. يمكن استخدام هذه الفئات في جدار الحماية على الإنترنت للتحكم في الوصول إلى فئة من تطبيقات الذكاء الاصطناعي، على سبيل المثال، تطبيقات مساعد البرمجة، أو للتطبيقات الذكاء الاصطناعي الأكثر شعبية، بما في ذلك ChatGPT، AgentGPT، Google Bard، Elicit AI، MagicPen AI، Poe AI، OpenAI، والمزيد.

يمكنك أيضًا تحديد قواعد لتطبيقات الذكاء الاصطناعي الفردية أو فئات التطبيقات. على سبيل المثال، بعد إنشاء قاعدة تمنع الحركة إلى فئة أدوات الذكاء الاصطناعي التوليدية، يمكنك إنشاء قاعدة ذات أولوية أعلى تسمح بالحركة إلى ChatGPT لمجموعة محددة من المستخدمين الذين يحتاجون إلى الوصول. لمزيد من المعلومات، انظر ما هو جدار الحماية على الإنترنت من كاتو؟.

تتيح القواعد التالية لجدار الحماية للإنترنت مجموعة المستخدمين فريق البحث الوصول إلى ChatGPT، بينما تمنع كل الوصول الآخر إلى فئة أدوات الذكاء الاصطناعي التوليدية:

تسمح لك سياسة التحكم في التطبيق بالتحكم التفصيلي في الوصول إلى التطبيقات بناءً على معايير محددة، مثل درجة خطر التطبيق أو مستوى الامتثال الخاص به. لمزيد من المعلومات حول تكوين قواعد التحكم في التطبيقات، راجع إدارة سياسة التحكم في التطبيقات.

لمنع التعرض للمعلومات الملكية في المستوى المجاني للتطبيق، يمكنك إنشاء قواعد في سياسة التحكم في التطبيقات التي تمنع المستخدمين من الوصول إلى الحسابات الخاصة، وتسمح بالوصول فقط إلى مستأجر المؤسسة الخاص بك. على سبيل المثال، يمكنك تحديد قواعد لتطبيق OpenAI التي تسمح فقط بنشاط تسجيل الدخول إلى مستأجر منظمتك، وتمنع جميع تسجيلات الدخول الأخرى (على سبيل المثال، تسجيل الدخول باستخدام عنوان بريد إلكتروني خاص).

فيما يلي قاعدة نموذجية حيث تسمح القاعدة الأولى بتسجيل الدخول إلى OpenAI لأسماء المستخدمين التي تشمل نطاق الشركة، ثم تمنع القواعد التالية جميع تسجيلات الدخول إلى OpenAI عبر المصادقة المباشرة والأطراف الثالثة.

لزيادة التفاصيل، لبعض التطبيقات يمكنك تحقيق توازن بين الأمان والإنتاجية من خلال السماح للمستخدمين بالوصول إلى تطبيق ضروري بينما يتم حظر الأنشطة الخطرة داخله. للقيام بذلك، يمكنك إنشاء قواعد في سياسة التحكم في التطبيق، التي تتضمن الأنشطة التفصيلية. على سبيل المثال، يمكنك السماح بالوصول إلى Wordtune، ولكن حظر المستخدمين من تحميل الملفات.

تستخدم خدمة DLP من كاتو العشرات من النماذج القادرة على اكتشاف البيانات الحساسة في تدفق الحركة باستخدام تقنيات متقدمة. يتضمن ذلك فئات مثل المالية، القانونية، الموارد البشرية، الهجرة، والطب. بالإضافة إلى ذلك، تتضمن DLP أيضًا أنواع البيانات للاستخدام مع تطبيقات GenAI. على سبيل المثال، يتضمن بروفايل بيانات PII أنواع البيانات مثل معلومات بطاقة الائتمان ورخص القيادة. يسمح لك ذلك بإنشاء سياسة تفصيلية تنطبق فقط على البيانات الحساسة ذات الصلة وتمنع استخدامها في تطبيق ذكاء اصطناعي.

إذا كانت بروفايلات البيانات المعرفة مسبقًا يمكن أن توفر ملفاتك/بياناتك الخاصة لتدريب نموذج تعلم الآلة المخصص. تتعلم محركات الذكاء الاصطناعي المتقدمة من هذا المدخلات وتستخلص السياق، وتكتشف لاحقًا البيانات الحساسة داخل نفس المجال.

لمزيد من المعلومات، انظر العمل مع أنواع البيانات المخصصة لـ DLP.

تتضمن سياسة التحكم في التطبيق وDLP القواعد الموصى بها من قبل كاتو بشكل مسبق. تتضمن هذه القواعد لحماية تطبيقات الذكاء الاصطناعي الخاصة بك. بشكل افتراضي، يقوم DLP بمراقبة وإنشاء أحداث لأنواع البيانات التالية التي يتم تحميلها إلى أدوات GenAI:

شركة ABC تقوم بتوقيع اتفاقية للاشتراك في تطبيق SaaS جديد. يتم إرسال العقد لهم للتوقيع ويقوم مستخدم بتحميله إلى النسخة المجانية من تطبيق GenAI عالي المخاطر لمراجعة وتلخيص العقد. ينشئ قاعدة DLP المعرفة مسبقًا حدثًا لتنبيه فريق الأمان بهذا الانتهاك للسياسة.