نظرة عامة
غالبًا ما يتفاعل المستخدمون مع تطبيقات الدردشة التي تعتمد على الذكاء الاصطناعي كجزء من عملهم اليومي، دون النظر الكامل إلى المخاطر المتعلقة بالأمان والامتثال أو كشف البيانات. يمكن أن يقلل الحظر الكامل للوصول إلى هذه الأدوات من المخاطر، ولكنه أيضًا يزيل الفوائد الإنتاجية التي توفرها سير العمل المستندة إلى الذكاء الاصطناعي.
تتيح لك سياسة تفاعل الذكاء الاصطناعي التحكم في كيفية تفاعل المستخدمين مع تطبيقات الدردشة التي تعتمد على الذكاء الاصطناعي من خلال فحص المحفزات في الوقت الحقيقي والاستجابة عند اكتشاف محتوى ينطوي على مخاطر. بدلاً من حظر محادثات الذكاء الاصطناعي تمامًا، يمكنك تطبيق حماية دقيقة تساعد على منع كشف البيانات الحساسة، وانتهاكات السياسات، ومخاطر الامتثال مع الاستمرار في السماح باستخدام الذكاء الاصطناعي الموافق عليه.
باستخدام سياسات تفاعل الذكاء الاصطناعي، يمكنك حظر أو إخفاء أو تنبيه أو مراقبة أنواع معينة من محتوى المحفز بناءً على متطلبات الأمان والحكم داخل مؤسستك. تُمكّنك هذه المقاربة من حماية المعلومات الحساسة وفرض سياسات استخدام الذكاء الاصطناعي دون عرقلة الاستخدام الشرعي والمنتج لأدوات الذكاء الاصطناعي.
ملاحظة: عند استخدام وحدة تكامل واجهة برمجة التطبيقات للأمان AI، تدعم سياسات التفاعل مراقبة الأفعال فقط.
المتطلبات المسبقة
يجب تفعيل فحص TLS على مستوى الحساب لتتمكن سياسات التفاعل AI من فحص حركة مرور AI. إذا تم تعطيل فحص TLS للحساب، فإن سياسات تفاعل الذكاء الاصطناعي لا تفحص حركة المرور المتعلقة بالذكاء الاصطناعي.
تقوم سياسات تفاعل الذكاء الاصطناعي بفحص حركة المرور المتعلقة بالذكاء الاصطناعي المتطابقة بناءً على إعداد فحص TLS على مستوى الحساب ولا تتطلب قاعدة فحص TLS محددة.
تهيئة سياسات تفاعل الذكاء الاصطناعي
قبل إنشاء القواعد، قم بتمكين سياسات تفاعل الذكاء الاصطناعي للمستخدمين النهائيين في تطبيق إدارة كاتو.
لتمكين سياسات تفاعل الذكاء الاصطناعي للمستخدمين النهائيين:
- من قائمة التنقل، اختر أمان الذكاء الاصطناعي.
- ضمن حماية المستخدمين، اختر سياسة تفاعل الذكاء الاصطناعي
- قم بتمكين مفتاح التبديل قواعد محفزات المستخدمين النهائيين.
لإنشاء قاعدة سياسة تفاعل الذكاء الاصطناعي:
- من صفحة سياسة تفاعل الذكاء الاصطناعي، انقر على جديد.
- في قسم عام، قم بتكوين الحقول مثل الاسم والوصف.
- في قسم المصدر، اختر المستخدمين أو المجموعات التي تنطبق عليها القاعدة، أو اترك أي لتطبيق القاعدة على جميع المصادر.
- في قسم التطبيقات، اختر التطبيقات الذكاء الاصطناعي التي تنطبق عليها القاعدة، أو اترك أي لتطبيق القاعدة على جميع التطبيقات المدعومة.
- في قسم بروفايلات المحرك، اختر البروفايل المستخدم لتقييم محفزات الذكاء الاصطناعي.
-
في قسم الإجراءات، اختر الإجراء لتطبيقه عندما يتطابق الطلب مع ملف تعريف المحتوى، مثل الحظر.
إذا كنت تقوم بإنشاء قاعدة API، فإن الإجراء الوحيد المتاح هو المراقبة.
- (اختياري) اختر نموذج إشعار لإخطار المستخدمين عند تنفيذ الإجراء.
- انقر على حفظ.
عندما يتطابق محفز مع المعايير المجهزة، يتم تنفيذ الإجراء المحدد.
سياسة التفاعل مع الذكاء الاصطناعي تدعم الإجراءات التالية لكل قاعدة:
- حظر - يتم حظر الطلب ولا يتم إرسال أي معلومات إلى موردي الذكاء الاصطناعي.
- المراقبة - يتم إرسال الطلب إلى موردي الذكاء الاصطناعي ويتم متابعة التفاعل.
-
إخفاء وحجب - إذا كان ملف محركات البحث الذي اخترته يتضمن كاشفات التي:
- دعم إخفاء المحتوى، يتم إخفاء المحتوى وإرساله.
- لا يدعم إخفاء المحتوى، يتم حظر الطلب.
-
إخفاء ومراقبة - إذا كان ملف محركات البحث الذي اخترته يتضمن كاشفات التي:
- دعم إخفاء المحتوى، يتم إخفاء المحتوى وإرساله.
- لا تدعم إخفاء الهوية للمحتوى. يتم إرسال الإشارة إلى مزود الذكاء الاصطناعي ويتم مراقبة التفاعل.
لا توجد تعليقات
الرجاء تسجيل الدخول لترك تعليق.