概要
ユーザーは、AIチャットアプリケーションを日常業務の一部としてよく利用しますが、セキュリティ、コンプライアンス、またはデータ漏洩のリスクについて十分に検討していないことがあります。 これらのツールへのアクセスを完全にブロックすることはリスクを減らすことができますが、AI駆動のワークフローが提供する生産性向上の利益も削除してしまいます。
AIインタラクションポリシーは、リアルタイムでプロンプトを検査し、リスクのあるコンテンツが検出された場合に対応することで、ユーザーがAIチャットアプリケーションとどのようにインタラクションするかを管理できます。 AIチャットを完全にブロックする代わりに、データ漏洩、ポリシー違反、コンプライアンスリスクを防ぎながら、承認されたAIの使用が許可されるように詳細な保護を適用できます。
AIインタラクションポリシーを使用して、組織のセキュリティとガバナンスの要求に基づいて、プロンプトコンテンツの特定のタイプをブロック、匿名化、アラート、モニタすることができます。 このアプローチにより、AIツールの正当かつ生産的な利用を妨げることなく、機密情報を保護し、AI使用ポリシーを強制することができます。
注意: AIセキュリティAPI統合モジュールを使用する際、AIインタラクションポリシーはモニタリングアクションのみをサポートします。
前提条件
AIインタラクションポリシーがAIトラフィックを検査するためには、TLSインスペクションをアカウントレベルで有効化しなければなりません。 アカウントに対してTLSインスペクションが無効の場合、AIインタラクションポリシーはAIトラフィックを検査しません。
AIインタラクションポリシーは、アカウントレベルのTLSインスペクション設定に基づいて一致するAIトラフィックを検査し、特定のTLSインスペクションルールを要求しません。
AIインタラクションポリシーの設定
ルールを作成する前に、Cato管理アプリケーションでエンドユーザー向けにAIインタラクションポリシーを有効にしてください。
エンドユーザー向けにAIインタラクションポリシーを有効にする手順:
- ナビゲーションメニューからAIセキュリティを選択します。
- ユーザー保護の下で、AIインタラクションポリシーを選択します。
- エンドユーザープロンプトルールトグルを有効にします。
AIインタラクションポリシールールを作成する手順:
- AIインタラクションポリシーページから、新規 をクリックします。
- 一般のセクションでは、名前や説明などの項目を設定します。
- ソースセクションで、ルールが適用されるユーザーまたはグループを選択します。または、すべてを選択してルールをすべてのソースに適用します。
- アプリケーションセクションで、ルールが適用されるAIアプリケーションを選択します。または、すべてを選択してルールをすべての対応アプリケーションに適用します。
- エンジンプロファイルセクションで、AIプロンプトを評価するために使用されるプロファイルを選択します。
-
アクションセクションで、プロンプトがコンテンツプロファイルに一致する場合に適用するアクションを選択します。例としてブロックなどがあります。
APIルールを作成している場合、利用可能な唯一のアクションはモニタです。
- （任意）アクションが施行された際にユーザーに通知するための通知テンプレートを選択します。
- 保存をクリックしてください。
設定された基準に確認が一致すると、選択されたアクションが施行されます。
AIインタラクションポリシーは、各ルールに対して以下のアクションをサポートします。
- ブロック - プロンプトはブロックされ、情報はAIベンダーに送信されません。
- モニタ - プロンプトはAIベンダーに送信され、インタラクションが監視されます。
-
匿名化とブロック - 選択したエンジンプルファイルに含まれる検出器がある場合：
- コンテンツの匿名化をサポート。コンテンツは匿名化され、送信されます。
- コンテンツの匿名化をサポートしない場合；プロンプトはブロックされます。
-
匿名化とモニタ - 選択したエンジンプロファイルに含まれる検出器がある場合：
- コンテンツの匿名化をサポート。コンテンツは匿名化され、送信されます。
- コンテンツの匿名化をサポートしません。 確認はAIベンダーに送信され、インタラクションはモニタされます。
0件のコメント
サインインしてコメントを残してください。