AIインタラクションページは、組織全体でAIチャットアプリケーションがどのように使用されているかをモニタし、ユーザープロンプトを通じてデータ漏洩のリスクを評価します。 AIセキュリティを有効にした後、ページはサポートされ、有効化されたAIアプリケーションへのプロンプトの可視性を提供し、使用パターンを理解し、潜在的にリスクのあるインタラクションを調査するのに役立ちます。
各インタラクションは単一のプロンプトを表し、プロンプトを受け取ったAIアプリケーションや検出されたトピックと意図など、コンテキスト情報を含みます。
モニタアクション付きのAIセキュリティルールを定義すると、マッチングプロンプトがAIインタラクションページに検出インジケータとともに表示されます。 これらのインタラクションについて：
-
検出列は、モニタリングプロファイルのトリガーを表示します。
-
プロンプトをマッチしたモニタリングルールを迅速に特定できます。
この情報は、ルールカバレッジの検証およびポリシーの調整に役立ちます。
特定のインタラクションを掘り下げると、利用可能な詳細情報のレベルは割り当てられた権限に依存します。 必要な権限を持つ管理者は、AIアプリケーションに送信された実際のプロンプトを表示する要求を行えます。 プロンプトに問題のあるコンテンツが含まれている場合、関連セクションがフラグまたはハイライトされます。 ルールアクションにブロックが含まれる場合、インタラクションの詳細にはユーザーに提示されたブロックページが表示されます。
役割と権限に関する情報については、RBACを使用した管理者ロールの管理をご覧ください。
注:プロンプトの表示などの操作は、監査ログに記録されます。
ABC会社はAIセキュリティを有効にして、社員が日常業務でAIチャットアプリケーションをどのように使用しているかの可視性を得ます。 AIインタラクションページのインタラクションをレビューすることで、セキュリティチームはユーザーがAIツールに提出する質問やリクエストのタイプを確認できます。
このインサイトは、組織が従業員の活動をよりよく理解し、一般的な知識のギャップや繰り返しの支援ニーズを特定し、生産性を改善しながらリスクを低減するために、追加のガイダンス、トレーニング、または有効化がどこに必要かを判断するのに役立ちます。
0件のコメント
サインインしてコメントを残してください。