AIセキュリティ for アプリケーションは、データへのアクセスと使用方法を管理しながら、安全にAI駆動のエクスペリエンスを展開することができます。 AI You Buildは、組織が開発・運用するAIシステムをセキュリティ確保および管理する手助けをします。 カスタムAIアプリケーションを、ジェイルブレイクやプロンプトインジェクションなどの不正行為から保護し、不正なデータアクセスを防ぎ、法規制や組織の要件に準拠します。
これらのシステムは通常、内部ユーザー、外部ユーザー、または顧客に対して公開されます。例えば：
-
社員が社内ナレッジベースや会社資料のために使用する内部AIチャットボット
-
外部顧客対応用チャットボット、例: 顧客サポートボット
-
業務アプリケーションに統合されたAIアシスタント
-
内部データソース（CRMやERPシステムなど）に接続されたカスタムAIインタフェース
AI You Buildは、カスタムAIシステムの運用全体で保護および可視性を提供します。含めるもの：
-
実行時保護 - 実行中にAIシステムを保護し、意図的な悪用を防ぐことができます。 プロンプトの操作、機密情報の抽出、システム保護の回避をしようとする悪意のある試みをブロックすることが含まれます。
-
モニタリング - ユーザーがAIツールとどのようにやり取りするかを監視し、不適切または意図しない行動を検出します。 これにより、悪意はないが、内部ポリシーやコンプライアンス要件に違反する可能性のある活動を特定するのに役立ちます。
ユーザーやデータと相互作用するAIシステムは、ユニークなセキュリティ、コンプライアンス、および管理のリスクをもたらします。例えば：
-
プロンプトインジェクション、ジェイルブレイク試行、そしてシステム保護をバイパスするために設計されたマルチターン攻撃などのAI固有の攻撃
-
データ漏洩 - CRMプラットフォームなどの接続システムから顧客または業務データが露出すること、または機密情報（個人識別子や金融データなど）への不正アクセス
-
コンプライアンス違反 - 生成AIに対するEU AI法など、AIシステムに関する規制要件への不適合
-
管理ギャップ - 部門間または役割間での分割がないこと、および許可されていないデータへのユーザーアクセス
組織が顧客情報（財務履歴やアプリケーション詳細など）の確認を従業員が支援するために内部AIシステムを構築します。 規制およびコンプライアンス要件により、AIシステムはユーザーに代わって決定や判断を行ってはなりません（例:ローンの承認または拒否）。
AI You BuildはAIが直接の決定、推奨、適格性の結果を生成するのを防ぐ制御を実施します。 代わりに、AIはコンテキスト情報や関連データを提供または要約することができ、最終的な決定は承認された人間のユーザーが行うことを保証します。 これにより、組織は規制フレームワークおよび内部管理ポリシーに準拠しつつ、AI補助ワークフローの利点を享受できます。
0件のコメント
サインインしてコメントを残してください。