この記事では、組織でAIアプリへの安全なアクセスを維持する方法について説明します。
AIベースのツールを使用することは生産性を向上させますが、同時に組織に新たなセキュリティ上の課題とリスクをもたらします。 例えば、ユーザーがAIアプリの無料版に機密データを入力すると、アプリのベンダーがこの情報を使用する権利を持つことになります。 悪意のある者はAIアプリのLLMに問い合わせて機密データを抽出する可能性があります。 AIアプリの数が急速に増加する中、セキュリティチームはどのアプリケーションが使用されているか、どこで機密データが共有されているかを把握するという課題に直面しています。
組織とその機密データを保護し、AIアプリケーションのセキュアな利用を可能にするために、Catoは3つの戦略を推奨しています。
-
可視性を確保する: どのAIアプリケーションが利用されているか、誰が使用しているか、それらがどのように利用されているかを理解する
-
アクセスを制御する: AIアプリケーションへのアクセスを規制し、セキュリティ対策を実施するポリシーを導入する
-
データを保護する: AIアプリケーション内での不正アクセスや共有を防止することで機密情報を守る
様々な機能を活用することでこの戦略を実施し、AIアプリケーションのトラフィックを監視し、保護することができます。 インターネットファイアウォールルールを定義してAIアプリのカテゴリへのアクセスを制御し、特定のAIアプリに対するルールを設定できます。 さらに、アプリケーション制御ポリシーを定義し、ユーザーがAIアプリの企業テナントにのみアクセスできるようにしたり、細かいアクションをブロックしたりして、機密情報を安全に保つことができます。 さらなる保護層として、データ制御ポリシーを設定してAIアプリへの機密データの転送を防止することができます。
組織内で使用されているAIアプリに関連するリスクを把握し理解することで、データ漏洩リスク、コンプライアンス違反、潜在的なセキュリティ脆弱性を防ぐことができます。 どのAIアプリが使用されているか、誰が使用しているか、機密データとどのように相互作用しているかを理解することで、ポリシーを施行し、脅威を軽減し、責任あるAIの採用を確保できます。 可視性はまた、AIアプリの潜在的リスクを評価し、ガバナンスを維持し、組織のセキュリティフレームワークとAI利用を整合させることに役立ちます。
GenAIアプリダッシュボードとアプリカタログは、環境内で使用されているAIアプリに関する可視性と理解を提供します。
GenAIアプリダッシュボードは、インラインGenAIアプリの使用状況を含むシャドウAIへの中央集約化された包括的可視性を提供します。 ダッシュボードは組織全体で使用されているAIアプリケーションの詳細、誰が使用しているか、すべてのユーザーアクションと機密データ共有を追跡します。 GenAIアプリダッシュボードが提供する可視性によって、リスクを特定しデータ漏洩を積極的に防ぐことができます。 詳細については、GenAIアプリダッシュボードの使用を参照してください。
アプリカタログには、数百のAIアプリとサービスに関する幅広いセキュリティデータ、コンプライアンス、および一般情報が含まれています。 これには、TPRM（サードパーティリスク管理）を実施し、このアプリの使用リスクを評価するためのすべてのインサイトが提供されています。 アプリについて学び、組織でどのように使用するかを決定するために、カタログを使用できます。 詳細については、アプリカタログの使用を参照してください。
監査活動は、ユーザーがCatoのクラウドに接続していない場合でも、接続されたSaaSアプリケーションで行われたすべてのアクティビティのオフバンドの可視性を提供します。 Microsoft CopilotとChatGPTは、これらのアプリとのチャットおよび共有されるデータの可視性を提供するためにCatoと統合できます。 詳細については、アプリ活動を通じてAPI経由のアプリケーション制御とはを参照してください。
適切なアクセス制御がない場合、ユーザーは偶然に機密情報をAIモデルに入力し、データ漏洩や規制違反を引き起こす可能性があります。 さらに、未確認のAIアプリケーションはセキュリティの脆弱性を導入したり、機密コードを露出させたり、誤解を招くまたは有害なコンテンツを生成したりする可能性があります。 厳格なアクセスポリシーを施行することで、認可されたユーザーが認可されたAIツールを利用することを保証し、AI採用を促進しながらリスクを最小化することができます。
CatoはAIアプリに対して一般の生成AIツールカテゴリに加えて8つのシステムカテゴリを維持しています。 これらはインターネットファイアウォールでAIアプリのカテゴリへのアクセスを制御するために使用できます。例えば、コードアシスタントアプリやChatGPT、AgentGPT、Google Bard、Elicit AI、MagicPen AI、Poe AI、OpenAIなどの最も人気のあるAIアプリに対してです。
特定のAIアプリまたはアプリカテゴリに対してルールを定義することもできます。 例えば、生成AIツールカテゴリへのトラフィックをブロックするルールを作成した後、アクセスが必要な特定のユーザーグループのためにChatGPTへのトラフィックを許可する優先度の高いルールを作成できます。 詳細については、Catoインターネットファイアウォールとはを参照してください。.
以下は、ユーザーグループリサーチチームがChatGPTにアクセスできるようにし、生成AIツールカテゴリへのすべての他のアクセスをブロックする例のインターネットファイアウォールルールです。
アプリケーション制御ポリシーにより、アプリのリスクスコアやコンプライアンスレベルなどの特定の基準に基づいてアプリアクセスを細かく制御できます。 アプリケーション制御ルールの構成について詳しくは、アプリケーション制御ポリシーの管理を参照してください。
アプリの無料版で機密情報が漏洩するのを防ぐために、アプリケーション制御ポリシーでルールを作成してユーザーがプライベートアカウントにアクセスするのをブロックし、企業テナントのみへのアクセスを許可できます。 例えば、OpenAIアプリに対して、組織のテナントへのログイン活動のみを許可するルールを定義し、他のすべてのログイン（例えば、プライベートメールアドレスを使用したログイン）をブロックすることができます。
以下は、最初のルールが会社のドメインを含むユーザー名のOpenAIへのログインを許可し、次のルールが直接およびサードパーティの認証を通じたすべてのOpenAIへのログインをブロックするサンプルのルールベースです。
いくつかのアプリで、必要なアプリケーションへのアクセスを許可し、リスクのある活動をブロックすることで、セキュリティと生産性のバランスをとることができるように粒度を高めます。 これを実現するために、粒度の高い活動を含むアプリケーション制御ポリシーでルールを作成できます。 例えば、Wordtuneへのアクセスを許可し、ファイルのアップロードをブロックすることができます。
ChatGPTは、ユーザーのプライバシーを強化するために設計された一時的なチャット機能を提供します。 OpenAIによれば、これらのチャットはユーザーの履歴に表示されず、メモリに保存されず、モデルの訓練に使われません。 しかし、このプライバシーの保護機能はデフォルトでは無効です。 ユーザーが手動で有効にしない限り、すべての対話が保存され、仕事関連の利用において潜在的なリスクをもたらします。
アプリケーション制御ポリシーは、ユーザーが一時的なチャットにいるかどうかを検出し、そうでない場合にはトラフィックをブロックできます。 これにより、組織はユーザーにChatGPTへのアクセスを許可しながら、機密データが意図せずに漏洩しないようにすることができます。
GenAIアプリは、ユーザー入力を処理する際にデータ漏洩を引き起こす可能性があります。例えば、ユーザーが意図せずに機密コードや個人を特定できる情報（PII）、または機密ビジネスデータを共有することです。 Cato DLPサービスは、AIアプリ内でコンテンツをスキャンしポリシーを強制して、ユーザーがアプリ使用中に機密データを妥協するのを防ぎます。 GenAIアプリに対してDLPルールを作成することで、AIモデルへの機密データの入力を検出しブロックするポリシーを施行できます。
CatoのDLPサービスは、高度な技術を使用してトラフィックフローで機密データを検出することができるモデルを数十種類使用しています。 これには金融、法務、人事、移民、医療などのカテゴリが含まれています。 さらに、DLPはGenAIアプリとの使用時にデータタイプも含まれています。 例えば、PIIデータプロファイルには、クレジットカード情報や運転免許証といったデータタイプが含まれています。 これにより、関連する機密データのみに適用される細かいポリシーを作成しAIアプリでの使用を防ぐことができます。
事前定義されたデータプロファイルが、カスタムMLモデルの学習用に独自のファイル/データを提供することができます。 高度なAIエンジンがこの入力から学び、コンテキストを解釈し、後に同じドメイン内で機密データを検出します。
詳細については、DLPのカスタムデータタイプを使用するを参照してください。
注意
注意： この機能は2025年3月25日以降に作成されたアカウントのデフォルトで利用可能です。 この日付より前に作成されたアカウントの場合、データタイプを手動で作成できます。 詳細情報については、AIアプリを監視するための推奨DLP設定をご覧ください。
アプリケーション制御とDLPポリシーには、Cato推奨の事前定義ルールが含まれています。 これにはAIアプリを保護するためのルールが含まれています。 デフォルトで、DLPは以下のデータタイプがGenAIツールにアップロードされる際にイベントを監視し作成します。
-
PII
-
財務データ
-
アクセスキーとトークン
-
法的データ
0件のコメント
記事コメントは受け付けていません。