What is Zero Trust AI Access (ZTAI)?

大規模言語モデル (LLM) の急速な成熟は、テクノロジーとの対話方法に革命をもたらしています。ほとんどの企業はまだ、LLMを導入し、小規模なパイロットに焦点を当てて潜在的なユースケースを特定する探索段階にあります。ただし、多くの従業員は、すでに承認されていない生成 AI アプリケーションを直接 (ChatGPT、Gemini など) または承認されたアプリケーションへのサードパーティの拡張機能を介して採用しています。

SaaS (Software as a Service) ベンダーは、AI 機能を自社のサービスに組み込むことで、時代の流れに遅れを取らないよう努めています。これにより、顧客は AI ベースの販売分析情報、AI 設計支援、コーディングコパイロットを提供することで、LLM テクノロジーの利点を活用できるようになります。しかし、このような管理されていない AI の導入は重大なセキュリティリスクももたらすため、ゼロトラスト AI アクセス (ZTAI) は企業のAI サイバーセキュリティ戦略の重要な要素となります。

ゼロトラスト AI セキュリティの課題

多くの組織は、企業のサイバーセキュリティリスクを管理するためのゼロトラストセキュリティフレームワークの実装に取り組んでいます。しかし、生成 AI (GenAI) の出現により、この実践には次のような大きな課題が生じています。

曖昧な境界:ゼロトラストセキュリティモデルは、従来、ユーザーとアプリケーションを明確に区別することに依存してきました。ただし、LLM 統合アプリケーションはこの区別を崩し、両方の機能を同時に実行します。
強力で素朴なエージェント:これらの「AI エージェント」は、組織内のインテリジェントでありながら素朴なエンティティとして見ることができます。彼らは、膨大な知識に基づく高度なインタラクションとコンテンツ生成が可能ですが、多くの場合、企業の規範やセキュリティポリシーについての理解が不足しています。
これらの新しいユーザー/アプリケーションエンティティのGenAI 脆弱性:デプロイメントは、盲目的に信頼することができず、プロンプトインジェクションやデータポイズニングなど、いくつかの固有のセキュリティ課題を引き起こします。
AI データ漏洩: GenAI を許可なく使用すると、データ漏洩、オンラインリソースへの危険なアクセス、権限のないユーザーによる企業リソースへのアクセスなど、データとアクセスのリスクが生じます。
機密データの公開:ユーザーは、機密性の高い企業データまたは顧客データを AI アプリケーションに入力する場合があります。そのデータは LLM のトレーニングデータとして使用され、他のユーザーに公開される可能性があります。
プロンプトインジェクション: 特別に細工された入力により、LLM が誤動作し、システムのガードレールを回避し、会社とそのデータを危険にさらす動作が発生する可能性があります。

ゼロトラストの観点から見たLLM

LLM デプロイメントにおけるこれらの課題に対処するには、独自のゼロトラスト測定セットが不可欠です。

LLM 統合アプリケーションによる入力、出力、トレーニングデータ、およびアクセス試行を慎重に検証、監視、および強制することが重要です。 LLM 統合アプリケーションに関連するリスクを軽減するには、組織は、インジェクションやポイズニングの試み、トレーニングへの機密データの意図しない組み込み、および不正アクセスを可視化する必要があります。
ゼロトラストの観点からは、組織内に新たに導入されたダイナミックで自律的で創造的なエンティティを盲目的に信頼することはできません。これには、セキュリティを実装する際のセキュリティに対する新しいアプローチが必要です。
LLM の予測不可能な性質、広範な知識、および操作されやすい性質により、改訂されたゼロトラストベースの AI アクセスフレームワークが必要になります。これにより、セキュリティ担当者は、堅牢なデータ保護、セキュリティ、および企業ポリシーに準拠したアクセスを確保できます。

ゼロトラスト AI チェックリスト

ゼロトラスト AI アクセス (ZTAI) アプローチを念頭に置いて、LLM 統合アプリケーションを、平均的な従業員よりもさらに厳しい厳格なアクセス制御ポリシーを必要とするエンティティとして見ることが重要です。どのコンテンツを取得し、どのWebサイトにアクセスするかについてのLLMの意思決定を信頼することはできません。したがって、フェッチされてユーザーに提示されるデータは信頼できず、入念なセキュリティ対策を講じる必要があります。

LLM 統合アプリケーションのインターネットアクセスに関するセキュリティチェックリスト

インターネットアクセスにより、LLM 統合アプリケーションに関連するセキュリティリスクが大幅に増加します。これらのリスクを管理するためのベストプラクティスには、次のようなものがあります。

可能な場合はアクセスを拒否します。 絶対に必要な場合を除き、モデルにインターネットへのアクセスを提供しないでください。インターネットへのアクセスは、攻撃対象領域を劇的に拡大します。
アクセス制御を実装します。 インターネットへのアクセスでLLMを強化する場合は、組織のポリシーに沿って、厳格なアクセス制御ポリシーが設定されていることを確認してください。現在のアクセス制御ポリシーを外部ベンダーにアウトソーシングして、新しいユーザーに適用しないでください。
制限された Web サイトをブロック: LLM ベースのアプリケーションに URL フィルタリングとフィッシング保護を実装して、制限された Web サイトへのアクセスを防止します。
アクセス可能なデータを厳密に管理します。 エージェントがアクセスできる宛先とフェッチできるデータを、ユースケースに基づいて制限します。制限には、適切なコンテンツ、ファイルの種類、およびWebサイトのカテゴリを含める必要があります。
データ検証を実行します。 LLM によってフェッチされ、ユーザーに提示されたデータを継続的に検証します。 LLMが無害なデータのみを提供すると信頼しないでください。これは、幻覚が発生しやすい、または毒されたトレーニングデータが含まれている可能性があるためです。

ゼロトラスト AI アクセスフレームワークは、企業リソースにアクセスする際の LLM 統合アプリケーションの動作や意思決定を信頼しません。これには、どのリソースにいつアクセスするか、どのデータをどのユーザーにエクスポートするか、これらのリソースを使用して実行できるアクションが含まれます。

LLM 統合アプリケーションによる企業リソースへのアクセスに関するセキュリティチェックリスト

インターネットへのアクセスを提供するのと同様に、LLM 統合アプリケーションが企業リソースにアクセスできるようにすることは必要な場合もありますが、危険な場合もあります。これらのリスクを管理するためのセキュリティのベストプラクティスには、次のものがあります。

昇格された権限の使用を制限する:特に企業データの変更や削除などのリスクの高い操作については、LLM 統合アプリケーションの権限を制限します。
最小特権を実装します。 LLM がアクセスできる企業リソースを最小限に制限します。
再認証とアカウントのタイムアウトが必要: エージェントが企業リソースを使用して操作を実行する前に、ユーザーに再認証を要求し、セッションの時間を制限します。
行動分析を実行する: LLM 統合アプリケーションの動作と意思決定を監視します。注目すべき要素には、どのリソースがアクセスされるか、どのデータがどのユーザーにエクスポートされるか、企業リソースを使用してどのような操作が実行されるかなどがあります。
リアルタイムの可視性を維持: エージェントがアクセスしているオンラインリソースや企業リソース、および実行されている操作を明確かつ詳細に、リアルタイムで可視化していることを確認します。
異常な行動の追跡: LLMによる異常な行動パターン(予期しないデータアクセスや、一般的な応答やアクセスパターンからの逸脱など)を検出するシステムを実装します。
ロールベースのアクセス制御を実装します。 エージェントに動的なユーザーベースのアクセス制御ポリシーを実装します。つまり、LLM は各セッションでエンドユーザーと同じアクセス権を継承します。
LLM 間通信を最小化する: LLM が別の LLM と対話できる場合、ダメージは指数関数的になる可能性があります。 LLM ベースのアプリケーションの通信は必ず最小限に制限してください。

Zero Trust Networks with Check Point Platform

LLMとGenAIの導入により、ゼロトラストセキュリティアーキテクチャの実装がこれまで以上に重要になっています。同時に、これらのシステムの機能はゼロトラストの実装を劇的に複雑にし、ZTAIを不可欠なものにしています。

Implementing ZTAI can be complex and requires granular visibility and control over all actions performed by LLM-integrated applications within an organization’s environment. Check Point’s Check Point Platform offers the tools that your organization needs to implement effective zero-trust in the age of AI, including integrated AI capabilities for advanced threat prevention, incident response and security administration.