EYの新サービスが明らかにする生成AIのセキュリティリスクとは

EYの新たな取り組み—生成AIのセキュリティリスクを攻撃者視点で検証

EYストラテジー・アンド・コンサルティング株式会社（東京都千代田区、代表取締役社長：近藤聡）は、生成AIに伴うセキュリティリスクを新たなサービス「エンドツーエンドAIレッドチーミング」を通じて評価し始めました。このサービスは、生成AIや大規模言語モデル（LLM）を活用したアプリケーションに対して、攻撃者の視点からリスクを追求し、より深く理解することを目的としています。

攻撃者視点でのリスク評価

このサービスの最大の特徴は、ユーザーの入力から生成AIの出力に至るまでの流れ全体を俯瞰的に分析し、実際に想定される攻撃シナリオを検証するところにあります。このプロセスにより、従来の診断手法では把握しにくかった生成AI特有のリスクを特定することができます。

生成AIを用いたアプリケーションでは、利用方法によっては意図しない情報の漏えいや不適切な挙動を引き起こすリスクがあります。これらのリスクは、個別の機能や設定だけでなく、利用の流れ全体に起因する場合が多いのです。そのため、EYの新サービスは、業務の現場で実際に起こり得るリスクを重視し、クライアントがより安全に生成AIを利用できるよう支援します。

課題解決に向けた実践的アプローチ

「エンドツーエンドAIレッドチーミング」は、特に以下のようなシナリオを想定して検証を行います。

- プロンプトインジェクションやジェイルブレイク などの攻撃手法
- RAG（Retrieval Augmented Generation）を利用した汚染や不正誘導
- ツールやAPIの不正利用
- エージェント挙動の逸脱

このアプローチにより、単なる机上の整理にとどまらず、実際に成立する攻撃経路を検証し、信頼される境界や影響範囲を明確にできます。

ガバナンス視点でのレポーティング

EYの提供するサービスでは、技術部門だけでなく法務部門や経営層とも共有できる形でリスクを整理し、優先順位の付けや具体的な対応策の検討に役立てる情報を提供します。これにより、企業は迅速かつ的確な意思決定が可能となります。

適切な再評価の実施

さらに、本サービスでは対策後の再評価を選択肢として提供しています。これにより、リスク低減に対する実効性を確認でき、企業のセキュリティ戦略を強化することができます。

生成AIの未来に向けたビジョン

EYテクノロジーコンサルティングのサイバーセキュリティ部門アソシエートパートナー、佐藤拓也氏は、生成AIを利用した際のリスクの実態をつかむことがいかに難しいかを語ります。従来のセキュリティ診断の考え方だけでは捉えきれないため、攻撃者の視点から全体を検証する必要があると強調しています。これにより企業は、生成AIを適切に業務に活用できる範囲を判断し、安全な導入を実現できるでしょう。

結論

EYが提供する「エンドツーエンドAIレッドチーミング」は、真の意味での生成AIの利用を促進し、クライアントがその力を最大限に引き出すための重要な手助けとなるサービスです。生成AIを活用する上でのリスクを可視化し、経営戦略に役立てるこのサービスにより、より多くの企業が安心して生成AIを業務に取り入れる未来が開けると期待されます。より詳細な情報は、こちらからご確認ください。