AIエージェントの内部脅威を可視化する新サービスを提供開始

NRIセキュアが提供する「深層型AI Red Team」とは

NRIセキュアテクノロジーズ株式会社は、AIエージェントシステムの脅威を可視化する新しいセキュリティ診断サービス「深層型AI Red Team」の提供を開始しました。このサービスにより、従来では検出が難しかった脅威を特定できるようになります。

AIエージェントによる業務効率化とそのリスク

近年、AIエージェントの導入は急速に進み、様々な業務の効率化が図られています。しかし、その一方でAIエージェント固有のセキュリティインシデントが増加しています。AIエージェントは、非決定的な振る舞いや自律的なアクション、適応学習といった特徴を持ち、従来のセキュリティ対策では十分に対応できない場合があります。

NRIセキュアの調査によれば、OWASPが定義するAIエージェントに対する脅威の中で約73%（11項目）は、従来のアプローチでは検出困難であることがわかっています。これにより、AIエージェントに関するリスクは非常に高まっています。

深層型AI Red Teamの概要

1. 内部状態の可視化

本サービスの最大の特長は、独自に開発された「ai-guard」というツールを用いて、AIエージェント内部の状態をリアルタイムで可視化する点にあります。このツールは、プログラムを変更することなく、AIエージェントのメモリやエージェント間の相互作用などを分析します。これにより、OWASPが定義する15の脅威すべてに対応可能になります。

2. 専門家とAIの融合

NRIセキュアの専門家が可視化された情報をもとに、従来の診断法では見逃されがちな攻撃シナリオを検討し、診断します。このプロセスにAIを活用することで、診断の質と効率を向上させます。

今後の展開

NRIセキュアでは、2026年に提供予定の新サービス「深層型AI Blue Team」のPoC参加企業を募集中です。このサービスは、内部状態可視化技術を用いた継続的監視を目的としており、診断から監視へのシームレスな移行を目指しています。

NRIセキュアは引き続き、企業や組織の情報セキュリティ対策を支援し、安全な情報システム環境の確立へ向けた取り組みを行っていきます。AIエージェントの利活用が進む中で、より強固なセキュリティ対策が求められる現在、NRIセキュアの提供する深層型AI Red Teamは、その期待に応える素晴らしいソリューションとなるでしょう。

詳細は、こちらのウェブサイトをご覧ください。