NRIセキュアがAIエージェントの安全対策を強化する新サービス開始

NRIセキュアが提供する新しいAIセキュリティ対策サービス

NRIセキュアテクノロジーズ株式会社は、生成AIを活用したAIエージェント基盤に向けたセキュリティ対策支援サービスを開始しました。このサービスは、Allganize Japan株式会社が提供するオールインワンな生成AI・AIエージェントのプラットフォーム「Alli LLM App Market」に特化しています。企業がこのプラットフォームを使用してAIシステムを構築する際、NRIセキュアの診断や監視サービスを統合することで、より安全なAIシステムの運用が可能になります。

生成AIの活用とそのリスク

最近、企業における生成AIおよびAIエージェントの活用が進展しており、AIシステム構築が以前よりも容易になっています。しかし、これに伴いAI特有のリスクも増加しています。プロンプトインジェクション攻撃のようなサイバー攻撃に加え、AIが生成する情報には誤情報や偏ったコンテンツが含まれる可能性があり、これが業務判断に影響を与えることもあります。

セキュリティ対策の必要性

このようなリスクを理解し、対策を講じることは企業にとって不可欠です。システム自身のセキュリティを確保するだけでなく、使用する環境の保護、データの安全な取り扱い、そして運用管理も重要な要素となります。これらを包括的に行うことで、安全な生成AIの活用が可能となります。

提供されるサービスの内容

NRIセキュアが惜しみなく提供する「AIセキュリティ診断」と「AIセキュリティ監視」の二つのサービスは、本製品を利用する企業にとっての大きな助けとなります。

1. AIセキュリティ診断

「Alli LLM App Market」の導入時に、NRIセキュアの専門家がAIシステム特有のリスクを事前に特定し、安全なシステム構築をサポートします。構築時点での包括的なセキュリティ対策が可能であり、これによりシステム全体の管理コストの最適化も期待できるでしょう。

2. AIセキュリティ監視

AIシステムにNRIセキュアの「検知API」を組み込むことで、常時セキュリティ監視が行われます。ユーザーが入力した情報の段階でサイバー攻撃を検知し、AIが生成した内容を検証します。また、不適切な入出力の検知とブロックも可能となっており、情報の機密性を守るための高いセキュリティ対策を提供します。

利用可能な環境とサービスの範囲

「AI Red Team」は、AIシステムをオンプレミスまたはプライベートクラウド環境で構築する企業向けのサービスです。一方で、「AI Blue Team」は、どのような環境でも利用できるフレキシブルなサービスとして、幅広く提供されています。また、既存のシステムと「Alli LLM App Market」を結びつける場合においても、セキュリティ対策を徹底的に支援します。