新たな脅威から企業を守る！生成AIセキュリティ診断サービス開始

Librus株式会社は、生成AIを利用したシステムに潜むセキュリティリスクを可視化・分析する「生成AIセキュリティ診断サービス」の提供を開始しました。これにより、ビジネスシーンにおける生成AIの利活用の安全性を高めることを目指しています。

背景

近年、生成AI技術の浸透に伴い、企業はその利点を活かしてさまざまなビジネス領域で活用しています。しかし、その一方で「プロンプトインジェクション」や「プロンプトリーク」、「ハルシネーション」といった新たなセキュリティリスクが顕在化してきています。たとえば、悪意のある質問を通じて機密情報を引き出す行為や、内部のデータが漏洩するケース、さらにはAIによる誤回答が引き起こすブランドへの悪影響など、AI特有の脅威がリアルなものとなりつつあります。

こうしたリスクを受け、Librus株式会社は既存のセキュリティ診断の経験を基に、生成AIに特化した診断プログラムを開発しました。

生成AIセキュリティ診断サービスの概要

このサービスは、生成AIを活用したシステム全般にわたり、攻撃者の視点で潜在リスクを洗い出す診断プログラムです。LangChainやその他のミドルウェア、システムプロンプト、APIキーなどの多様な構造に対応し、総合的なリスク評価を実施します。

主な診断対象リスク

以下は、診断サービスが重点的に分析するリスクの一部です：

- プロンプトインジェクション：システムの設定を回避し、内部情報を引き出す攻撃
- プロンプトリーク：埋め込まれたプロンプト情報が外部に漏れるリスク
- モデルへのDoS攻撃：過剰な入力によってサービス停止や不当な料金請求を引き起こす
- AIの不適切応答（ハルシネーション）：誤った情報や問題のあるコンテンツを生成するリスク
- 微細情報の漏洩：パスワードやユーザー情報の流出、データベースに対する改ざん

このように、企業が生成AIを導入する際には、技術的な対策に加え、運用設計やプロンプト管理体制の強化を図る必要があります。Librusでは、この全体的な支援を提供することで、安心して生成AIを活用できる環境を整えることを目的としています。

Librus株式会社とは

Librus株式会社は、東京都港区に本社を置き、2017年に設立されました。高い技術力を持つサイバーセキュリティ診断サービスを主軸に、システム開発やデジタルマーケティングにも取り組んでいます。特に、セキュリティ分野においては、大手企業との豊富な支援実績を持ち、攻撃者視点に基づく実践的な脆弱性診断を強みとしています。

この新たなサービスの導入により、企業が生成AIを安全に活用する手助けをしていくことが期待されます。

詳しくはLibrusの公式サイトをご覧ください。