AIセキュリティスタートアップSherLOCKがヘルスケアの安全性評価ガイドを策定

AIセキュリティの新たな取り組み

AIセキュリティの分野で注目を集めるSherLOCK株式会社（本社：東京都港区）は、AIセーフティ・インスティテュート（AISI）のプロジェクトに参加し、ヘルスケア領域に特化した「AIセーフティ評価観点ガイド」を策定しました。本ガイドの目的は、生成AIの導入を進める企業が直面する安全性の課題をクリアにすることです。

事業の背景

生成AIの進展により、ヘルスケア分野でも革新が期待されています。しかし同時に、誤情報の生成を可能にするハルシネーションや、プライバシーやセキュリティに関する新たなリスクも浮上しています。2026年1月に行われた国際イベント「Hiroshima Global Forum for Trustworthy AI」では、「信頼できるAI」の重要性が強調され、これに関連した課題への取り組みが求められています。そこで、SherLOCKは安全性の確保とビジネス価値の両立を狙い、技術的知見を提供することにしました。

SherLOCKの支援内容

SherLOCKは、以下のような具体的な支援を通じて、AIセーフティ評価手法の体系化を試みました。

- AIレッドチーミングテストの実施：実務者がすぐに活用できる評価項目や評価ポイントを設定。悪意のあるプロンプトによる誤情報の生成や情報漏洩のリスクを考慮し、リスクテストの評価基準を構築しました。
- データ品質評価ポイントの整備：RAG（検索拡張生成）などで使われるデータの質が、医療情報においてどのように信頼性を損なうのかを明確にし、正確性を保つための評価方法を整理しました。
- 客観的な評価支援：第三者視点からのAIセーフティ評価に関する助言を行い、企業の信頼性向上に寄与する事例を紹介しました。

ガイドの特長と利用可能性

この「AIセーフティ評価観点ガイド」は、専門家が不足している企業でも活用できるように設計されています。具体的には、以下の特徴を有します。

- AIライフサイクルに基づいた評価：プロダクトの設計、モデル選定、実装、検証、導入の各フェーズでの評価ポイントが明確にされており、業務に即した利用が可能です。
- 多角的セーフティ評価の提供：普遍的なAIセーフティに加え、ヘルスケア特有のリスクを網羅し、具体的なリスク（患者の健康への影響など）を示しています。
- 現場でのリスクマネジメント支援：実践的なリスク分析と対策が整理されており、担当者が即時活用できる内容となっています。

結果としての信頼構築

SherLOCKのCEOである築地テレサ氏は、「私たちはヘルスケア分野における社会的責任の重さを痛感しており、他のSWGメンバーと共に信頼を築くためのAIセーフティ評価観点ガイドを策定することができたことを誇りに思います。AIの安全な社会実装は今後の課題です」とコメントしています。

この取り組みは、ヘルスケアにおけるAIの活用と、その安全性を両立させる重要な一歩といえるでしょう。