AIセーフティ基盤の構築に向けた研究開発の最前線

AIの安全性確保への取り組みが加速しています。NEDOが推進する「AIの安全性確保に関する研究開発・検証等の推進事業」により、AIシステムの安全性を確保するための共通基盤が構築されました。これは、NEDO、産業技術総合研究所、Citadel AI、コーピー、琉球大学の5者による共同プロジェクトで、ガイドラインや評価プロトコルが開発・策定されました。

AI安全対策の必要性

2023年のG7広島サミットを契機に、AIの安全性が各国で重要なテーマとして議論されています。日本でもAIセーフティ・インスティテュート（AISI）が設立され、国際的な議論に参加しています。AI技術が進化する中、人とAIが協調して判断や行動をする場面が増えているため、安全性の設計、評価、運用がこれまで以上に重要視されています。

研究開発の概要

本事業では、AIの安全性を評価・運用するための共通基盤を整備するため、以下のような研究開発が行われました。
1. 評価・管理技術の開発 - AIシステムの安全性評価のための「ものさし」を確立します。これにより、AIの特性を理解しつつ、リスクを査定する手法が提供されます。
2. 実環境でのAI評価・実装技術 - 異なる応用領域におけるAIセーフティ評価の実践的手法が開発されます。
3. ガイドラインの策定 - 企業の実務で活用できる形に整理されたガイドラインや評価手法が策定され、実装の際に参考となります。

この取り組みは、特定のAIの社会実装を目指すものでなく、将来の技術開発へと繋がる基盤を作ることを目的としています。

具体的な成果

本事業の成果には以下のようなものが含まれます。

1. マルチモーダルAI品質マネジメントガイドライン

産総研はマルチモーダルAIシステムに特化した品質マネジメントガイドラインを策定しました。これは、AIが画像とテキスト両方を通じて正確に応答する能力を評価するための枠組みを提供します。特に「クロスモーダル照応能力」に注目し、その評価基準を明確化しました。

2. AIの社会実装支援のためのガイドライン

Citadel AIは、技術やプロセスに関する実践的なノウハウを整理し、企業向けに「生成AI実践ガイドと企業事例集」として提供しました。業界での実装が進む中、具体的な評価観点や手法が示されています。

3. 安全性評価プロトコルの整備

コーピーは、AIマネジメントシステム規格に基づく生成AI安全性評価プロトコルを策定しました。これにより、企業がAIの安全性を一貫して評価・管理できるためのフレームワークが整備されています。

4. 人とAIの協調に関する研究

産総研と琉球大学は、医療現場におけるHuman-AI Teamingの安全性を検討しました。AIが医師と協力する際の判断プロセスを分析し、安全な意思決定ができるよう設計指針を策定しています。

5. 日常生活でのAI評価基盤の構築

日常生活におけるAIシステムの安全性評価のため、シナリオに基づいた行動予測や評価が可能な基盤が整備され、実践的なデータセットが構築されました。

今後の展望

今後も、本事業で得られたAIセーフティに関する共通の考え方や評価手法を体系化し、人とAIが協調する社会の実現に向けた実践的な基盤を整備していくことが目指されています。AIの利用がますます広がる中、全ての分野での安全性が確保されることが求められています。これまでの研究成果は、今後のAI技術開発の重要な基盤となるでしょう。