AIシステムの安全性を確保する新基盤をNEDOが構築

AIシステムの安全性を確保する新基盤を構築

2023年、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）をはじめとする機関が、AIシステムの安全性を確保するための共通基盤となるガイドラインや評価プロトコルを開発しました。この取り組みは、人とAIがより安全に協働するための基盤を築くことを目的としています。

1. 背景と目的

近年、世界各国でAIシステムの安全性に対する関心が高まっています。特に2023年のG7広島サミットでは、AIの安全管理が重要視されました。このような国際的背景を受けて、日本においてもAIセーフティ・インスティテュート（AISI）が設立され、AIセーフティに関する国際的な議論に積極的に参加しています。

NEDOが中心となった「AIの安全性確保に関する研究開発・検証等の推進事業」では、各種機関が協力し、AIを安全に活用するための手法や評価手法を整理しました。これにより、AIシステムを開発・導入する企業がリスクマネジメントを適切に行えるよう支援することが期待されています。

2. 具体的な成果

このプロジェクトの中核成果には、以下のような取り組みがあります。

(1) マルチモーダルAI品質マネジメントガイドライン

産業技術総合研究所（産総研）は、異なる情報形式（画像とテキストなど）を扱うマルチモーダルAI向けに特化した品質マネジメントのガイドラインを策定しました。特にクロスモーダル照応能力に注目し、それに基づいて評価プロセスを体系化しました。

(2) 企業現場での実装を支えるガイドライン

株式会社Citadel AIは、実際にAIシステムを運用する企業からの意見を基に、AIセーフティの評価や手法をより実践的に適用するガイドラインを作成しました。これにより、企業がAIを安全に実装する際の具体的な手法が提供されることになります。

(3) 組織マネジメントと技術評価を結びつける実装ガイド

株式会社コーピーは、AIマネジメントシステムに基づいた安全性評価プロトコルと実装ガイドを整備しました。これらは、組織内での技術的な評価とマネジメント要求を接続するツールとして機能します。

(4) Human-AI Teamingにおける安全性確保

産総研と琉球大学は、医療現場におけるHuman-AI Teamingの安全性を確保するための手法を提示しました。この研究は、AIと人間の判断がどのように合致しない場合にどのようなプロセスを経て最終判断を下すべきか、という重要な課題に取り組んでいます。

(5) 日常生活におけるAIセーフティ評価

産総研は、家庭や介護施設におけるAIシステムの安全性を高めるために、新たな評価・検証基盤を構築しました。この取組みは、日常におけるAIの利用が安全に行われることを目指しています。

3. 今後の展望

本事業では、AIの安全性に関するガイドラインが整備され、さまざまな取り組みが実施されてきました。これにより、AIシステムの安全性を向上させるための基盤が着実に整ってきたと言えます。今後は、企業や社会全体において、AIの安全性確保がさらに進むことを期待しています。

各種のガイドラインは、将来的にAIセーフティの共通基盤として広く活用され、人々が安心してAIを利用できる社会の実現に貢献することでしょう。詳しい成果については、NEDOや関連機関のWebサイトで情報が公開されています。