AIセーフティ基盤の構築とその未来を見据えて新たなガイドラインを公開

概要

NEDO（国立研究開発法人新エネルギー・産業技術総合開発機構）が推進した「AIの安全性確保に関する研究開発・検証等の推進事業」において、5者による共同研究が行われ、AIシステムの安全性を保証するための基盤となるガイドラインや評価プロトコルが開発されました。これにより、AIを活用する事業者が安全性を確保し、リスクへの対応を容易に行えるようになります。

1. 背景

2023年のG7広島サミットでの議論を経て、各国でAIセーフティに関する取り組みが活発になっています。日本でもAIセーフティ・インスティテュート（AISI）が設立され、国際的な議論に参加。これに伴い、本事業は生成AIを安全に利用するための日本国内でのルール作りを支援しており、AIと人の協調が進む中、設計や評価、運用の方法が問われています。

2. 研究開発の成果

本事業からは、「設計・評価・運用」の各段階にわたる多くの成果が得られました。以下に主な成果を紹介します。

(1) マルチモーダルAI品質マネジメントガイドライン

産総研が策定したこのガイドラインは、主にテキストで応答するマルチモーダルAIに焦点を当てています。具体的には、エンジニア向けにAIシステムの安全性と品質を確保するための基本的評価観点を4つの段階に分けて説明し、実践的な適用を目指しています。特に在る領域では、AIによる自動生成やコンテンツモデレーションが取り上げられ、ユーザーの判断を考慮した注意点が示されています。

ガイドラインの詳細はこちら

(2) 実際の企業現場向けのガイドライン

Citadel AIは、生成AIを開発・運用する企業とのヒアリングを通じて、安全性の原則を現場で実装可能な形にするための評価観点・手法を整理しました。これにより、実務に即した生成AI実践のためのガイドと事例集が作成され、企業がAIを安全に利用するための実用的な情報が提供されます。

生成AI実践ガイドはこちら

(3) 組織と技術を結びつける実装ガイド

コーピーは、生成AIの安全性評価を実施するためのプロトコルと評価用テンプレートを開発しました。このプロトコルでは、マネジメント系统規格に基づいた分析、テスト、報告の方法を整備し、企業がAIの安全性を持続的に評価できる仕組みを提供しています。

成果についてはこちら

(4) Human-AI Teamingにおける安全性

産総研と琉球大学は、医療現場におけるAIと人間の判断協調に関する研究を進め、安全性の確保に向けた設計指針を策定しました。この成果は、特に医療画像診断におけるAIと医師の意思決定が一致しない場合のプロセスを分析し、具体的なリスク回避策を提示しています。

3. 今後の展望

本事業で得られた成果は、設計から運用に至るまでの幅広いAIセーフティ課題への対策を検討するうえでの指針となります。今後は、AIセーフティに関する共通の考え方をもとに、さらに実践的な手法を体系化し、AIとの協調が進む未来に向けた基盤を構築していきます。

これらの取り組みは、AIシステムの安全性を確保し、AIと共存する社会を築くための重要なステップとなります。各団体のリンクも効果的に活用して、最新の情報をチェックしてください。

AIセーフティに関する成果の紹介はこちら