教育・福祉現場での対話AIに信頼の枠組みを構築する試み

株式会社ロジカ・エデュケーション（大阪府池田市）が、教育、行政、福祉分野における対話AIの信頼を高めるための取り組みを始めています。この事業は、国際フォーラム標準案を策定し、公共性の高い分野におけるAIの利用において共通のルールを形成することを目的としています。

背景と目的

近年、対話AIは様々な場面で利用されるようになりました。しかし、その信頼性については十分に評価されていない部分もあり、導入機関はAIサービスの選定や利用者への情報提供に苦慮しています。このような実情を受け、ロジカ・エデュケーションは教育や福祉、行政といった公共領域における対話AIの利用に関して、信頼を確保するための共通指針を策定することにしました。

採択と補助金

このプロジェクトは、令和8年度の「国際ルール形成・市場創造型標準化推進事業費補助金」において採択され、3,000万円の補助金を受けることが決定しました。本事業の採択は、外部の有識者の厳正な審査を経て実現したものです。

実施内容

ロジカ・エデュケーションが目指すのは、対話AIの導入における以下のポイントに関する共通指針の策定です：

- 表示内容の共有：AIを使用していることや利用するデータの範囲、状態推定の限界について、利用者にわかりやすく伝えること。
- ログと評価の管理：AI利用のログ管理や評価項目を整理し、運用上の透明性を確保すること。
- 人間支援者への引継ぎ：状況に応じてAIから人間の支援者へと適切に引き継ぐ判断基準を設けること。

このような共通指針は、AI事業者、導入機関、研究者など多様な参加者とともに作成することで、広く受け入れられるスキームを目指します。

現場の課題

現場では、AIの利用に関して異なる理解や判断が存在しています。例えば、AIを利用していることを誰に、どのように伝えるか、どのタイミングで人間に引き継ぐかなど、導入機関によって運用が大きく異なることが課題となっています。

共同作業の募集中

本事業では、ヒアリングや実装・現場検証、事例提供などの協力者を募っています。大規模言語モデルを利用した企業や教育機関、福祉団体、学術研究者など、幅広い分野の方々の参加を呼びかけています。共に信頼できる対話AIの枠組みを形成していくことが重要です。

未来へ向けて

今後の取り組みとして、2027年2月26日までに国内外のルールや政策の調査を行い、ヒアリングの結果を踏まえた実装検証を進めていきます。

この事業は、対話AIが教育や福祉の現場でどのように信頼され、活用されるかを考える重要な一歩です。AIの賢さだけでなく、安心して利用できる環境の整備が求められています。信頼できるAIを目指すロジカ・エデュケーションの挑戦に注目です。