日本とフランスが手を組みミッションクリティカルAIの安全性向上に挑む

株式会社コーピーの新たな挑戦

株式会社コーピー（Corpy & Co., Inc.）は、東京大学とフランス国立情報学自動制御研究所（Inria）が発足させたスタートアップで、先進的なAI技術を駆使し、ミッションクリティカルな領域において人命を救うことを使命としています。特に最近、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が公募した「AIセーフティ強化に関する研究開発」事業に、産業技術総合研究所（産総研）や株式会社Citadel AIとともに共同提案し、見事に採択されました。このプロジェクトにおいてコーピーは、生成AIを活用したAIシステムにおけるリスク管理を主に担当します。

AIの安全性強化の必要性

近年、ChatGPTなどの大規模言語モデルの普及により、生成AIが社会インフラに広がる中で、その安全性の確保が急務となっています。リスクの高まる時代において、プライバシーへの侵害や誤情報の生成といった懸念も指摘されており、これに伴い、欧州では2026年に「AI Act」と呼ばれるAI利用に関する法規制が施行される予定です。日本国内でも、国際的なセーフティ基準の整備と対応が急がれる状況です。

コーピーの役割と取り組み

コーピーは、この「AIセーフティ強化に関する研究開発」において、ISO/IEC 42001に基づく運用計画および管理のガイドラインを企業向けに策定します。この取り組みの中で、生成AIモデルを活用したシステムがどのように安全に運用されるべきかを具体的に示すことが求められます。具体的には、以下のポイントにフォーカスを合わせてます。

1. 運用管理プロセスの整理: AIシステムの運用において、ISO/IEC 42001標準に整合したプロセスを設計。
2. 評価指標およびテストプロトコルの開発: 生成AIに適用可能な具体的な評価基準とテスト手法を構築。
3. 報告書テンプレートの整備: 安全性評価結果を整理し、標準化した形で企業が発表できるフォーマットを提供。
4. 実証実験の実施: 企業からのフィードバックを反映し、実装解説とともにガイドラインにまとめあげる。

これらの取り組みにより、企業は自社のAI製品やサービスの安全性を客観的に示す手段を手に入れることが可能になります。

今後の展望

このプロジェクトは、単なる評価技術の開発に留まらず、AIの安全性を高めるための社会的実装にも注力しています。コーピーは、AIセーフティ評価技術の国際標準化に貢献し、安心してAIを活用できる環境作りを目指しています。最終的な目標として、「ミッションクリティカルなAIの実現」が掲げられており、昨今のAI技術の進化に対応しながら、その実運用に必要な新たな基準を築くことが期待されます。