AI技術の進化に貢献するコーピーが安全性評価成果を発表

株式会社コーピーが目指すAIの安全性

最近、株式会社コーピーが国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）による「AIセーフティ強化に関する研究開発・検証等の推進事業」の成果を公開しました。この取り組みは2025年4月に開始され、生成AIの安全性評価に関する蓄積された知見をもとに、企業向けの詳細な実装ガイドや評価テンプレートが提供されています。

生成AIの普及とそのリスク

生成AIは近年急速に進化しており、多くの企業や組織で利用されています。しかし、その利用が進む一方で、ハルシネーションやプロンプトインジェクションなど、安全性に関するリスクも増大しています。特に、これらのリスクは社会的な問題として浮上しており、適切な対策が求められています。例えば、欧州で施行されるEU AI Actなどの国際規制に対応しなければならない状況です。特に、日本国内においてもAIの安全性を体系的に管理・評価する取り組みが強く求められています。

ISO/IEC 42001と実務的なギャップ

コーピーは、AIマネジメントシステムの国際規格であるISO/IEC 42001に注目し、その要件と生成AIの安全性評価の実践との間に存在するギャップを埋めることを目指しています。この規格は、組織がAIリスクに対応するためのフレームワークを提供しますが、実際の評価手法や基準が明確に定まっていないため、多くの企業にとっては実行が難しい状況でした。

具体的な成果物

この度発表された成果物には、以下の2つがあります：

1. 報告書「AIマネジメントシステムに基づく生成AI安全性評価プロトコルとその実装ガイド」
この報告書では、ISO/IEC 42001に基づいた評価プロトコルを3つのフェーズ（分析・テスト・報告）で体系化しています。具体的なステップや実践的な評価事例を盛り込んでおり、コーピー自身が開発した視覚言語モデルを用いたテストシナリオも含まれています。

2. 生成AI安全性評価テンプレート
このテンプレートは、評価プロトコルに則り、各ステップに対応した記録用フォーマットを提供しています。具体的な記載例も付属しており、企業が自社のAIシステムに適用しやすいように工夫されています。

成果物の特筆すべき特徴

コーピーの発表した成果物の主な魅力は、ISO/IEC 42001との整合性にあります。企業が生成AIの評価を行う際に、明確に指針が示されているため、実行可能性が高まります。また、3フェーズに分けられた体系的な評価プロトコルは、企業が最小限の負担で安全性評価を実施できるようサポートします。

今後の展望と社会貢献

コーピーは今後も、ドキュメントで得られた知見を基にAIの安全性評価技術の国際標準化を推進していく意向を示しています。また、企業が安心してAIを活用できるよう、環境の整備を進め、ミッションクリティカルなAIの実現に貢献していくことを目指しています。

コーピーについて

コーピーは、東京大学及びフランスのInriaと連携して設立されたAIスタートアップで、質の高いAI導入を実現するために様々な研究と開発を行っています。このような最新の取り組みを通じて、AI技術が持つ可能性を最大限引き出し、人々の生活を向上させることに挑戦し続けます。

詳細情報は公式ウェブサイトをご覧ください：コーピー公式サイト。