Citadel AIが内閣府のAI評価環境構築プロジェクトに参画

Citadel AI、AI評価環境構築に参画

株式会社Citadel AI（東京都文京区）が、経営コンサルティング会社A.T. カーニーの委託を受け、内閣府の「民間企業等の開発したAIを評価するための環境構築調査等」に関わるプロジェクトに参加することが発表されました。このプロジェクトでは、日本AIセーフティ・インスティテュート（以下「日本AISI」）が、国内外の企業が開発したAIを正当かつ効果的に評価するための環境の整備に向けた様々な角度からの調査や分析を行います。

AIの重要性と評価環境の必要性

近年、AIの技術は急激に進化しており、その性能や信頼性だけでなく、安全性やセキュリティも重視されるようになっています。国際的に見ても、AIの評価手法や環境を整備することは必須であり、各国はその取り組みを進めています。日本では、AIの有効活用を推進しつつ、その安全性を確保するために日本AISIが機能強化を図り、評価基盤の整備を模索しています。

その背景には、高性能なAIシステムの急増があり、各システムの特性に応じた技術的な検証環境や評価手法の整備が求められています。Citadel AIは、このプロジェクトを通じて、日本国内のAIの安全性評価環境の構築を支援し、信頼性の高いAIの普及に寄与していく所存です。

業務の具体的な概要

この調査の目的は、日本AISIが開発したAIを評価するための環境や体制を整備することです。具体的には、以下の活動が行われます。
1. 民間企業が開発したAIの評価環境の調査と分析
2. フロンティアAIモデルやAIエージェントの評価環境の構築可能性調査
3. フィジカルAIに関する評価環境構築の可能性検証
4. 評価業務を進めるための会議体の運営補助や検討会の設置

特に、Citadel AIはフロンティアAIモデル及びAIエージェントの評価についての環境構築を担当し、そのために必要な技術的課題を整理し、長期的に実行可能な評価基盤構築を目指します。

代表のコメントによる意義

Citadel AIの代表取締役、小林裕宜氏は、「昨今のAI技術の進化は目覚ましく、特にフロンティアAIモデルは次々と新たな応用が可能になっています。しかし、その一方で、安全性やセキュリティリスクが高まっているのも事実です。我々の活動は、これらのリスクを軽減し、AIの社会実装に向けた安全な道筋を整えることが目的です」と語っています。

これらの取り組みは、日本におけるAIの安全性と信頼性を確保するために欠かせないものであり、より良い社会を築くための基盤を作る重要な作業です。今後、Citadel AIがどのようにこのプロジェクトを進め、AI評価環境が進展していくのか、目が離せません。

Citadel AIについて

株式会社Citadel AIは、信頼性の高いAIを社会に実装することを目指す日本発のスタートアップ企業です。国際色豊かなチームが中心となり、生成AIのライフサイクルにおいて、リスク評価から運用段階のガードレールに至るまで幅広くサポートする独自の「AIガバナンスツール」を開発・提供しています。この取組みは、国内外で高い評価を得ています。詳細については、こちらのウェブサイトをご覧ください。

会社情報