生成AIの安全性を確保する新しいフレームワークをCitadel AIが発表

生成AIの安全性向上に向けた最前線

株式会社Citadel AIは、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の委託業務を受け、「AIの安全性確保に関する研究開発・検証等の推進事業」に取り組んでいます。この事業では、生成AIを適切に管理し利用するためのセーフティ基準の策定や評価技術を開発しています。

1. 背景と課題

生成AIは日常生活に深く浸透していますが、その一方でハルシネーションや情報漏洩といったリスクも伴います。企業は「どこから手をつければいいかわからない」「具体的に何をすればよいのか不明」といった課題に直面しています。品質保証やリスク管理の手法が確立されていないため、本格導入が難しいという声も少なくありません。

2.成果の概要

その中で、Citadel AIは「生成AI 実践ガイドと企業事例集」を発表しました。このガイドは、生成AIを導入する際に必要な知識を体系的に整理し、企業同士が自らの経験から学べるように作成されています。20社を超える企業からのヒアリングをもとに、具体的な課題とその解決策を示し、「技術」「プロセス」「組織文化」の観点からAI活用の指針を提案しています。

3. Citadel AIの取り組み

また、Citadel AI自体はAIエージェントを開発しており、その成果として創出されたフレームワークの有効性を実証する活動をしています。実際に外国人支援向けのチャットボットを実装し、さまざまな検討事項を記録しています。ヒアリングの結果や事例集を基に、具体的な解決策を示すことが企業への大きな支援となります。