AIシステムの信頼性向上を目指すEval Insightの提供開始

AIシステムの信頼性向上を目指すEval Insightの発表

株式会社Citadel AIは、新たにAIシステムの品質を分析する「Eval Insight」をリリースしました。このサービスは、企業が導入しているAIの信頼性や安全性を自動的に評価し、改善点を分かりやすい言葉で整理して提供します。これにより、AI導入が進む各業界において、より効率的で安心なシステム運用が可能となります。

Eval Insightの背景

近年、多くの企業が経営部門や製造部門、営業活動に至るまで、AIを積極的に導入しています。しかし、このAIが抱えるセキュリティや reputational risk（ブランドの信頼性リスク）への対応も重要になってきています。すべてのAIシステムを人手で管理することは、専門知識と多くの時間を必要とし、容易ではありません。そのため、Eval Insightのような自動化ツールが求められています。

Citadel AIの取り組み

Citadel AIは、自社開発の大規模言語モデル（LLM）を活用し、同社の品質検証プラットフォーム「Citadel Lens」に基づくアプローチをしています。特に医療や自動車、金融業界での採用が進んでおり、同社のテクノロジーに対する信頼性が高まっています。Citadel Lensでは、エンジニア向けの細かな「テクニカルレポート」と、管理部門向けの「ガバナンスレポート」を自動生成することができ、企業のコンプライアンスや運用改善を一手にサポートしています。

Eval Insightの具体的機能

Eval Insightの導入によって、企業はAIシステムに関するスナップショットを簡単に把握できるようになり、限られたリソースを用いても的確な品質向上を進めることができます。以下は、Eval Insightの具体的な機能ですが、今後も新機能が追加される予定です。

1. 生成AIの評価レポート: アプリケーションによる自動解析で、安全性や信頼性の観点からリスク要因を明示します。
2. テクニカルレポート: システムの技術的側面から自動解析を行い、AIの品質に関する重要なポイントをわかりやすく解説します。
3. ガバナンスレポート: コンプライアンスやレピュテーションリスクに関連する情報を抽出し、該当する規制に基づいて解説します。