生成AIを安全に活用！アイデミーが新クラウドサービスを発表

生成AIの新たな管理ツール「LLM品質管理クラウド」

近年、生成AIの進化に伴い、企業はこの革新的な技術を日常業務にますます取り入れるようになっています。生成AIは、資料作成やコーディング、カスタマーサポート、さらにはマーケティング活動に至るまで、さまざまなソリューションを提供できます。特に、RAGシステムによる社内ドキュメント検索の導入が進んでおり、その出力の正確性向上が求められています。

しかし、RAGシステムの出力には不確実性が存在し、倫理的や法的なリスクも懸念されています。出力結果が常に正確であるとは限らず、時にはバイアスを含む場合もあります。そのため、企業は出力内容をチェックする体制を整える必要がありますが、これには多くの手間と時間がかかるのが現状です。

このような背景の下、株式会社アイデミーは新たに「LLM品質管理クラウド」を開発しました。これは、生成AIの出力を自動で評価し、その結果を持続的に管理するためのクラウドベースのプラットフォームです。

サービスの特徴と機能

「LLM品質管理クラウド」には、以下の主要機能が搭載されています。

1. テストプロンプト管理機能

この機能は主にRAGシステムでの利用を想定しており、期待される出力を確認するためのテストプロンプトを登録することができます。登録したプロンプトは一括実行され、出力結果がOKかNGかを判断します。OKに分類されたプロンプトは今後も自動で確認され、NGグループは再実行して最終的にOKグループに調整される仕組みです。

2. CI/CDパイプラインからの呼び出し

この機能では手動での実行に加え、CI/CDパイプラインからAPIを通じて自動実行が可能です。評価結果が返され、問題があればCI/CDプロセスを中断することもできます。

3. 定期的な実行と結果のレポーティング

出力が一定であり続けるとは限らないため、テストプロンプトを定期的に実行し、その結果をレポーティングする機能も重要です。

4. セキュリティとリスク管理

LLMには独自のセキュリティリスクが存在しますが、本クラウドサービスでは、これらのリスクを評価するためのプロンプト群を提供しており、定期実行を通じて問題を継続的に洗い出します。

5. 今後の機能追加

このプラットフォームは、ビジネスニーズに応じてフィードバックの活用やポリシー設定のカスタマイズ、API接続によるシステムとの連携機能を将来的に追加予定です。特に、各国の倫理基準や法律に対応した機能を提供することで、グローバル市場での使用をより安全にしようとしています。

利用者へのメリット

「LLM品質管理クラウド」は、企業が生成AIの活用を促進できる環境を整備します。特に、トラブルが発生した際には、補償サービスを提供し、企業のリスクを軽減する役割も担います。企業はこのプラットフォームを通じて、安心かつ効果的に生成AIを業務に役立てることができるでしょう。

まとめ

この「LLM品質管理クラウド」は、生成AIの出力品質を高めるための新たな取り組みです。私たちのエコシステムの中で生成AIが持つ可能性を最大限に引き出すためには、安全な運用管理が不可欠です。2025年1月から本サービスは順次ローンチ予定です。興味のある方は、あらかじめ公式サイトからの事前登録をお勧めします。