アイレット、LLMの品質向上を支援する新サービスを開始

アイレット、業界初の「LLM Observability導入支援サービス」を発表

アイレット株式会社は、生成AIを用いたアプリケーションのパフォーマンスを可視化し、品質向上とコスト最適化を実現する新しいサービス「LLM Observability導入支援サービス」を公式に開始しました。このサービスは、昨今急速に普及している生成AIの活用の悩みを解消し、企業の成果を最大化するために設計されています。

生成AIの現状と課題

最近、多くの企業が生成AIを取り入れようとしているものの、その導入・運用には幾つかの問題が存在します。具体的には、回答精度の不安定さ（いわゆるハルシネーション）や、コストの可視化が難しいことが挙げられます。これらの課題は、企業がAIの本格的な導入をためらう要因となっています。このような背景から、アイレットは「LLM Observability」という新たな概念を提唱し、リアルタイムでの動作の可視化が可能なサービスを開発しました。

LLM Observabilityの特長

「LLM Observability」は、生成AI特有の内部動作を可視化し、企業が直面する課題を解決するための環境を提供します。従来のシステム監視では捉えきれなかった「回答の妥当性」や「プロンプトごとのトークン消費量」を多角的に分析することで、ブラックボックス化されたAIモデルの内部を明らかにし、継続的な品質改善を行うことができます。

自社実証から得た実績

アイレットは、過去に自社内で提供しているクラウドサービス「cloudpack」のサポートデスク業務にて、生成AIを活用した回答精度の評価を自動化する基盤を構築し、この運用を実証してきました。特に、RAG評価フレームワーク「Ragas」とDatadogの「LLM Observability」を連携させることで、手作業による評価プロセスから月間約2.6人日の工数削減を実現しました。年間では31.2人日もの工数削減を達成し、今後のAI活用の実効性の証明にも成功しています。この実績があるからこそ、アイレットの提供するサービスは、他社にとっても価値の高いものとなるでしょう。

サービス内容と料金について

アイレットの「LLM Observability導入支援サービス」では、AIアプリケーションのパフォーマンスやコスト増加の要因をリアルタイムで監視・特定できる環境を整えることができます。具体的なサポート内容としては、コンサルティング、LLMアプリ観測基盤の構築、データ分析・改善活動の技術支援が含まれます。

主な監視項目には、インプット/アウトプット、トークン数/コスト、レイテンシ、エラー率があります。利用料金は、顧客の要望と規模に応じてヒアリング後に算出されます。

今後の展望

アイレットは、今後も生成AIをはじめとした先端技術のさらなる活用を追求し続けます。インフラの構築からアプリケーションの運用まで、一貫したサポートを通じて高品質なソリューションを提供していく方針です。この新サービスの導入により、企業はAIを安全かつ効果的に活用し、競争力を高めることが可能になります。アイレットは、生成AI市場の成長を牽引し、持続可能なビジネスの実現に貢献していくことでしょう。

詳細情報やサービスの利用を希望される方は、アイレットの公式ウェブサイトをご覧ください。