#群馬県 #AIチャットボット #富岡市 #アガタ

株式会社アガタ、AIチャットボット応答速度を高速化

群馬県富岡市を拠点とする株式会社アガタが、同社の社内文書AI検索サービス「RAG＋AIチャットボット」の応答速度を大幅に向上させたことを発表しました。具体的には、応答処理速度を約1.9倍に引き上げ、60名の同時アクセスにも耐えうる性能を実現しています。この改良は、利用者により迅速な情報提供を行うための重要なステップとされています。

高速化の背景と理由

AIサービスにおいて、応答速度はユーザーにとって非常に重要な要素です。従来、好条件下での公称値が示されることが多く、実際の混雑時にはどの程度の遅延が生じるかは導入企業にとって大きな不安要素でした。アガタは、あえて全利用者が同時にリクエストを送信し続けるという最悪条件下での測定を行い、その結果を公開しました。この値は、実際の使用環境ではより厳しい条件になることはないため、ほぼ「最低保証に近い実力値」と言えるでしょう。

実測結果の詳細

60名が同時にアクセスした場合の実測結果は以下の通りです。

• - 応答開始の中央値: 560ms
• - 平均応答時間: 1,015ms
• - 95パーセンタイル: 3,314ms

実測条件は全クライアントが同時に質問を送信し続けるもので、各条件ともに60秒間の複数回測定を行った結果です。また、この測定中、エラー率は0%でした。利用者が少ない時間帯では、中央値は約0.15秒に達するため、ほぼ瞬時に回答が始まります。高い回答品質も確認されており、回答有効率は96%に達しています。

高速化の技術的内容

応答速度の改善は、2つの独立した改善に基づいています。まず、再ランク処理が約2倍に高速化され、さらに最新の推論エンジンを採用することで、生成速度が約1.9倍に向上しました。このように、アガタはAIモデルや検索エンジン、データベースに至るまで全て自社で運用することで、深いレベルでの性能改善を実施し続け、利用者に還元することが可能となっています。

環境への配慮とデータ保護

アガタが提供するAIチャットボットは、再生可能エネルギーを利用した自社データセンター内で運用されており、外部クラウドへデータを送信することはありません。そのため、高いデータセキュリティと環境負荷軽減を両立しています。業務の根幹を支えるAIサービスが外部の影響を受けることがないというのは、導入企業にとって非常に安心できるポイントです。

今後の展望

今後もアガタは、AIモデルや検索エンジン、データベースに関する技術的改善を続け、さらなる性能向上を目指します。今回の高速化は一時的なものではなく、使い続けるほどに良くなるサービスを提供し続ける意向を示しています。料金は据え置きのまま、改善分を還元する形式でサービスを提供します。

代表者のメッセージ

「性能の数字は、お客様が一番厳しい日に体験する数字でなければ意味がありません。全てを自社で持っているからこそ、改善を重ねられます。」と代表の勅使河原有佑氏は述べており、顧客のニーズに応える姿勢が伺えます。

このように、株式会社アガタのRAG＋AIチャットボットは、性能の向上だけでなく、個人情報を守りつつ、持続可能な未来を見据えた取り組みを進めています。これからも目が離せません。

関連リンク

サードペディア百科事典: 群馬県 AIチャットボット 富岡市 アガタ

Wiki3: 群馬県 AIチャットボット 富岡市 アガタ