カラクリが国産LLM「KARAKURI LM」でAIエージェントモデルを開発

カラクリが国産LLMを用いてAIエージェントモデルを開発

2023年9月、カラクリが開発した国産の大規模言語モデル（LLM）「KARAKURI LM」が、経済産業省のGENIACに採択されました。これにより、AIエージェントモデルの本格的な開発が始まりました。「KARAKURI LM」は、国内のカスタマーサポート市場をターゲットに、高性能かつ高品質なサービスを提供することを目指しています。

KARAKURI LMの概要

「KARAKURI LM」は、700億パラメータを搭載したバージョン「KARAKURI LM 70B v0.1」を2024年1月に発表。これにより、国産オープンモデルにおいて最高性能を誇ることが確認されました。このモデルはLlama2を基にしたもので、独自に作成したカスタマーサポートに特化したデータセットを使用した継続的な事前学習を経て開発されています。また、アラインメントにはSteerLMという手法が採用され、コスト効率も高いことが特徴です。

続いて5月には、世界初となるAWS Trainiumを利用したMoEモデル「KARAKURI LM 8x7B Chat v0.1」が登場。このモデルは多様なデータセットを使用し、AIエージェントとしての能力を強化しました。

さらに、6月には「KARAKURI LM 8x7B Instruct v0.1」が発表され、カスタマーサポート向けのAIエージェントとして使用できるように設計されました。

特徴と技術

「KARAKURI LM」の大きな特徴は、SteerLMを用いた特殊な学習方法による9つのパラメーター設定です。これにより、出力内容を用途に応じて自在に調整することが可能です。一般的なモデルが「良い」「悪い」の二元で評価される中、KARAKURI LMでは「Helpfulness」「Correctness」「Coherence」などの評価軸を持つことで、わずかなデータでも高精度な結果が期待できます。

日本のカスタマーサポート市場への貢献

カラクリは「カスタマーサポートをエンパワーメントする」というブランドの目的のもと、AIエージェントの開発に取り組んでいます。特に注力しているのは、日本のカスタマーサポート市場での活用です。市場規模は約100万人の従事者を有するとされ、その支援のために特化したベンチマークを構築し、エージェントモデルの開発が進められています。

また、研究成果を広く公開し、社会の知識を深めることにもコミットしています。これに加えて、年間1,000万人が利用する自社サービスを通じて、実際のビジネスシーンでの利用を促進しています。

GENIACとの連携

GENIACは、生成AIの開発力を強化することを目的とした事業で、経済産業省とNEDOが支援しています。このプログラムでは、AIモデルの基盤技術や計算資源の提供、データ利用の実証調査などが行われ、カラクリが開発するKARAKURI LMの重要な基盤となっています。

会社概要

カラクリは「Friendly Technology」をビジョンに掲げ、カスタマーサポート専用AIの開発を進めています。BERTモデルの研究から始まり、GPTを取り入れた大規模言語モデルに注力する中、多くの大企業にも採用されています。たとえば、高島屋やSBI証券、星野リゾートなどとの契約があり、技術力の高さが証明されています。今後もカラクリの展望に注目が集まるでしょう。