#東京都 #港区 #AI技術 #LLM #ABEJA

ABEJAが開発した7BのLLMが見せた新たな可能性

株式会社ABEJAは、7Bの小型LLM「ABEJA Qwen2.5-7B Model」を開発しました。このモデルは、汎用言語性能指標であるMT-Benchにおいて、同規模のモデルの中で最高水準の精度を誇るとともに、OpenAIの「GPT-3.5 Turbo」をも上回る性能を達成しました。

高精度の背景

ABEJAは、「ゆたかな世界を、実装する」という経営理念の下、AI技術を活用してミッションクリティカルな業務への導入を進めています。この度の開発は、国立研究開発法人NEDOが進める「ポスト5G情報通信システム基盤強化研究開発事業」の一環として行われており、AI技術の競争力を高めるための研究開発が進められています。

「ABEJA Qwen2.5-7B Model」は、数々の特化したタスクにおいて実運用可能な性能を持ち、運用コストとのバランスも優れています。このモデルの設計には「蒸留」という手法が用いられ、大型モデルの知見を小型モデルに移行することで、計算資源を削減しながらも高精度を維持しています。

豊かな世界への貢献

この新しいLLMは、提案書の作成や論理推論、情報抽出などの特定の理系タスクにおいて、実用的な性能を発揮します。また、量子化技術を取り入れることでエッジデプロイが可能となり、ビジネスシーンでの利便性が飛躍的に向上します。

ABEJAは、「精度とコストのトレードオフ」といった問題に対処するため、引き続き周辺技術の研究開発を行い、AI技術のさらなる進化と社会実装を目指しています。

未来の展望

今後は、LLMの持つ可能性を最大限に引き出すために、様々なビジネスシーンでの適用を目指して研究を続けます。2024年にはさらなる高性能なモデルが登場すると予想され、その精度は「GPT-4」を上回るものとされています。

この成果は、NEDOの助成事業を通じて実現したものであり、ABEJAはデジタル変革を推進するための中核を担っています。これからも「ゆたかな世界を、実装する」ため、企業活動を加速していきます。

具体的なモデルはHugging Faceで公開されており、今後ますますの注目が集まることでしょう。興味のある方はぜひご覧ください。

Hugging Faceでのモデル公開

結論

「ABEJA Qwen2.5-7B Model」は、LLM開発の新たな扉を開き、産業界におけるAI技術の実装を前進させる重要なステップとなるでしょう。ABEJAの今後の展開が楽しみです。

関連リンク

サードペディア百科事典: 東京都 港区 AI技術 LLM ABEJA

Wiki3: 東京都 港区 AI技術 LLM ABEJA