Deepreneurとユビタスが共同開発した新たなAIモデルの実力
東京大学松尾・岩澤研究室から生まれたスタートアップ、株式会社Deepreneur(ディープレナー)は、株式会社ユビタスと連携し、日中韓対応の405Bパラメータを備えた大規模言語モデル(LLM)を開発しました。このプロジェクトは、経済産業省およびNEDOが推進する「GENIAC(Generative AI Accelerator Challenge)」の支援を受けて進められました。これにより、日本語、韓国語、中国語に加え、英語にも対応した高性能AIの開発が実現しています。
開発に至るまでの経緯
Deepreneurは、AI技術を駆使して新たな人間とテクノロジーの関係を築くことを目指しています。法人向けに提供するカスタマイズされたDXソリューションを通じ、企業のデジタルトランスフォーメーションを加速させる役割を果たしています。今回の開発では、Llama3.1を基盤とし、約1000億トークンにわたる継続事前学習が行われました。その後、対話形式の微調整を通じて、GPT-4に匹敵する性能を持つモデルが完成したのです。
観光産業への応用
特筆すべきは、このAIモデルが観光産業向けに特化されている点です。観光データを活用することで、顧客との自然な対話を実現し、観光業界の新たな活路を見出すことが期待されています。日本語のモデルはDeepreneur、中国語のモデルはユビタスがデータセットの構築と学習を担当しました。これにより、言語ごとの特性を生かした高精度なモデルが実現しました。
性能評価の結果
この新しいAIモデルは、日本語、繁体字中国語、韓国語、英語の4言語において優れたパフォーマンスを示しています。特に自然な対話タスクにおける流暢性と精度は、従来のモデルをしのぐものとなっています。実施されたベンチマーク評価では、多くの指標で高得点を記録し、特定のタスクではGPT-4を上回る性能を発揮しました。
日本語モデルはJA MT-Benchで9.18、ELYZA Tasks 100で4.44を達成し、繁体字中国語モデルもTMMLU+で76.06%以上の高評価を得ました。
Deepreneurの未来への展望
Deepreneurは沖を持つAI技術を応用し、各企業に対して独自のLLM構築サービスも提供しています。社内でのデータ処理から導入支援までトータルでサポートを行い、企業のデジタル化を強力に推進しています。今後もAI技術を利用した新たなソリューションを提供し続け、さまざまな業界での活用が期待されています。興味がある方は、詳しい情報を公式サイトでチェックしてください。
公式サイト
- - 代表者: 澤田悠太
- - 所在地: 東京都文京区本郷6丁目25番14号HONGO EGG内
- - 設立: 2023年4月28日