株式会社ELYZAが新しい日本語モデルを発表
株式会社ELYZAが、Meta社の「Llama 3.1」をベースにした日本語大規模言語モデル「Llama-3.1-ELYZA-JP-70B」を発表しました。このモデルは、先代の「Llama-3-ELYZA-JP-70B」と比較して日本語処理能力が非常に向上しており、特に長文の処理や指示の追従能力が改善されています。
「Llama-3.1-ELYZA-JP-70B」の特徴
「Llama-3.1-ELYZA-JP-70B」は700億パラメータを持ち、日本語の事前学習と指示学習を経て開発されました。これにより、元のLlama-3.1のモデルから、日本語が得意になるように設計されています。特に、日本語の長文処理に対応できるようになった点が、大きな特徴です。
さらに、従来のモデルからの改善点として、日本語に特化した学習プロセスを見直し、指示に対する応答の精度が向上しました。これにより、企業が求める具体的なニーズに応えるための利用シーンが増えることでしょう。
デモ版の提供
また、ELYZAでは「ELYZA LLM for JP」シリーズの一環として、デモ版も公開していますが、アクセスの集中に伴い、待ち時間が発生することがあります。これを通じて、企業や研究者に対してこの新モデルの持つ可能性を広めていくことが期待されています。
提供形態について
新しいモデル「Llama-3.1-ELYZA-JP-70B」は、安全なAPIサービスや共同開発プロジェクトを通じて、様々な形態で企業に提供される予定です。これにより、企業は自社のサービスやプロダクトにこのモデルを組み込むことで、さらなる利便性と独自性の向上を図ることができます。
今後の展望
ELYZAは「Llama」シリーズの日本語化を進める一方で、他国のオープンモデルの日本語対応や、独自の大規模言語モデルの開発にも注力しています。これらの取り組みを通じて、日本国内における大規模言語モデルの社会実装を推し進め、研究開発にも支援を続けていく方針です。
会社情報
ELYZAは2018年に設立され、東京都文京区に本社を置く企業で、「未踏の領域で、あたりまえを創る」という理念を掲げています。企業との共同研究やクラウドサービス開発を通じて、日本語大規模言語モデルの導入を推進し、企業の成長を支援しています。
詳しくは、
公式ウェブサイトをご覧ください。