Axcxeptが実現した低コスト・短時間での日本語LLM性能向上の秘密

Axcxeptの革新的アプローチ

最近、Axcxept株式会社が発表した新しいアプローチが注目を集めています。北海道札幌市に本社を構えるこのテクノロジー企業は、独自の研究による疑似GRPO/PPOアプローチを用いて、短時間かつ低コストで日本語LLM（大規模言語モデル）の性能向上を果たしました。これにより、言語処理技術の発展が期待されています。

効率的なファインチューニング

Axcxeptが取り組んだファインチューニングプロセスは、その迅速さと効率性が特徴です。わずか数時間の学習に加え、30,000件ほどの追加データを用いることで、既存のモデルにおける日本語特化の性能を向上させています。この手法は、従来の高コストで長時間かかる学習方法に代わる画期的なものであり、もう一つの重要な要素である疑似GRPO/PPOの取り入れによって、トレーニングがより効率的に行われています。

ベンチマーク結果の分析

Axcxeptの新モデル「EZO2.5-gemma-3-12b-it-Preview」は、Japanese MT BenchやElyza Tasks100という評価基準で優秀なスコアを記録しました。特に、Japanese MT Benchは日本語LLM性能を測定するためのよく知られた基準であり、Axcxeptのモデルはここで良好な結果を出しています。一部の評価では、14B、32B、72Bといった上位モデルに迫るような成果を挙げており、短期間での性能向上を証明しました。

技術的背景

具体的には、Japanese MT BenchはMTBenchというモデルの日本語版で、Elyza Tasks 100は日本語性能測定用のベンチマークデータセットです。これらの評価は、Google Gemini 2.0やgpt-4oに基づいて行われ、AIの自動評価に基づいています。すなわち、これらの評価はAIが行っており、評価基準の透明性が確保されています。

今後の展望

今後、Axcxeptはモデルファインチューニング技術のさらなる研究開発を進め、もっと多様な分野で利用できる日本語LLMを開発していく計画です。本手法はリソースが限られた環境でも高い成果を出す可能性を持っていて、AI研究に新たな選択肢を提供します。Axcxeptは、「AI×Human Synergy」を掲げ、地方から真に強い日本を創造するための支援を行っています。

企業について

Axcxeptは、AIを活用したシステム開発、基盤や環境の構築、人材育成やセミナーなど、AIやシステムに関わる様々な課題を包括的に支援するITスタートアップです。同社は、AIに強い企業や個人を数多く育成し、北海道から世界への発信を目指しています。興味のある方は、ぜひこちらの公式ページやSNSで最新情報をご確認ください。