AlmondoとCTCが進化的モデルマージ技術を発表
株式会社Almondoは、伊藤忠テクノソリューションズ(CTC)と共同で進めた進化的モデルマージに関する研究成果を発表しました。この発表は、2025年7月6日と7日に開催された情報処理学会の自然言語処理研究会にて行われ、今後のAI開発における重要な指針となることが期待されています。
進化的モデルマージとは?
近年、金融、製造、法務といった多様な分野では、ドメイン特化型AIモデル(DSM)の活用が進んでいます。これらのモデルは特定の業務に特化し、高いパフォーマンスを発揮しますが、それぞれの効果を如何にして活かすかが課題でした。そこで登場するのが「モデルマージ」という手法で、複数のDSMを組み合わせることで、両者の強みを融合させることが可能となります。
その中でも「進化的モデルマージ」は、生物の進化のプロセスにヒントを得た技術であり、AIモデルのパラメータを自動的に統合し、高精度のモデルを生成することを可能にします。これは、大規模な再学習を行わずとも高い精度を得られる特徴があります。
重み付けの設計に注目
今回の研究では、進化的モデルマージを用いて複数の目的を同時に最適化するための重み付け設計が主題となりました。ここでいう重み付けとは、「どの目的をどの程度重視するのか」というバランスを数値的に表すもので、調整には客観的な基準が欠如するため、これまでのアプローチは主に研究者や技術者の経験に頼っていました。
研究では、以下の三種類のDSMを統合しました。
1. 日本語への高い理解力を持つモデル
2. 英語における数学的推論力が高いモデル
3. 英語を使用したプログラムの自動生成に優れたモデル
これらを組み合わせ、「日本語での数学的推論」と「日本語によるプログラム自動生成」の精度向上を目指しました。モデル統合においては、重みの比率を44パターンに変えて検証しました。
研究成果と今後の展望
研究の結果、以下の二つの重要な指針が得られました。
1. 得意分野を適切に管理するAIの構築が可能
- 重みの比率を調整することで、数学やプログラミングに強いAIを安定して開発できることを示しました。
2. AIの性能は学習データに強く依存
- 統合されたモデルにおいても、性能向上には学習データの質や範囲が影響し、無制限の性能向上は得られないことを確認しました。
専門的なAIの柔軟な活用と精度向上を実現するこの研究は、今後のAI技術の発展に大きく寄与することが期待されます。
これらの成果は、2025年の情報処理学会において、姫木祐太郎氏、有馬正行氏、片寄凱氏(伊藤忠テクノソリューションズ株式会社)、千福浩平氏、朝岡忠氏、佐藤悠翔氏(株式会社Almondo)によって発表されました。発表のタイトルは「多目的最適化タスクの重み調整が進化的モデルマージ後の性能に与える影響」です。
今後とも、Almondoは進化的モデルマージをはじめとした最先端の生成AI技術に貢献し、企業のAI活用を加速させることを目指します。
会社概要
- 【本社住所】東京都渋谷区渋谷2-24-12 WeWork 渋谷スクランブルスクエア内
- 【設立】2023年2月
- 【代表者】代表取締役CEO 伊藤 滉太
- 【事業内容】AIソリューション事業、AIプロダクト事業
- 【URL】
almondotech.com
- 【本件連絡先】
[email protected]