NTTが開発した新たなLLMチューニング技術の概要と将来性

NTTが開発した新たなLLMチューニング技術の詳細

NTT株式会社が、業務マニュアル等の知識を大規模言語モデル（LLM）に効果的に定着させるための新しいチューニング技術を開発しました。この技術は、特定の業務知識を有したオリジナルのLLMを、膨大なデータを収集することなく構築することを可能にします。

チューニングの背景と課題

LLMを特定の用途向けに調整する「チューニング」の手法は、業務に特化した知識をモデルに組み込む際に数多くの課題に直面します。業務マニュアルや専門書などから新たな専門知識を学ばせるには、通常、大量のデータが必要となります。しかし現実の業務環境では、これほど多くの情報を用意することは困難で、業務特化型のLLMを作成するための大きな障壁となっていました。

▲これが本技術の開発へとつながった背景です。具体的には、業務に関連するデータをインターネットから収集する際、無関係な情報が混入する可能性が高く、質の高いデータセットを構築するのが難しいという問題があります。このため、限られた業務資料から効率的にLLMをチューニングする方法が求められていました。

新技術のポイント

新たなチューニング技術の主なポイントは、LLM自体が業務マニュアルを学ぶために、多角的な教材を自動的に生成するというものです。たとえば、学校の国語の授業のように、単に情報を暗記するのではなく、様々な観点から理解を深めるための問題や構成を用意しそれを通じて学ぶ仕組みです。

この技術では、業務マニュアルから生成される多様な表現形式の学習データを基に、LLMが自己学習を実施します。生成された学習データには、仕様書やFAQ、異なる形式の資料が含まれ、これらを使って従来以上に高精度で業務知識を定着させることが可能となりました。

実験結果

さらに、NTTが行った実験では、実際の業務マニュアルを基にLLMの知識定着度を測定しました。具体的には、LLMに業務に関連する設問を解かせ、その正答率を比較する方法を取りました。その結果、従来の正答率を上回る成果が確認されました。例えば、tsuzumi 2を使用した場合、学習前の正答率が65.3%から、チューニング後には83.1%へと向上しました。

今後の展開

この新チューニング技術は、今後NTTグループの各社で導入される予定です。応用可能性が広がるこの技術により、業務特化型のLLMを手軽に生成することができ、業務効率の向上が期待されます。

また、2026年11月に開催予定のNTT R&D FORUM 2026において、この技術の詳細が紹介される予定です。展示では本技術の詳しい説明や、AIエージェントが業務を能動的に学ぶための技術開発についても触れられるでしょう。