ローカルLLM導入ガイド「KARAKURI LM10本ノック」公開！国産AIの進化を体感しよう

ローカルLLM活用を加速させる「KARAKURI LM10本ノック」

カスタマーサポートDXを推進するカラクリ株式会社は、同社が開発する大規模言語モデルシリーズ「KARAKURI LM」の公式Tipsを、テックブログ「KARAKURI Techblog」で公開しました。

「KARAKURI LM」は、国産オープンモデルの中で最高性能を獲得している大規模言語モデルとして、すでに3つのモデルが公開されています。日本語に強く、無料、そしてローカル環境で利用できることから、AITuberや小説執筆など、幅広い分野で活用されています。

今回の「KARAKURI LM10本ノック」では、カラクリのデータサイエンティストが、より多くの環境で「KARAKURI LM」を使えるようになるためのヒントを、わかりやすく解説していきます。

「KARAKURI LM」とは？

「KARAKURI LM」は、カラクリが開発する大規模言語モデル（LLM）シリーズの総称です。同社は、中小企業やベンチャー企業でも、独自のデータセットを用いて国際的な競争力を持つAIモデルを開発できることを証明するため、さまざまなシリーズ開発に着手しています。

公開されているモデルは、以下の3つです。

KARAKURI LM 70B Chat v0.1：国産オープンモデル最高性能の700億パラメーターLLM。
KARAKURI LM 8x7B Chat v0.1：世界初、AWS Trainiumを用いてMoEモデルの学習に成功した大規模言語モデル。
* KARAKURI LM 8x7B Instruct v0.1：国産モデル初、AIエージェントとして使えるLLM。Function callingとRAGに対応し、業界・企業特有のタスクのプログラミングにも活用可能です。

「KARAKURI LM10本ノック」の内容

「KARAKURI LM10本ノック」では、以下の内容が公開されます。

1. KARAKURI LMを触ってみよう：5クリックで「KARAKURI LM」を無料で動かす体験ができます。
2. KARAKURI LMならではの機能、属性パラメータ(SteerLM) 解説：国産LLMで唯一、属性パラメータ機能を搭載した「KARAKURI LM」の機能を解説します。
3. LLMを動かすのに必要なメモリ量の見積もり方：ローカルLLM環境構築におけるメモリ問題を丁寧に解説します。
4. KARAKURI LMでfunction calling実践：国産LLMで唯一、function calling機能を搭載した「KARAKURI LM」の最適活用方法を紹介します。
5. 自動プロンプト最適化でKARAKURI LMをチューニングしてみよう：ローカルLLMにおける自動プロンプト最適化技術の重要性と具体的な方法を解説します。

カラクリ株式会社について

カラクリ株式会社は、「カスタマーサポートをエンパワーメントする」をブランドパーパスに掲げ、大規模言語モデル（LLM）のカスタマーサポートへの実用化を目指しています。高精度AIチャットボット「KARAKURI chatbot」は、高島屋、SBI証券、セブン-イレブン・ジャパン、SmartHRなど、各業界のトップランナーに選ばれ続けています。

「KARAKURI LM10本ノック」を通じて、「KARAKURI LM」をより多くの方に活用いただき、日本の生成AI活用を促進していくことを目指しています。