リコーが自社開発のセーフガードLLMを無償公開しAIの安全性を向上

リコーが自社開発のセーフガードモデルを無償公開

近年、AI技術が急速に進化する中、生成AIの利活用が企業や個人の生産性向上に寄与しています。しかし、その一方で、これらの技術を安全に利用するための課題も浮き彫りになっています。そこで、リコーは自社開発の「セーフガードモデル」を無償公開することを発表しました。このモデルは大規模言語モデル（LLM）に対するガードレール機能を具備しており、不適切な情報の入出力を監視します。

セーフガードモデルの背景

リコーのセーフガードモデルは、Meta Platforms社が提供する「Meta-Llama-3.1-8B」を基にしています。このモデルは日本語性能を高めた「Llama-3.1-Swallow-8B-Instruct-v0.5」をさらに改良したもので、リコー独自の量子化技術によって小型・軽量化が図られています。

この取り組みは、リコージャパンの「RICOH オンプレLLMスターターキット」に搭載されて提供されてきましたが、最新の無償公開は生成AIの安全利用を促進するためのものです。リコーは2024年にLLMの安全性を高めるための社内プロジェクトを立ち上げ、多くの技術的な課題に取り組んできました。このような背景から、セーフガードモデルの開発に至りました。

無償公開の意義

日本では、LLMに関するオープンモデルの選択肢がまだ限られており、リコーはこの現状を打破するために取り組んでいます。リコーはこれまでにも、経済産業省や新エネルギー・産業技術総合開発機構（NEDO）によるプロジェクト「GENIAC」に参加し、多様なドキュメントの解析が可能なマルチモーダルLLMを開発してきました。

今回の無償公開を通じて、リコーは生成AIの安全性の重要性を広く提起し、企業や個人が安心してAIを活用できる環境を整えていくことを目指しています。また、リコーは「“はたらく”に歓びを」という企業理念のもと、業務革新や高付加価値の働き方を支援することを使命としています。

セーフガードモデルの具体的な機能

このセーフガードモデルは、ユーザーが入力したプロンプトやLLMが出力した回答を常に監視しています。これにより、暴力や犯罪、差別、プライバシー侵害など14種類に分類された有害な内容を自動で検出することが可能となります。リコーは数千件に及ぶ独自のデータを使ってこのモデルを学習させており、高精度で不適切情報を判別する能力を持っています。

リコーは、AI技術の進化とともに、様々な業界での活用が期待される生成AIの安全な導入を推進しています。今後さらに改善を重ね、私たちの生活をより良い方向へ導く役割を果たしていくことでしょう。

リコーのセーフガードモデルの公開に関する詳細は、こちらのリンクで確認できます。