最新のAI技術「GBase On-prem」NVIDIA Sparkで企業の生産性向上を実現

Sparticle株式会社が提供する生成AIプラットフォーム「GBase」は、企業の生成AI導入時に直面する数々の課題を解決するために設計されています。これまで企業が抱えていた「高コストのハードウェア」「モデルの重さによるオンプレミス環境での運用困難」「社内システムとの連携やセキュリティの懸念」といった問題に対し、GBaseは効果的なソリューションを提供します。具体的には、デスクトップサイズのNVIDIA SparkにGBase（オンプレミス特化型生成AIパッケージ）をインストールすることで、社内業務に最適化された知識ベースとAIエージェント基盤を現実的なコストで構築することが可能です。

GBase on Sparkとは

「GBase on Spark」は、オンプレミス環境向けとして開発された生成AIプラットフォームです。このシステムでは、LLM（大規模言語モデル）とVLM（視覚言語モデル）が内蔵されています。手書きのメモや走り書き、スキャンされた文書、複雑な表や図解を含む様々なドキュメントを高精度で理解し、適切な回答を提供できるRAG（Retrieval-Augmented Generation）技術を利用しています。これにより、これまで難しかった多様な情報を効果的に処理することができるのです。

NVIDIA Sparkの特長

NVIDIA Sparkは、一般的なラックマウント型の大規模サーバーとは異なり、デスクの上に置いて使用できるコンパクトなAIサーバーです。オフィスの一角や開発チームの近くに簡単に設置でき、静音性にも優れています。通常のオフィス環境であれば、稼働中のノイズもほとんど気にならないレベルで、特別な空調設備やサーバールームを設ける必要がありません。ハードウェアの調達も、市場で販売されているモデルから選べるため、発注から長期間待つといったリスクを最小限に抑えることが可能です。

GBase on Spark利用のメリット

1. コストの削減

従来のGPUサーバーを用いた大規模言語モデルの運用には高額な投資が必要でしたが、Sparkの導入によりそのコストは大幅に削減されます。例えば、数百万円もの初期投資を回避し、数十万円から利用できる環境を整えることができるのです。

2. 量子化されたLLMと企業向け機能

GBase on Sparkは、LLMとVLMのデュアル構成を採用しており、手書きやスキャン文書などの複雑なデータに対しても高精度で対応可能です。量子化とARM最適化により、これらのモデルが1台のSpark上でスムーズに動作し、業務に必要なナレッジの取得やFAQ処理を一元的に実行します。

3. セキュリティの確保

このシステムでは、機密情報を社外に送信する必要が無く、社内で完結するため、データセキュリティの観点でも安心して利用できます。アクセス制御やログ管理機能によって、情報の利用履歴を追跡することができ、内部統制やコンプライアンスの要求にも適応しやすくなっています。

4. メンテナンスフリーに近い運用

GBase on Sparkは高い完成度を誇り、運用面においてもほぼメンテナンスフリーに近い体制を構築することができます。ブラウザベースの管理画面や自動ログ取得・モニタリング機能が備わっており、日常的な業務の運用コストを大幅に削減することが可能です。

多様な業務シーンへの応用

このプラットフォームは、社内ヘルプデスクや顧客対応業務においても大きな効果を発揮します。例えば、ITトラブルや経費精算の問い合わせに24時間対応する社内ヘルプデスクや、商品情報の提供を行うコールセンターでのオペレーター支援に利用することができます。また、新しい文書自動生成機能などを活用すれば、定型文や提案書の作成も自動化でき、業務全体を効率化することが期待されています。