ABC株式会社が提供するNVIDIA DGX Sparkを用いたLLM検証サービスのご紹介

ABC株式会社の新サービス

愛知県名古屋市に本社を構えるABC株式会社が、新たに大規模言語モデル（LLM）の実機検証サービスを始めました。このサービスでは、NVIDIA DGX Sparkを使用して、お客様の指定した条件でのベンチマークと動作検証を受託し、結果を迅速にレポートにまとめてお届けします。

サービスの内容と特徴

本サービスは、LLMを導入しようと考えている企業や研究機関にとって非常に有益です。特に、事前にモデルとその台数を決定したい方に向けて、実際の性能を確認することが可能です。導入候補のモデルが想定通りに動作するかどうか、また必要とされる応答速度に必要な台数はどの程度かを、実機での実験を通じて検証することができます。

検証プロセス

お客様は、当社が用意したDGX Sparkまたは同等のOEM機を用いて実験を行います。この際、想定される使用条件に近い状態で測定を実施し、その結果をもとに最適なモデル選定や導入する台数を検討できるのです。以下の点が主な特徴となります。

- 候補モデルの比較検証: 営業の依頼に対して、最大2種類のモデルを同条件下で比較することが可能です。例えば、同一の指示文を入力し、応答が生成されるまでの時間や生成されたトークン数を測定することで、モデルの応答速度を比較することができます。

- 台数や接続方式による検証: DGX Sparkは1台から最大8台までの構成に対応しており、単体での動作確認に加え、複数台をリング状に接続した構成や200GbEスイッチを介して接続した構成での性能確認ができます。これにより、使用するモデルや接続方式によって処理時間がどの様に変化するかを評価できます。

料金と納期

サービスの料金は、1回20万円から始まり、検証項目や構成によって個別にお見積もりが行われます。検証は、最大2種類のLLMを対象にした1回の依頼で行われ、レポートは約5営業日で提出されます。計測内容を詳しく記載したレポートが納品されるため、結果をしっかりと把握することができます。

お問い合わせ

実機での検証を希望される方や、ご不明点がある方は、下記のABC株式会社のお問い合わせフォームよりご相談いただけます。お客様のご要望をお聞きし、適切な情報を提供いたします。実機で確かめたいモデルや使用シナリオについてお知らせください。お見積もりも迅速に行います。

この新しいサービスにより、LLMの導入検討がよりスムーズになり、成果を最大限に引き出せることをABＣ株式会社は目指しています。