ABC株式会社、NVIDIA DGX Sparkを用いたLLMの実機検証サービスを開始

ABC株式会社（本社：愛知県名古屋市）は、NVIDIA DGX Sparkを使い、大規模言語モデル（LLM）のベンチマークと動作検証を受託するサービスを開始します。お客さまが指定した条件で当社が検証を行い、結果を5営業日程度でレポートにまとめて提出します。料金は1回20万円からで、作業量に応じて個別にお見積もりします。

■ 機材の購入前に、モデルと台数を検討したい方へ

導入候補のLLMが想定する条件で動くか、何台あれば必要な応答速度を得られるか。こうした疑問を実機で確かめたくても、検証機を入手できない、性能を確かめるまでは購入予算を確保しにくい、といった事情があります。

本サービスでは、検証に使うDGX Spark（もしくは同等のOEM機）を当社が用意します。お客さまは、想定する使い方に近い条件で得た測定結果をもとに、採用するモデルや導入する台数を検討できます。

■ 対応する検証内容

1．候補モデルを同じ条件で比較

1回のご依頼で、最大2種類のLLMを検証します。例えば、同じ指示文を入力し、応答が始まるまでの時間や1秒あたりに生成するトークン数を測ることで、候補モデルの応答速度を比較できます。

2．台数や接続方法を変えて検証

DGX Sparkは1台から最大8台までの構成に対応します。1台での動作確認に加え、複数台をリング状に接続した構成や、200GbE対応スイッチを介して接続した構成でも検証できます。同じモデルを使い、台数や接続方法で処理時間がどう変わるかを確認します。

■ 料金・納期

料金　1回20万円から（検証項目や構成など、作業量に応じて個別にお見積もり）

対象　1回につきLLMを最大2種類まで

納品　検証に用いた機材構成、実施条件、結果をまとめたレポートを5営業日程度で提出

■ ご相談・お見積もり

検証したいモデル、想定する使い方、実機で確かめたい点を、下記のフォームからお知らせください。

ABC株式会社 お問い合わせフォーム