NVIDIA、オープンなNemotron 3.5 Super VLとエッジ向けBoltを発表

発表された内容

NVIDIAは10月15日付のブログで、オープンな大規模モデル「Nemotron 3.5 Super VL」と、エッジ向けの「Nemotron 3.5 Bolt」2種を公開したと発表しました。Super VLは1200億パラメータ(120B)のマルチモーダルモデルで、指示追従やツール利用、複数手順の業務ワークフロー、視覚理解といったエージェント向けタスクを対象としています。

Boltは「74B-A9B 24GB」と「E4B 4GB」の2種類です。前者はローカルでのエージェント処理に向けて知能と速度のバランスを狙い、後者は高速な対話エージェントに向けてGBあたりの知能を重視して最適化されています。Super VLとBolt 74B-A9Bはすでに提供中で、Bolt E4Bは10月23日に提供予定とされています。

3モデルを合わせることで、大規模な企業サーバーからエッジ機器、ローカルハードウェアまで、エージェント配備の幅を一通りカバーすると説明されています。

技術的な特徴

Super VLは「Nemotron Coalition」との協業で開発されました。NVIDIAによれば、マルチモーダルのエージェントタスクで高い精度を持ち、同社最大の推論モデルと比べて約5分の1のパラメータ数で同等の性能を実現したとされています。また同クラスのオープンなエージェントモデルの中で最速で、次点より5倍速いと主張されています。

学習面では、事前学習と継続事前学習で約26兆トークン、その後のポストトレーニングで約380万サンプルと、多数の環境での強化学習を用いたと説明されています。視覚面では、OCRや表、グラフ、構造化情報の読み取りを想定しており、WebページやPDFからテキストやグラフを読み取って洞察を返せるとされています。

Bolt 74B-A9B 24GBは、独自の2ビット量子化により24GBのメモリに収まるよう設計されています。NVIDIAの説明では、同程度のメモリ容量の他モデルと比べて知能と速度のバランスが良く、PinchBenchでは同クラスのオープンモデルで1位、BrowseCompではオープンモデル中2位とされています。

ファミリー内での位置づけ

Nemotronファミリーには、すでに8月公開の「Lightning」と「Ultra」があります。Lightningは高スループットな処理、Ultraは最も難しい推論タスクを担い、今回のBoltがエッジに知能を持ち込む役割を担うと整理されています。

Super VLは業界の複数の組織が自社データでポストトレーニングしています。例えばScale AIはSkydanceとEY向け、AfterQueryはHebbia向け、AI21とAliceはサイバーセキュリティ向け、Mercorはコーディングエージェント向けにカスタマイズしたとされています。ModelScopeはms-swiftフレームワークを通じたファインチューニングを可能にしています。

プラットフォーム企業では、Atlassian(JiraやConfluenceを横断するエージェント検索)、CrowdStrike(セキュリティ)、Dassault Systèmes(設計・シミュレーション)、Perplexity(検索)、Salesforce(政府業務の自動化)、Synopsys(半導体設計検証)などがSuper VLを取り込んでいると紹介されています。

分かっていない点と注意

性能や順位はNVIDIA自身のブログで示されたもので、第三者の独立した検証結果は今回の原文では示されていません。実運用での精度は用途によって変わり得るとみられるため、自社タスクでの再評価が欠かせません。

ライセンス条件や商用利用の可否、価格については原文に明記がありません。オープンウェイトとして公開されるため自社インフラで動かせるとされていますが、具体的な条件は別途確認が必要です。

Bolt E4B 4GBについては詳細な仕様やベンチマークの記載が限られており、10月23日の提供開始以降に明らかになる可能性があります。