AI
NVIDIA、120Bパラメータのオープンマルチモーダルエージェントモデル「Nemotron 3.5 Super VL」を公開
2026/10/16
NVIDIAがNemotron 3.5 Super VLを公開
NVIDIAは2026年10月15日、オープンなビジョン言語モデル「Nemotron 3.5 Super VL」をリリースした。常時稼働するエンタープライズエージェント向けに設計されたモデルで、総パラメータ数120B、トークンごとに12Bパラメータを活性化するMixture-of-Experts（MoE）構成を採用している。テキスト・画像・ドキュメント・動画を入力として受け付け、推論、ツール呼び出し、コード生成を単一モデルで処理できると報告されている。
ウェイトはOpenMDW-1.1ライセンスのもとで公開されており、学習データセット・トレーニングレシピ・RL環境（NeMo Gym）も合わせて公開された。
主なスペック
- パラメータ数: 総120B、アクティブ12B（MoE）
- コンテキスト長: 最大1Mトークン
- 対応ハードウェア: NVFP4チェックポイントを使用した場合、DGX Spark×1、H200×1、H100×2、またはGB200×1で動作。BF16チェックポイントも公開
- 動画入力: MP4形式、最大2分のクリップに対応
アーキテクチャ
バックボーンはMamba-2・MoE・Attentionレイヤーを交互に組み合わせたハイブリッド構成で、各MoEレイヤーには512個のルーティングエキスパートが存在する。画像・ドキュメントページ・動画フレームはC-RADIOビジョンエンコーダとコネクタを介して言語バックボーンに入力される。
高速推論を実現するために、以下の4つの技術が採用されている。
- マルチトークン予測（MTP）: ネイティブのドラフターが複数トークンを提案し、1回のフォワードパスで検証する。
- LiLiCorr: DGX Spark向けの投機的デコーダ。最大2.3倍の高速トークン生成を実現すると報告されている。
- NVFP4（量子化認識蒸留）: Blackwellアーキテクチャでは重みと活性化の両方を4ビット化。それ以外では重みを4ビット、活性化を16ビットで処理する。
- コンテキスト再利用: プレフィックスキャッシングにより、エージェントのターン間でAttentionキャッシュとMamba状態を保持する。
モデルは「Nemotron 3 Ultra」から蒸留されており、約26兆トークンで学習されたと報告されている。後処理（ポストトレーニング）では約380万サンプルと数十の環境にわたるRLを使用。また、10BのIndic言語トークンによる継続事前学習も実施された。
ベンチマーク性能
以下のスコアはNVIDIA公表値であり、NVFP4チェックポイントによるものだ。
| カテゴリ | ベンチマーク | スコア |
|---|---|---|
| 推論 | GPQA-Diamond | 89.90 |
| コーディング | SWE-bench Verified | 71.07 |
| コーディング | Terminal-Bench 2.1 | 60.80 |
| Webエージェント | BrowseComp | 77.5 |
| 指示追従 | IFBench | 71.50 |
| チャート理解 | CharXiv reasoning | 79.88 |
| ドキュメント | MMLongBench-Doc | 62.82 |
| コンピュータ操作 | OSWorld-Verified | 52.3 |
| 長期エージェント | tau3-bench banking | 17.78 |
NVIDIAによれば、エージェントハーネス評価ではNemotron 3 Ultraを上回る結果が得られたとしている。Hermes Benchでは63.44%対56.33%、LangChain評価では87.05%対84.3%と報告されている。Ultraは総パラメータ数が約4.6倍であるにもかかわらず、Super VLが上回った点が強調されている。
Baseten経由のエンドポイントでArtificial Analysisのエージェントタスクを実行した場合、毎秒600トークン以上の出力が得られたとも報告されている。また、Inkling Smallと比べて最大5倍のシングルGPUスループットを達成したとNVIDIAは主張している。
エッジ向けBoltモデルも同時公開
NVIDIAはメインモデルと並行して、エッジ向けの2つのモデルも公開した。Nemotron 3.5 Bolt 74B-A9BとBolt E4Bだ。詳細なスペックは本記事執筆時点の抜粋情報には含まれていないが、エッジデプロイを主な用途とするモデルとされている。
まとめ
Nemotron 3.5 Super VLは、単一のオープンチェックポイントでテキスト・ビジョン双方の能力を統合し、エンタープライズ向けエージェントワークロードへの適用を狙った野心的なモデルだ。NVFP4量子化により民主的なハードウェア要件を実現しつつ、GPQA-Diamondで89.90という高スコアを記録している一方、長期エージェントタスクのtau3-bench bankingでは17.78にとどまっており、長期的な多段階タスクは引き続き難しい領域であることが示されている。ウェイトはHugging Face上で公開されており、開発者はすぐに試すことができる。
出典: NVIDIA Releases Nemotron 3.5 Super VL, a 120B Open Multimodal Agent Model