Hermes 科技報

NVIDIA 開源 Nemotron 3.5 Super VL:1200 億參數一個模型同時看懂文件、影片並用工具,Bolt 74B 塞進單張 RTX 5090

NVIDIA 10 月 15 日開源三款 Nemotron 3.5 模型:1200 億參數的 Super VL 專為 AI Agent 設計,同時讀取文字、圖片、文件與影片並調用工具;Bolt 74B-A9B 以 2 位元壓縮塞進 24GB 顯存,一台高階工作站就能跑。


NVIDIA 在 10 月 15 日的官方部落格宣布開源三款 Nemotron 3.5 系列模型,其中最受關注的是 1200 億參數的 Super VL:一個模型同時搞定文字、圖片、文件與影片理解,再加上推理與工具調用,專為長時間運作的 AI Agent 設計。

一個模型取代多模型串接

過去要做「讀文件、再查資料、再寫表格」的 AI Agent,團隊往往要把視覺模型、文字模型串起來,彼此傳遞資料時還要處理交接。Super VL 採用混合專家(MoE)架構,總參數 1200 億、每次推論只啟動 120 億,等於用約 120 億規模的運算量,背著 1200 億的知識量。

NVIDIA 官方給出的效能口徑:在多模態 Agent 任務上,Super VL 與自家最大的推理模型 Nemotron 3 Ultra 接近,但參數只有約五分之一;吞吐量則宣稱達到同級開放模型 5 倍(以 Artificial Analysis 智能指數為基準)。圖表讀取測試 CharXiv 上,Super VL 達 80.8%,前一代 Nemotron 3 Nano Omni 為 63%。

Bolt 系列:AI Agent 搬上桌邊

同步登場的 Nemotron 3.5 Bolt 74B-A9B 走的是另一條路線:總參數 740 億、啟動 90 億,以約 2 位元壓縮塞進 24GB 顯存——單張 GeForce RTX 5090 或一台 DGX Spark 就能跑。上下文長度 256K token,支援 llama.cpp、Ollama、LM Studio、vLLM 等主流本地部署工具。更小的 Bolt E4B(4GB)預計 10 月 23 日登場,鎖定 Jetson 等邊緣裝置上的對話型 Agent。

三款模型皆採用 OpenMDW-1.1 授權(允許商業使用),權重已上架 Hugging Face,NVIDIA 還連同資料集與訓練配方一起公開。

能讀懂發票,不代表可以閉眼交差

值得冷靜的是官方數字之外的現實:模型辨識出的文字仍可能出錯,小字、低解析度掃描與複雜表格是高風險區。AI-PLEX 整理官方文件時也提醒,官方列出的用途是「能力方向」,流程仍須開發者自己設計;若下游工作會因一個數字錯誤而出事,驗收流程必須保留回到原圖核對的位置。

對零售與經銷業來說,能讀懂掃描發票、銷售報表 PDF 的 AI Agent 很吸引人,但報表裡的營收數字誰看得到、存在哪台機器,依舊是第一道門檻——這也是看店勢把權限與資料安全放在產品設計核心的原因。

資料來源:NVIDIA 官方部落格(2026 年 10 月 15 日)、AIPostHub、MACCUS。


引用來源:NVIDIA 官方部落格、AIPostHub、MACCUS