新闻中心

NVIDIA Nemotron 3.5 Super VL 发布:120B 多模态 MoE 模型,单 GPU 智能体吞吐最高提升 5 倍 NEWS DETAIL

当前位置:首页 > 新闻中心
资讯分类 · 新闻中心 作者 · 超级管理员 审核人 · 内容审核团队 发布时间 · 2026-10-17 更新时间 · 2026-10-17 来源 · 本站

NVIDIA

NVIDIA 发布开放、可定制的多模态模型 Nemotron 3.5 Super VL,面向长时间运行的企业智能体工作流。该模型采用 120B 参数的混合专家(MoE)架构,每个 token 激活 12B 参数,在模型容量与推理效率之间取得平衡。NVIDIA 表示,在单块 GPU 上,该模型处理智能体任务的吞吐量最高可达同尺寸其他开放模型的 5 倍。

与只处理文本的模型不同,Nemotron 3.5 Super VL 把推理、指令遵循、工具调用与文本、图像、文档、视频理解整合在同一个模型中。企业无需分别部署文本模型和视觉语言模型,也不必在两者之间传递任务上下文。官方给出的典型场景包括:代码测试与错误分析、跨站点网页研究、从表格图表与页面版面中抽取信息并生成报告、漏洞识别与威胁分级,以及视频内容检索与事件分析。

在多模型系统中,这一模型承担需要推理、工具调用与跨模态理解的专业多步任务;高并发的文本任务交给 Nemotron 3.5 Lightning,复杂规划与编排则由 Nemotron 3 Ultra 负责。NVIDIA 强调,专用智能体必须理解组织自身的术语、工具接口、操作流程与合规要求,因此这类模型的价值更多体现在后训练环节。

开发者可以用 NVIDIA NeMo 开源库基于自有数据、工具与策略做后训练。NeMo AutoModel 支持监督微调(SFT)与低秩适配(LoRA),强化学习则用于贴近组织工作流的智能体环境,NeMo RL 与 NeMo Gym 分别覆盖强化学习与环境化评估。与模型同步开放的还有 Hugging Face 上的数据集,涵盖智能体工具调用与对话、金融推理与工具调用、指令遵循与聊天、长上下文转换与翻译、公平性,以及 40 个视觉语言数据集,可用于补充企业自有数据。

已有企业在生产工作流中试用该模型。Scale AI 为媒体娱乐公司 Skydance 的供应商信用处理流程做了后训练,NVIDIA 称该工作负载的推理成本将降低 40 倍、延迟降低 5 倍;金融运营平台 Ramp 用其把收据图像转换为包含商户信息、日期与支付数据的结构化 JSON,预计吞吐提升最高 50%、延迟降低 10 倍;AI21 与 Alice 将其用于威胁情报与漏洞分析,准确率提升 41%。

视觉能力方面,该模型的训练覆盖图表、表格、光学字符识别、多页文档与视频理解,两阶段 SFT 流程分别训练语言与视觉部分,再把视觉证据与推理、对话、安全、长上下文数据及智能体轨迹结合。在图表推理基准 CharXiv 上,模型得分为 80.8%,此前 Nemotron 3 Nano Omni 为 63%;配合 Python 代码解释,得分可提升到 84%。模型权重可在本地、数据中心或云端环境中部署,NVIDIA 同时提供了使用手册与图表问答流水线等资源。