NVIDIA Nemotron 3.5 Lightning 现已在 Amazon SageMaker JumpStart 上线

摘要

专为高并发智能体工作负载设计的开源模型 NVIDIA Nemotron 3.5 Lightning 现已在 Amazon SageMaker JumpStart 上线。该模型采用 30B Mixture-of-Experts 架构，激活参数仅 3B，可为常驻智能体带来高达 4 倍的吞吐量提升和 30% 的任务完成速度优化。

为何重要

智能体 AI 系统——持续运行并处理大量任务的自主智能体——需要能够高效扩展且不会产生高昂计算成本的模型。Nemotron 3.5 Lightning 的 Mixture-of-Experts 设计在每次推理中仅激活部分参数，从而实现大幅提升的吞吐量。其在 SageMaker JumpStart 上的可用性降低了 AWS 客户的部署门槛，无需从零开始管理基础设施即可部署生产级智能体工作负载。

相关工具

• Amazon SageMaker JumpStart
• NVIDIA AI Models

对 AI 工具/模型的影响

此次发布表明一个日益明显的趋势：专为智能体和自主工作负载优化的开源模型正进入主流云平台。NVIDIA 通过提供仅 3B 激活参数的 30B MoE 模型，证明了稀疏架构的效率优势可以惠及更广泛的开发者群体。这将加速此前因资源密集型而难以大规模部署的企业采用智能体 AI。

值得关注

• SageMaker JumpStart 如何将 Nemotron 3.5 Lightning 集成到现有部署工作流
• 其他云提供商是否会跟进推出类似的智能体优化模型
• 社区基准测试对比 Nemotron 3.5 Lightning 与同类开源模型在实际智能体场景中的表现

探索更多 AI 工具 并持续关注最新 AI 新闻，获取模型发布和平台集成的持续报道。查看 排行榜 了解 Nemotron 3.5 Lightning 在生态中的表现。

常见问题

NVIDIA Nemotron 3.5 Lightning 是什么？ 它是一款开源 30B Mixture-of-Experts 模型，激活参数 3B，专为高并发智能体工作负载设计。

在哪里可以使用？ 现已可通过 Amazon SageMaker JumpStart 部署。

性能提升如何？ 可为常驻智能体带来高达 4 倍的吞吐量提升和 30% 的任务完成速度优化。