Canonical于8月11日宣布，NVIDIA Nemotron 3.5 Lightning已经可以通过Ubuntu Inference Snap安装。管理员在兼容的NVIDIA平台上执行一次安装命令，即可获得打包好的模型推理运行环境。
Nemotron 3.5 Lightning是一款开放、可定制的30B混合专家模型，每次推理激活3B参数，并支持100万Token上下文。它主要面向需要持续运行、多步骤处理和长时间保持上下文的AI Agent场景。
Inference Snap把模型和运行环境一起打包
Inference Snap是Canonical用于分发AI推理运行时的Snap软件包。模型部署所需的运行组件以统一形式交付，用户不必分别寻找依赖版本、组合推理框架和手动处理更新。
官方给出的安装命令为sudo snap install nemotron-3-5-lightning。命令简单不代表后台没有复杂工作，它解决的是软件打包与分发一致性，而不是替用户完成显卡容量、驱动版本和业务性能评估。
相同软件包可以用于支持的工作站、边缘设备和服务器，减少开发环境与生产环境行为不同的问题。团队在一台设备验证后，也更容易把同一运行方式复制到其他Ubuntu系统。
30B混合专家模型每次激活3B参数
Nemotron 3.5 Lightning采用混合专家架构，总参数规模为30B，但处理一次请求时只激活其中3B参数。与每次都调用全部参数的密集模型相比，这种设计更强调推理吞吐和持续运行效率。
该模型由NVIDIA的Nemotron 3 Ultra蒸馏而来。Canonical将它定位于高吞吐Agent工作负载，适合需要连续调用工具、处理任务队列和维护长期会话的应用。
激活参数减少不等于任何显卡都能轻松运行30B模型。模型权重、上下文缓存、并发请求和推理精度都会占用显存与系统内存，实际配置仍要根据官方支持平台和负载测试确定。
100万Token上下文面向长时间任务
Nemotron 3.5 Lightning支持最长100万Token上下文，可在一次会话中保留更多文档、工具结果和历史步骤。对持续运行的Agent来说，这有助于减少频繁压缩或重新加载上下文的次数。
长上下文并不是免费能力。输入越长，注意力计算、KV缓存、首Token等待和整体推理成本越高。生产系统通常仍需通过检索、摘要和会话分层控制真正送入模型的内容。
判断100万Token是否有价值，应看任务是否真的需要跨越大量资料和步骤。普通问答、短代码补全和简单分类任务，不会因为允许更长上下文就自动获得更高准确率。
Snap提供隔离、验证分发和自动更新
Canonical表示，Inference Snap采用受限执行环境，并通过经过验证的软件分发与自动更新降低维护复杂度。统一包管理也能减少团队各自安装不同依赖后产生的版本漂移。
自动更新适合快速获得修复，但生产环境仍要设置变更观察流程。模型版本、推理运行时或底层库发生变化时，输出行为、显存占用和性能都可能改变，关键应用需要保留回归测试。
软件包隔离也不能代替完整的服务器安全控制。模型服务对外开放后，仍需限制网络入口、API权限、工具调用范围和可访问数据，并对异常请求、Token消耗与执行结果进行监控。
一键安装不等于所有云服务器都能运行
这次更新降低了Ubuntu上安装推理环境的步骤，但Canonical只说明它面向受支持的NVIDIA平台，并没有表示普通CPU云服务器或任意显卡配置都能获得理想速度。
部署前需要核对GPU型号、显存、驱动、磁盘空间和预期并发，再用真实提示词测量首Token延迟、每秒Token数与峰值显存。长上下文和多会话并发尤其容易放大资源需求。
对已经使用Ubuntu和NVIDIA计算平台的团队，Inference Snap提供了更统一的部署入口。它最直接的价值是减少环境搭建与版本管理工作，最终能否稳定承载持续运行的Agent，仍取决于硬件规格、服务架构和运维监控。
