用心打造
VPS知识分享网站

SageMaker训练任务现在可以按优先级选择多组实例

AWS在2026年9月15日为Amazon SageMaker训练和处理任务推出实例偏好列表。用户可以在一次作业提交中写入多组实例类型与数量,服务会按照优先级选择最先具备容量的配置。

这一能力主要解决热门GPU实例短缺时反复修改作业和手动重试的问题。团队可以预先定义可接受的替代组合,同时继续通过同一套作业配置管理数据、容器和输出。

SageMaker从多组GPU实例配置中选择可用容量的示意图

一个作业可以携带多组候选配置

偏好列表中的每一项由实例类型和实例数量共同组成。例如,用户可以优先请求2台ml.g6.48xlarge,容量不足时再尝试4台ml.g5.48xlarge,而不必重新创建作业。

候选项是完整的资源组合,不是只替换实例名称。实例数量变化会影响分布式训练拓扑、总GPU数量和成本估算,列表中的每一组都需要经过应用兼容性验证。

SageMaker按顺序选择首个可用组合

服务会根据用户给出的顺序检查容量,并使用第一个可用配置启动训练或处理任务。AWS表示,这能减少高需求GPU场景中的手动重试,并提高作业尽快开始的机会。

偏好列表提高的是容量匹配机会,不是启动时间保证。区域内所有候选类型都紧张时,作业仍可能等待或失败,关键任务应继续设置监控、超时和失败通知。

按需实例与Flexible Training Plans都可使用

同一提交可以选择按需容量,也可以使用预留的SageMaker Flexible Training Plans。后者用于在计划时间窗口内获得训练容量,适合能够接受排期、但希望提高资源确定性的工作负载。

两种容量模式的采购和时间约束不同。选择前应核对预算、允许的启动窗口和作业期限,不能把Flexible Training Plans理解为普通按需实例的无条件替代品。

替代实例仍要满足训练代码要求

不同GPU家族可能具有不同显存、互联方式和驱动支持,实例数量变化也会改变数据并行参数。镜像、框架版本、批量大小、检查点恢复和分布式启动配置都需要覆盖全部候选项。

只有能够产生等价训练结果的组合才应进入偏好列表。团队应先用小规模任务验证每个候选项,并把性能、精度和成本差异纳入作业验收标准。

功能已覆盖SageMaker现有区域与入口

AWS说明,该功能在Amazon SageMaker可用的所有AWS区域上线,并可通过控制台、命令行、API和SDK使用。现有自动化可以逐步加入候选配置,而无需另建独立的重试编排器。

上线验收应确认实际启动的实例组合、作业状态、训练输出和成本标签均可追踪。如果下游系统假定固定实例数量,还应同步更新容量报表和运行时告警规则。

赞(0)
未经允许不得转载;国外VPS测评网 » SageMaker训练任务现在可以按优先级选择多组实例
分享到