来源时间 本站刊期
行业动态AWS Machine Learning Blog
使用 AWS CDK 编排 SageMaker AI 端点自动扩缩容
Orchestrating SageMaker AI endpoint auto scaling with AWS CDK
CDK 部署 SageMaker 端点需权衡自定义资源绕行与注册更新失败风险。
判断
负责 SageMaker 端点 CDK 栈的平台与 MLOps 团队必须决定:是构建并维护可复用的自定义资源构造,在更新时注销并重新注册 Application Auto Scaling,还是保留人工干预并接受实例类型、实例数量和環境变量发布失败或被阻塞。
依据
Lauren Eterno 的 AWS Machine Learning Blog 文章(2026年10月23日)称,更改 Amazon SageMaker AI 实时端点的实例类型、实例数量或环境变量会使 CloudFormation 或 AWS CDK 部署失败。机制是:SageMaker AI 要求在更新端点前注销可扩缩目标,但注销后 CloudFormation 无法跟踪 Application Auto Scaling 资源。提出的修复方案是一个可复用的 CDK 构造,使用 CloudFormation 自定义资源在端点更新期间自动注销并注册自动扩缩容,从而无需人工干预即可在一次部署中更新端点配置和自动扩缩容参数。文章指出若干故障模式取决于更改和变通方案,但摘录在列出它们之前结束。
没写清 来源未量化该构造的维护成本、部署时长、失败率,也未说明每种端点更改会出现哪些故障模式。
下一步 检查已发布构造的 CloudFormation 自定义资源代码和 IAM 权限,然后在非生产栈中测试一次实例数量更新,确认自动扩缩容已重新注册。