精选深读AWS Machine Learning Blog00:52
在Amazon Bedrock上推出Kimi K3
Introducing Kimi K3 on Amazon Bedrock
百万上下文加显式缓存,长文档编程可省输入成本,得绑Bedrock。
判断
对把整份代码库反复喂进上下文做补全的团队,选型顺序要改成先问缓存能否显式命中、再比上下文长度;只有调用走 Bedrock 的项目才吃得到这套,自建推理的省不下这笔输入钱。
依据
这篇 AWS Machine Learning Blog 的公告只留下标题「Introducing Kimi K3 on Amazon Bedrock」与整页产品导航,正文没有给出上下文长度、缓存计费、上架区域或价目,任何省钱幅度都无法从这里推。按常见做法,显式缓存(explicit cache,把重复出现的输入前缀存下来,后续请求直接命中,不再重复计费)省的是输入 token 的成本;长文档编程时同一份代码被反复读取,前缀重复率越高,省下的输入量越大。代价落在归属上:Bedrock 是 AWS 的模型托管通道,走它意味着调用鉴权、配额和账单都挂在 AWS 账号下,团队的采购与合规流程要跟着改;自己托管权重则不经过这条链。材料里没有任何对照组数字,只能确认上架这件事和入口在哪,不能替它算出省了多少。
没写清 材料没说缓存写入与命中分别怎么计价、最小可缓存长度是多少,也没说哪些区域先上架,所以省多少、能不能用都无从核算。
下一步 去 AWS Bedrock 定价页核对 Kimi K3 是否把缓存读取与缓存写入列成两个单价。