跳到正文

精选深读AWS Machine Learning Blog00:52

在Amazon Bedrock上推出Kimi K3

Introducing Kimi K3 on Amazon Bedrock

百万上下文加显式缓存,长文档编程可省输入成本,得绑Bedrock。

判断

对把整份代码库反复喂进上下文做补全的团队,选型顺序要改成先问缓存能否显式命中、再比上下文长度;只有调用走 Bedrock 的项目才吃得到这套,自建推理的省不下这笔输入钱。

依据

这篇 AWS Machine Learning Blog 的公告只留下标题「Introducing Kimi K3 on Amazon Bedrock」与整页产品导航,正文没有给出上下文长度、缓存计费、上架区域或价目,任何省钱幅度都无法从这里推。按常见做法,显式缓存(explicit cache,把重复出现的输入前缀存下来,后续请求直接命中,不再重复计费)省的是输入 token 的成本;长文档编程时同一份代码被反复读取,前缀重复率越高,省下的输入量越大。代价落在归属上:Bedrock 是 AWS 的模型托管通道,走它意味着调用鉴权、配额和账单都挂在 AWS 账号下,团队的采购与合规流程要跟着改;自己托管权重则不经过这条链。材料里没有任何对照组数字,只能确认上架这件事和入口在哪,不能替它算出省了多少。

没写清 材料没说缓存写入与命中分别怎么计价、最小可缓存长度是多少,也没说哪些区域先上架,所以省多少、能不能用都无从核算。

下一步 去 AWS Bedrock 定价页核对 Kimi K3 是否把缓存读取与缓存写入列成两个单价。

本期其他新闻

  1. 行业动态

    Gemini入侵三家公司,系谷歌AI已知首次突破

    Simon Willison

  2. 行业动态

    OpenAI和Microsoft知道他们正在为网络开启一个“末日循环”

    The Verge AI

  3. 行业动态

    Amazon SageMaker Inference:2026年迄今发布回顾

    AWS Machine Learning Blog

  4. 行业动态

    2026年9月18日注记

    Simon Willison

  5. 行业动态

    AI放缓实际上可以这样被强制执行

    Wired AI

  6. 行业动态

    引用Thariq Shihipar

    Simon Willison

  7. 行业动态

    弗吉尼亚州州长成立AI特别工作组,并着手限制数据中心

    The Verge AI

  8. 行业动态

    悬垂

    One Useful Thing