来源时间 本站刊期
AI工具AWS Machine Learning Blog
AI 智能体的土拨鼠日：在 Amazon Bedrock 上使用 OpenAI 模型的提示缓存模式
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AWS称Bedrock提示缓存可降成本与延迟，但重复上下文需权衡复杂度。
判断
在 Amazon Bedrock 上构建 OpenAI 模型智能体的工程负责人必须决定，是否围绕重复的工具定义和对话记录添加提示缓存边界；只有当智能体运行足够久、能复用该前缀时，才接受额外的提示设计与失效处理工作。
依据
Claudio Mazzoni 在 AWS Machine Learning Blog 上写道，智能体每一步都会重新发送工具定义、指令、先前的工具调用和结果，因为模型在请求之间没有记忆；到第 20 轮时，模型会重读第 1–19 轮。机制是前缀复用：只有当同一较早上下文再次发送时，缓存才会减少重复的输入处理。这使权衡成为架构性的——稳定的提示片段可以缓存，但缓存感知的排序和生命周期会增加设计复杂度，而简短或快速变化的上下文几乎没有可复用内容。
没写清 来源未给出 Amazon Bedrock 上 OpenAI 模型的缓存命中率、成本节省、延迟数据、最小可缓存前缀长度或失效规则。
下一步 查阅 Bedrock 提示缓存文档中的最小可缓存前缀和 TTL，然后用稳定的工具定义块测试一个智能体工作流。