来源时间 本站刊期
精选深读Latent Space
Anthropic 如何安全交付全球第一的 LLM:分离大脑与双手
How Anthropic ships the #1 LLM in the World safely: Separating the Brain from the Hands
Anthropic 拆分 Opus 5.5 推理与智能体工具,权衡安全与自主权。
判断
评估 Claude Managed Agents 的平台与安全团队,现在要决定给执行框架多少凭证范围和网络访问权,因为 Anthropic 将大脑与双手分离,把隔离负担推到他们自己的沙箱与信任授予配置上,而非模型本身。
依据
在 Latent Space(107 分钟)节目中,Katelyn Lesse 与 Angela Jiang 解释了 Opus 5.5 发布背后的 Claude Platform 拆分:模型仍是“大脑”,而执行框架与沙箱充当“双手”,隔离、凭证和网络控制构成隔离层。节目说明中的机制是解耦大脑、执行框架与沙箱,使托管智能体的工具调用在限定授权下运行,而非依赖模型级信任;该集还谈到用 Rust 重建 Messages API(56:05)以及安全分类器加模型路由(1:12:25)作为生产手段,信任授予在 26:25,模型发布门控在 30:25。所述收益是可靠的长时运行智能体;成本则落在必须在上线前定义这些授权和沙箱边界的人身上。
- 模型(大脑)tool calls
- 执行框架executes
- 沙箱scoped access
- 凭证
没写清 来源未给出隔离相关数字:没有沙箱逃逸或事故率,没有隔离带来的延迟或成本代价,也没有 Opus 5.5 的定价数字,尽管在 7:30 提到了定价。
下一步 阅读 Anthropic 的 “How Anthropic contains Claude” 和 “Scaling Managed Agents” 说明,并检查凭证范围控制是按工具执行,还是仅按会话执行。