跳到正文

行业动态Wired AI03:21

AI放缓实际上可以这样被强制执行

Here’s How an AI Slowdown Could Actually Be Enforced

大厂口头暂停易,防偷跑须第三方核查,执行成本高企。

判断

如果安全条款只写“支持暂停”,采购和投资会把它当可执行约束;应改成把第三方审计权限、算力阈值报告和违规取证责任写进合同与拨款条件,否则先偷跑者拿收益,守约者付成本。

依据

多伦多大学 AI 研究员 Raymond Douglas 在报告《Pacing the Frontier, A Research Agenda》中说,降速仍是未解研究问题,“我们甚至不清楚有哪些选项、它们会造成什么”。前英国 AI Security Institute 首席科学家 Geoffrey Irving 说,近期的检查与审计能起作用,甚至相互协议也够;他认为公司害怕递归自我改进循环(recursive self-improvement, RSI)和失控起飞。Control AI 负责人 Connor Leahy 则说,大厂口中的“独立评估者”常指“花钱请自己人看提示词”,审计应让 FBI 或 NSA 介入。机制上,口头暂停挡不住偷跑:前沿训练在私有数据中心用大量尖端 Nvidia GPU,外部只看发布结果,看不到权重更新、日志和算力分配;第三方评估若由被评方付费并限定提示词,红队测试无法阻止秘密继续训练。Anthropic 自报 Claude 承担其 AI 研究的 26 percent,2026 年初为 zero;安全只占 6 percent 算力预算。

  • Claude 承担 Anthropic AI 研究26 percent
  • 2026 年初同一占比zero at the beginning of 2026
  • Anthropic 算力预算用于安全6 percent
Anthropic 自报的 Claude 研究占比与安全算力占比

没写清 材料没说第三方核查能拿到哪些权重、日志或算力接口,也没写违规偷跑如何取证、由谁处罚。

下一步 可核对 Anthropic 下一份披露是否由外部机构复核 Claude 承担 26 percent 研究与 6 percent 安全算力这两个数字的口径。

本期其他新闻

  1. 行业动态

    Gemini入侵三家公司,系谷歌AI已知首次突破

    Simon Willison

  2. 行业动态

    OpenAI和Microsoft知道他们正在为网络开启一个“末日循环”

    The Verge AI

  3. 行业动态

    Amazon SageMaker Inference:2026年迄今发布回顾

    AWS Machine Learning Blog

  4. 行业动态

    2026年9月18日注记

    Simon Willison

  5. 行业动态

    引用Thariq Shihipar

    Simon Willison

  6. 行业动态

    弗吉尼亚州州长成立AI特别工作组,并着手限制数据中心

    The Verge AI

  7. 行业动态

    悬垂

    One Useful Thing

  8. 精选深读

    在Amazon Bedrock上推出Kimi K3

    AWS Machine Learning Blog