行业动态Wired AI03:21
AI放缓实际上可以这样被强制执行
Here’s How an AI Slowdown Could Actually Be Enforced
大厂口头暂停易,防偷跑须第三方核查,执行成本高企。
判断
如果安全条款只写“支持暂停”,采购和投资会把它当可执行约束;应改成把第三方审计权限、算力阈值报告和违规取证责任写进合同与拨款条件,否则先偷跑者拿收益,守约者付成本。
依据
多伦多大学 AI 研究员 Raymond Douglas 在报告《Pacing the Frontier, A Research Agenda》中说,降速仍是未解研究问题,“我们甚至不清楚有哪些选项、它们会造成什么”。前英国 AI Security Institute 首席科学家 Geoffrey Irving 说,近期的检查与审计能起作用,甚至相互协议也够;他认为公司害怕递归自我改进循环(recursive self-improvement, RSI)和失控起飞。Control AI 负责人 Connor Leahy 则说,大厂口中的“独立评估者”常指“花钱请自己人看提示词”,审计应让 FBI 或 NSA 介入。机制上,口头暂停挡不住偷跑:前沿训练在私有数据中心用大量尖端 Nvidia GPU,外部只看发布结果,看不到权重更新、日志和算力分配;第三方评估若由被评方付费并限定提示词,红队测试无法阻止秘密继续训练。Anthropic 自报 Claude 承担其 AI 研究的 26 percent,2026 年初为 zero;安全只占 6 percent 算力预算。
- Claude 承担 Anthropic AI 研究26 percent
- 2026 年初同一占比zero at the beginning of 2026
- Anthropic 算力预算用于安全6 percent
没写清 材料没说第三方核查能拿到哪些权重、日志或算力接口,也没写违规偷跑如何取证、由谁处罚。
下一步 可核对 Anthropic 下一份披露是否由外部机构复核 Claude 承担 26 percent 研究与 6 percent 安全算力这两个数字的口径。