行业动态The Verge AI05:21
高管和政界人士对放缓AI开发有何说法
What execs and politicians are saying about slowing down AI development
Anthropic CEO 呼吁放慢AI开发,同行与政客却意见分裂,落地更难。
判断
对想保持快速迭代的前沿开发者来说,要判断的不再是放不放慢,而是哪国监管先给出可核查的硬门槛;在那之前,Anthropic 的单方面承诺不改变他们的排期。
依据
Anthropic CEO 阿莫代伊在《我们必须放缓前沿》中提出三步机制:引入可核查的第三方评估者,民主国家前沿公司就标准与限速协调,以及民主与威权政府间的全球协调,并称 Anthropic 单方面先做第一步。奥特曼、哈萨比斯、马斯克公开认同方向,奥特曼还说 OpenAI 欢迎为前沿 AI 设定一致安全要求的联邦框架;特朗普则明确反对放缓,称 AI 唯一需要的「护栏」是强势总统。机制上,这里的 pacing(给前沿开发定节奏,让进度比原本更慢)被反复界定为不停止训练,全球协调也只以「在可能范围内」为前提。第三方评估的权限、标准统一与执行成本都没落地,所以约束力不取决于认同者有多少,而取决于某国监管能否把评估写成可核查的硬门槛。
- 可核查的第三方评估者先做第一步
- 民主国家前沿公司协调限速再谈全球
- 民主与威权政府全球协调
没写清 材料没有给出任何一国的立法进度、时间表或现存硬门槛,也没说明第三方评估者由谁担任、权限多大。
下一步 可核对 Anthropic 所称的第一步,是否公布了第三方评估的执行方与具体安排。