跳到正文

行业动态The Verge AI05:21

高管和政界人士对放缓AI开发有何说法

What execs and politicians are saying about slowing down AI development

Anthropic CEO 呼吁放慢AI开发,同行与政客却意见分裂,落地更难。

判断

对想保持快速迭代的前沿开发者来说,要判断的不再是放不放慢,而是哪国监管先给出可核查的硬门槛;在那之前,Anthropic 的单方面承诺不改变他们的排期。

依据

Anthropic CEO 阿莫代伊在《我们必须放缓前沿》中提出三步机制:引入可核查的第三方评估者,民主国家前沿公司就标准与限速协调,以及民主与威权政府间的全球协调,并称 Anthropic 单方面先做第一步。奥特曼、哈萨比斯、马斯克公开认同方向,奥特曼还说 OpenAI 欢迎为前沿 AI 设定一致安全要求的联邦框架;特朗普则明确反对放缓,称 AI 唯一需要的「护栏」是强势总统。机制上,这里的 pacing(给前沿开发定节奏,让进度比原本更慢)被反复界定为不停止训练,全球协调也只以「在可能范围内」为前提。第三方评估的权限、标准统一与执行成本都没落地,所以约束力不取决于认同者有多少,而取决于某国监管能否把评估写成可核查的硬门槛。

  1. 可核查的第三方评估者
    先做第一步
  2. 民主国家前沿公司协调限速
    再谈全球
  3. 民主与威权政府全球协调
阿莫代伊的三步放缓机制:评估者、前沿公司协调、政府间协调

没写清 材料没有给出任何一国的立法进度、时间表或现存硬门槛,也没说明第三方评估者由谁担任、权限多大。

下一步 可核对 Anthropic 所称的第一步,是否公布了第三方评估的执行方与具体安排。

本期其他新闻

  1. 行业动态

    大型科技公司的AI放缓是安全协议还是卡特尔?

    The Verge AI

  2. 行业动态

    恐惧的传染

    Simon Willison

  3. 行业动态

    AI机器人“Timmy”、“Ren”和“Jackie”正在向社交媒体灌水低质内容

    Ars Technica AI

  4. 行业动态

    哪些博客文章对你的思考影响最大?

    Simon Willison

  5. 行业动态

    Jensen Huang在台上让Trump开免提,宣布机器人不会接管世界

    The Verge AI

  6. 行业动态

    Apple发布iOS 27、macOS Golden Gate 27,带来Siri AI和Liquid Glass改进

    Ars Technica AI

  7. AI工具

    Abnormal AI:Amazon Bedrock AgentCore用于大规模代理式电子邮件安全

    AWS Machine Learning Blog

  8. 精选深读

    AI代理举报了作弊的同事

    MIT Technology Review AI