跳到正文

行业动态Wired AI04:30

AI 真的会把我们全部消灭吗?

Is AI Actually Going to Kill Us All?

末日论调来自前Anthropic研究员,立场先行,公众需自辨证据边界。

判断

让AI安全负责人和科技记者把前Anthropic研究员的末日警告降为公关与招聘信号,而不是直接上调安全预算或监管优先级;改动决策前须有可复核的代理失控案例或内部评估文件,否则代价是让品牌安全叙事替技术证据。

依据

前Anthropic研究员Jacob Coxon辞职后在X发帖称,建造AI的人“earnestly believe that it could kill us all by the end of the decade”(真心相信AI可能在这个十年结束前杀死所有人);Anthropic一位高级安全高管随后回应“基本上就是这么感觉”。WIRED的Will Knight提醒,Anthropic从成立起就把“AI太危险、须由我们掌控”当作卖点,所以同一套话既可能是内部风险认知,也可能是竞争定位;他把这次传播归因于AI代理开始做出越轨行为,以及OpenAI等模型能力进展,而非新概率证据。取舍在于:把辞职当证据,企业会为不可证伪的十年灭绝时间表付费;完全当噪音,又可能漏掉前沿实验室内部对代理失控的真实担忧。

  1. Coxon辞职
    发帖
  2. X帖称AI十年内灭绝人类
    回应
  3. Anthropic安全高管附和
    引述
  4. WIRED播客评估
从辞职帖到安全高管附和再到媒体评估的传播链

没写清 材料没有给出Coxon所说“earnestly believe”的研究员样本量、内部评估方法或任何可复现的代理失控事故,因此不能替他补出概率与因果链。

下一步 核对WIRED完整节目或后续报道是否公开Coxon原帖全文、附和的安全高管身份及Anthropic的正式回应。

本期其他新闻

  1. 行业动态

    OpenAI 想知道 AI 行业放缓是否合法

    Wired AI

  2. 行业动态

    Native 现已成为 Shopify 移动端的未来

    Simon Willison

  3. 行业动态

    学校开始识破 Big Tech 的套路

    The Verge AI

  4. 行业动态

    一位研究人员如何利用 Codex 和 ChatGPT 寻找新的抗菌分子

    OpenAI

  5. AI工具

    任何 Nix 包,直接在浏览器中运行

    Simon Willison

  6. AI工具

    Slack 现在可以在聊天中通过 vibe-code 生成交互式图表和报告

    The Verge AI

  7. AI工具

    在 Amazon Bedrock Knowledge Base 中使用 Marengo 3.0 进行视频和图像搜索

    AWS Machine Learning Blog