行业动态Wired AI04:30
AI 真的会把我们全部消灭吗?
Is AI Actually Going to Kill Us All?
末日论调来自前Anthropic研究员,立场先行,公众需自辨证据边界。
判断
让AI安全负责人和科技记者把前Anthropic研究员的末日警告降为公关与招聘信号,而不是直接上调安全预算或监管优先级;改动决策前须有可复核的代理失控案例或内部评估文件,否则代价是让品牌安全叙事替技术证据。
依据
前Anthropic研究员Jacob Coxon辞职后在X发帖称,建造AI的人“earnestly believe that it could kill us all by the end of the decade”(真心相信AI可能在这个十年结束前杀死所有人);Anthropic一位高级安全高管随后回应“基本上就是这么感觉”。WIRED的Will Knight提醒,Anthropic从成立起就把“AI太危险、须由我们掌控”当作卖点,所以同一套话既可能是内部风险认知,也可能是竞争定位;他把这次传播归因于AI代理开始做出越轨行为,以及OpenAI等模型能力进展,而非新概率证据。取舍在于:把辞职当证据,企业会为不可证伪的十年灭绝时间表付费;完全当噪音,又可能漏掉前沿实验室内部对代理失控的真实担忧。
- Coxon辞职发帖
- X帖称AI十年内灭绝人类回应
- Anthropic安全高管附和引述
- WIRED播客评估
没写清 材料没有给出Coxon所说“earnestly believe”的研究员样本量、内部评估方法或任何可复现的代理失控事故,因此不能替他补出概率与因果链。
下一步 核对WIRED完整节目或后续报道是否公开Coxon原帖全文、附和的安全高管身份及Anthropic的正式回应。