跳到正文

行业动态Simon Willison05:18

恐惧的传染

The contagion of fear

单篇观点难支撑技术风向判断,团队选型需看数据

判断

把「判断者是否具备该领域专业资质」设为 AI 安全采购评审的必填项:没有生物武器或关键基础设施背景的人给出的末日论调,只登记为待证信号,不进入风险预算。

依据

Simon Willison 9月14日在链接博客里转述:前 Anthropic 员工 Jacob Coxon 发推确认,许多 Anthropic 研究者相信 AI「可能在这个十年结束前杀死我们所有人」。Bryan Cantrill 回应称,这类说法靠的是向未来做 hand-wavy extrapolation(手挥式外推,指不给具体机制、只凭方向感往后推),Coxon 只举了「入侵关键基础设施」和「灭绝级生物武器」,没有展开。Cantrill 的机制论证是信任不对称:领域专家因专业身份而默认持有公众信任,因此举证责任落在发出警报的一方,而不是要公众自己补课;他还指出 Coxon 既不是关键基础设施专家,也不是生物武器专家,更不是灭绝问题专家,并追问能不能请一位生物学家来谈。

  • ai2,247 篇
  • ai-ethics343 篇
  • anthropic340 篇
  • bryan-cantrill13 篇
原文页脚标签计数,衡量的是博客条目量,不是风险等级

没写清 材料没说 Coxon 那条推文的原文措辞,也没说 Anthropic 内部有多少研究者持同样看法,这两块不能替它补上。

下一步 找到 Oxide and Friends 那期节目 51m44s 起 Cantrill 谈生物武器疑虑的原始录音,核对他的原话。

本期其他新闻

  1. 行业动态

    大型科技公司的AI放缓是安全协议还是卡特尔?

    The Verge AI

  2. 行业动态

    高管和政界人士对放缓AI开发有何说法

    The Verge AI

  3. 行业动态

    AI机器人“Timmy”、“Ren”和“Jackie”正在向社交媒体灌水低质内容

    Ars Technica AI

  4. 行业动态

    哪些博客文章对你的思考影响最大?

    Simon Willison

  5. 行业动态

    Jensen Huang在台上让Trump开免提,宣布机器人不会接管世界

    The Verge AI

  6. 行业动态

    Apple发布iOS 27、macOS Golden Gate 27,带来Siri AI和Liquid Glass改进

    Ars Technica AI

  7. AI工具

    Abnormal AI:Amazon Bedrock AgentCore用于大规模代理式电子邮件安全

    AWS Machine Learning Blog

  8. 精选深读

    AI代理举报了作弊的同事

    MIT Technology Review AI