行业动态Simon Willison05:18
恐惧的传染
The contagion of fear
单篇观点难支撑技术风向判断,团队选型需看数据
判断
把「判断者是否具备该领域专业资质」设为 AI 安全采购评审的必填项:没有生物武器或关键基础设施背景的人给出的末日论调,只登记为待证信号,不进入风险预算。
依据
Simon Willison 9月14日在链接博客里转述:前 Anthropic 员工 Jacob Coxon 发推确认,许多 Anthropic 研究者相信 AI「可能在这个十年结束前杀死我们所有人」。Bryan Cantrill 回应称,这类说法靠的是向未来做 hand-wavy extrapolation(手挥式外推,指不给具体机制、只凭方向感往后推),Coxon 只举了「入侵关键基础设施」和「灭绝级生物武器」,没有展开。Cantrill 的机制论证是信任不对称:领域专家因专业身份而默认持有公众信任,因此举证责任落在发出警报的一方,而不是要公众自己补课;他还指出 Coxon 既不是关键基础设施专家,也不是生物武器专家,更不是灭绝问题专家,并追问能不能请一位生物学家来谈。
- ai2,247 篇
- ai-ethics343 篇
- anthropic340 篇
- bryan-cantrill13 篇
没写清 材料没说 Coxon 那条推文的原文措辞,也没说 Anthropic 内部有多少研究者持同样看法,这两块不能替它补上。
下一步 找到 Oxide and Friends 那期节目 51m44s 起 Cantrill 谈生物武器疑虑的原始录音,核对他的原话。