跳到正文

行业动态Wired AI

来源时间 本站刊期

即使没有AI,也有充分理由担忧生物武器的研发

There Are Plenty of Reasons to Be Concerned About Bioweapons Development—Even Without AI

不谈AI也够警醒,生物武器研发的现实风险被长期低估。

判断

这项材料把生物武器风险从“AI 滥用”子题拉回到低门槛、难防御的主风险,生物安全政策制定者该重排优先级:先堵病原体获取与现场监测,还是继续把资源押在 AI 护栏上。

依据

Annie Jacobsen 在新书《Biological War: A Scenario》中对 Michael Mechanic 说,美国国防部大规模杀伤性武器威胁谱系把核武器列在曲线最远端,生物武器排第二;她认为生物武器整体威胁最大,因为进入门槛极低。她给的机制是:制造核武器需要武器级裂变材料,还要有洲际弹道导弹或核潜艇,因此你得是国家;而承担 containment(控制扩散)的是 nine 个核武国家,潜在大流行病原体却几乎人人可及。AI 这边,Anthropic 本月公开的“滥用”报告记录 five 起外国科学家试图绕过 Claude 对 gain of function(功能获得,即改造病原体基因使其更传染、更致命或更易在哺乳动物间传播)查询的护栏,Anthropic 拒绝回答并封号,同时说明动机未必恶意。Jacobsen 还指出政府应对生物战的能力有限,原文写到我们其实防不住。

  1. 外国科学家
    发起
  2. 功能获得查询
    触发
  3. Claude 护栏
    处置
  4. Anthropic 拒绝并封号
Anthropic 报告中 five 起功能获得查询到封号的处理链

没写清 原文没有给出各国现有生物防御预算、病原体获取难度分级或拦截成功率,因此无法判断资源该从 AI 护栏移走多少。

下一步 下一步可核对:Jacobsen 书中引用的国防部大规模杀伤性武器威胁谱系文件是否能在公开渠道检索到,以及 Anthropic 那 five 起案例是否披露处置细节。

本期其他新闻

  1. 行业动态

    为什么Dwarkesh对Computer Use的看法是错的 + OpenAI如何在1周内推出其Jev竞品

    Latent Space

  2. 行业动态

    他建造了这座城市

    Simon Willison

  3. 行业动态

    AI拓麻歌子即将到来

    The Verge AI

  4. 行业动态

    以下是AI领袖们对Trump新安全计划的看法

    The Verge AI

  5. 精选深读

    Google发布Gemini 4,并称其能力过强,目前只有“受信任的网络防御者”才能使用

    The Verge AI

  6. 精选深读

    Gemini 4 Argon:我们前沿智能的下一个时代

    Google DeepMind