行业动态Wired AI
来源时间 本站刊期
即使没有AI,也有充分理由担忧生物武器的研发
There Are Plenty of Reasons to Be Concerned About Bioweapons Development—Even Without AI
不谈AI也够警醒,生物武器研发的现实风险被长期低估。
判断
这项材料把生物武器风险从“AI 滥用”子题拉回到低门槛、难防御的主风险,生物安全政策制定者该重排优先级:先堵病原体获取与现场监测,还是继续把资源押在 AI 护栏上。
依据
Annie Jacobsen 在新书《Biological War: A Scenario》中对 Michael Mechanic 说,美国国防部大规模杀伤性武器威胁谱系把核武器列在曲线最远端,生物武器排第二;她认为生物武器整体威胁最大,因为进入门槛极低。她给的机制是:制造核武器需要武器级裂变材料,还要有洲际弹道导弹或核潜艇,因此你得是国家;而承担 containment(控制扩散)的是 nine 个核武国家,潜在大流行病原体却几乎人人可及。AI 这边,Anthropic 本月公开的“滥用”报告记录 five 起外国科学家试图绕过 Claude 对 gain of function(功能获得,即改造病原体基因使其更传染、更致命或更易在哺乳动物间传播)查询的护栏,Anthropic 拒绝回答并封号,同时说明动机未必恶意。Jacobsen 还指出政府应对生物战的能力有限,原文写到我们其实防不住。
- 外国科学家发起
- 功能获得查询触发
- Claude 护栏处置
- Anthropic 拒绝并封号
没写清 原文没有给出各国现有生物防御预算、病原体获取难度分级或拦截成功率,因此无法判断资源该从 AI 护栏移走多少。
下一步 下一步可核对:Jacobsen 书中引用的国防部大规模杀伤性武器威胁谱系文件是否能在公开渠道检索到,以及 Anthropic 那 five 起案例是否披露处置细节。