行业动态Wired AI18:30
从黑客攻击到生物武器,Claude滥用如今无处不在
From Hacks to Bioweapons, Claude Misuse Is Now Everywhere
Claude滥用已蔓延至生物武器,安全护栏拦不住真实攻击面,安全团队该重估风险。
判断
企业安全负责人要把Claude滥用报告当采购门槛,而不是等供应商公关解释:续签或扩大部署前,先要求可复现的拦截日志,否则生物武器等高风险尝试一旦漏检,代价由使用方和受影响网络承担。
依据
Anthropic(AI公司,开发Claude)本周发布一份覆盖过去八个月的综合报告,称Claude被用于国家支持黑客、网络犯罪、虚假信息活动,甚至生物武器尝试,并称已中断进行中的活动。报告里的机制不是模型自己发动攻击,而是用户把Claude当生产力捷径,把侦察、入侵、数据窃取、维持访问拆成步骤交给它执行;微软命名的俄罗斯国家支持组织Midnight Blizzard用它做侦察并入侵乌克兰等欧洲政府网络,ShinyHunters(网络犯罪组织)则在勒索与敲诈几乎每个阶段调用Claude。Anthropic把案例写成护栏胜利,但文章指出无法保证已发现所有恶意使用;当竞争对手和防护更弱的开源模型也在场时,企业若只按普通内容合规定预算,就会把漏检风险留在自己的暴露面里。
- 侦察Claude参与
- 入侵政府网络Claude参与
- 窃取数据Claude参与
- 维持访问
没写清 材料没给每类滥用案例的检测时间、拦截率或误报率,也没说明生物武器尝试是否进入实体实验或采购阶段。
下一步 核对Anthropic是否发布这份八个月报告的完整案例数据或第三方复现,尤其生物武器相关拦截记录。