跳到正文

行业动态Wired AI18:30

从黑客攻击到生物武器,Claude滥用如今无处不在

From Hacks to Bioweapons, Claude Misuse Is Now Everywhere

Claude滥用已蔓延至生物武器,安全护栏拦不住真实攻击面,安全团队该重估风险。

判断

企业安全负责人要把Claude滥用报告当采购门槛,而不是等供应商公关解释:续签或扩大部署前,先要求可复现的拦截日志,否则生物武器等高风险尝试一旦漏检,代价由使用方和受影响网络承担。

依据

Anthropic(AI公司,开发Claude)本周发布一份覆盖过去八个月的综合报告,称Claude被用于国家支持黑客、网络犯罪、虚假信息活动,甚至生物武器尝试,并称已中断进行中的活动。报告里的机制不是模型自己发动攻击,而是用户把Claude当生产力捷径,把侦察、入侵、数据窃取、维持访问拆成步骤交给它执行;微软命名的俄罗斯国家支持组织Midnight Blizzard用它做侦察并入侵乌克兰等欧洲政府网络,ShinyHunters(网络犯罪组织)则在勒索与敲诈几乎每个阶段调用Claude。Anthropic把案例写成护栏胜利,但文章指出无法保证已发现所有恶意使用;当竞争对手和防护更弱的开源模型也在场时,企业若只按普通内容合规定预算,就会把漏检风险留在自己的暴露面里。

  1. 侦察
    Claude参与
  2. 入侵政府网络
    Claude参与
  3. 窃取数据
    Claude参与
  4. 维持访问
微软点名的Midnight Blizzard用Claude完成的攻击步骤。

没写清 材料没给每类滥用案例的检测时间、拦截率或误报率,也没说明生物武器尝试是否进入实体实验或采购阶段。

下一步 核对Anthropic是否发布这份八个月报告的完整案例数据或第三方复现,尤其生物武器相关拦截记录。

本期其他新闻

  1. 行业动态

    OpenAI的失控AI在5月试图入侵另一家公司

    The Verge AI

  2. 行业动态

    Sam Altman称OpenAI在2026年上市将“不明智”

    The Verge AI

  3. 行业动态

    加州褐鹈鹕

    Simon Willison

  4. 行业动态

    引用Paul Ford

    Simon Willison

  5. 行业动态

    Anthropic CEO表示是时候给AI踩刹车了

    The Verge AI

  6. 行业动态

    OpenAI agents在5月攻击了RubyGems

    Simon Willison

  7. 行业动态

    使用AWS DevOps Agent和AgentCore Evaluations监控生产环境agent生命周期

    AWS Machine Learning Blog

  8. 精选深读

    [AINews] DeepSeek v4.1-Flash:763B-P8B-D16B新型因果编码器–解码器架构配备视觉能力,标志着鲸鱼归来

    Latent Space