来源时间 本站刊期
行业动态Wired AI
免费中国AI模型在黑客攻击上强得吓人
Free Chinese AI Models Are Getting Scary Good at Hacking
DeepSeek与GLM媲美OpenAI网络模型,攻防双方得廉价能力,准入无共识
判断
CISO应决定是否将开源权重模型标准化用于漏洞搜寻,每次攻击2至3美元,而GPT-6-Sol为17至46美元,并接受攻击者可下载同样能力;代价是以更广扩散换取更廉价防御。
依据
Vals在两个模拟企业网络上测试AI模型。Nikil Ravi说,最好的闭源前沿模型“现在开始被任何人都能下载的开源模型追平”。OpenAI的Daybreak平均完成81%的任务;DeepSeek完成73%,有些任务持平。Vals称,GPT-6-Sol攻击token成本为17至46美元,而DeepSeek为2至3美元,因为开源模型可在自有硬件上运行。CEO Rayan Krishnan说,这一成本差距激励防御者使用开源模型。机制是:如果开源权重在网络安全能力上追平闭源,限制发布只会延迟访问;同样的模型权重可以下载并在本地运行,因此防御者和攻击者以更低成本面对相近能力。Anthropic的Logan Graham曾主张,限制访问为防御者争取时间;Alex Zenla提醒,闭源实验室可能有超过开源模型的未发布模型,并称这是一场猫鼠游戏。
- Daybreak任务完成率81 percent
- DeepSeek任务完成率73 percent
- GPT-6-Sol攻击成本$17 to $46
- DeepSeek攻击成本$2 to $3
没写清 来源未说明所测开源权重模型是否禁用了安全训练(abliterated),也未说明现实攻击者使用DeepSeek或GLM而非较旧模型的频率。
下一步 关注Vals或其他评估者是否发布后续测试,纳入abliterated开源权重模型和现实事件数据,以便用攻击者行为检验能力持平的说法。