跳到正文

AI工具The Verge AI

来源时间 本站刊期

Anthropic为开源项目推出免费AI安全扫描

Anthropic launches free AI security scans for open-source projects

开源项目可免费获Anthropic定期扫描,代价是报告纯模型生成无人工复核

判断

开源维护者现在要定的是:要不要把仓库选进 OSS Scanner。免费扫描换来的是没人分诊的模型报告,接之前得先有能处理这批告警的人,否则预警直接变成积压。

依据

《The Verge》的 Stevie Bonifield 在 10月8日 的报道中引 Anthropic 的话:主动选入(opt-in)的开源项目可免费获得「由我们最强模型进行的彻底、定期安全扫描」,模型包括 Claude Mythos。机制是 OSS Scanner(OSS 指开源软件)产出的报告全部由模型生成,不经人工复核或分诊(triage,即判断哪条告警值得跟进的环节),所以扫描能更快更频繁,报告也可能错误或无效。材料自己给的对照是两件事同时成立:AI 找到过实打实的漏洞,「Copy Fail」在 5月 波及几乎每一个 Linux 发行版;而 Linus Torvalds 和 Google 也正在应付 AI 生成漏洞报告的涌入。

没写清 材料没给扫描频率、单项目报告数量和误报率,所以没法算出维护者这边要额外分诊多少条。

下一步 下一步可核对 Anthropic 是否公布 OSS Scanner 的扫描频率与误报数据,或首批选入项目披露的报告量。

本期其他新闻

  1. 行业动态

    [AINews] 今天没发生什么大事

    Latent Space

  2. 行业动态

    引用卡森·格罗斯

    Simon Willison

  3. 行业动态

    她设计了Meta的新AI标志。然后仇恨来了

    Wired AI

  4. 行业动态

    USA Today成为最新一家起诉OpenAI的出版商

    The Verge AI

  5. 行业动态

    合成超智能:从半导体到超导体——Periodic Labs的Liam Fedus和Ekin Dogus Cubuk

    Latent Space

  6. AI工具

    Oracle如何借助ChatGPT和Codex将数天的工作变成几分钟

    OpenAI