跳到正文

行业动态Ars Technica AI

来源时间 本站刊期

OpenAI 将默认对 ChatGPT 输出添加水印——但仅限于欧盟

OpenAI will watermark ChatGPT outputs by default—but only in the EU

欧盟用户先受水印约束,但易被绕过,防滥用作用有限。

判断

欧盟的 ChatGPT 用户会最先被默认水印覆盖;真正要改决定的是把水印当证据用的那批人——审稿、平台审核和合规核验方,不能把 textGrain 的检出结果当成单一凭据,得配人工与其他来源交叉核对。

依据

OpenAI 宣布欧盟境内 ChatGPT 输出默认带水印,其他地区默认可选、默认关闭,API 里同样默认关但可开;Ars Technica 的 Samuel Axon 把这归因于欧盟 AI Act(欧盟《人工智能法案》)对 AI 生成内容须可被工具检测的标记要求。OpenAI 的水印方法叫 textGrain(该公司自有的文本水印方法),机制是在用词选择里埋入人类读者看不出、也不明显损伤输出质量的模式,持密钥者用专用检测器才能找出,思路与已有的 SynthID、C2PA 这类内容标记标准相近。OpenAI 自己的测试显示:textGrain 检出成功率为 92 percent;改动 10 percent 文本,成功率下降 almost 30 percent;改动 20 percent 文本,下降 almost 75 percent;短文和译文的表现还更差。同一时期 Anthropic 的文本水印是全局启用,OpenAI 只在监管要求的地区设为默认。所以这是一条监管压力驱动的最低合规线,绕过成本极低,防滥用能力取决于对方是否老实。

  • textGrain 检出成功率92 percent
  • 改动 10 percent 文本后almost 30 percent
  • 改动 20 percent 文本后almost 75 percent
改动文本比例越大,textGrain 被检出的成功率掉得越快

没写清 材料没说欧盟监管方用哪种检测器、按什么频率核验,也没给 textGrain 检测器的审批名单,实际执法强度不能替它补上。

下一步 看 OpenAI 在欧盟上线后,是否公布 textGrain 检测器的开放申请入口,以及除 92 percent 之外的新检测数据。

本期其他新闻

  1. 行业动态

    使用 Parseable 配合 Datasette 处理 OpenTelemetry traces

    Simon Willison

  2. 行业动态

    《Artificial》辛辣讽刺 AI 创造者——并对其危险发出黑暗警告

    Wired AI

  3. 行业动态

    OpenAI 又惹怒了一群数学家

    Wired AI

  4. 行业动态

    Atlassian 与 OpenAI 扩大合作,将企业知识转化为行动

    OpenAI

  5. AI工具

    在 AgentCore 和 OpenClaw 上构建上下文感知的 AI 助手

    AWS Machine Learning Blog

  6. 精选深读

    EmbeddingGemma 2:一个开放、轻量的多模态嵌入模型

    Google DeepMind