跳到正文

行业动态The Verge AI

来源时间 本站刊期

一位 OpenAI 安全员工已离职并发出警告

An OpenAI safety employee has quit and is sounding the alarm

写安全报告的人离职才敢说,OpenAI治理问题恐怕比监管缺位更棘手

判断

把「厂商设有内部安全报告流程」写进采购或合规加分项的人,这次该改的是这一项的证据来源:报告照发,写报告的人已经离职并公开说文化已坏,买家不加一道复核,省下的尽调时间就转由上线后承担后果的那一方付。

依据

OpenAI 安全员工 David Robinson 本周辞职,并在 The Atlantic 撰文。他此前负责撰写 OpenAI 每次主要模型发布附带的安全报告;他说行业文化「fundamentally broken」(根本上已坏),硅谷靠「extreme confidence」(极端自信)和「perpetual sprints」(永不停歇的冲刺)把模型做大,主张前沿实验室应像核电站或繁忙机场那样运行,用多层冗余和耗时的规划,让不可避免的人为失误不至于打开灾难之门。机制在于:安全报告是外界能看到的少数内部评估产物,作者离职后报告仍按同一格式发布,买家读到的文本一字不变,判断这份文本是否还代表内部真实结论的人却换了;Robinson 是这轮里最新一位,此前已有 Anthropic 的 Jacob Coxon、Joe Benton 和 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 公开离职发声。

没写清 材料没给出 Robinson 经手的最后一份安全报告写了什么,也没说他与 OpenAI 的分歧是否落在某次具体发布上。

下一步 看 The Atlantic 原文是否点名他负责的最后一次模型发布,以及 OpenAI 是否对此作出回应。

本期其他新闻

  1. 行业动态

    我们几乎需要对所有东西设置默认硬性预算上限

    Simon Willison

  2. 行业动态

    Agent 说它做完了。数据库不同意。

    Hugging Face

  3. 行业动态

    Nvidia Shield TV 已上市7年。它刚刚涨价100美元

    Wired AI

  4. 行业动态

    Splice CEO Kakul Srivastava 认为 AI 邮件正在扼杀对话

    The Verge AI

  5. 行业动态

    [AINews] 今天没发生多少事

    Latent Space

  6. 行业动态

    Rex 的恐龙商店

    Simon Willison

  7. AI工具

    Muse 为你所有朋友和家人创建详细档案

    Wired AI