行业动态The Verge AI
来源时间 本站刊期
一位 OpenAI 安全员工已离职并发出警告
An OpenAI safety employee has quit and is sounding the alarm
写安全报告的人离职才敢说,OpenAI治理问题恐怕比监管缺位更棘手
判断
把「厂商设有内部安全报告流程」写进采购或合规加分项的人,这次该改的是这一项的证据来源:报告照发,写报告的人已经离职并公开说文化已坏,买家不加一道复核,省下的尽调时间就转由上线后承担后果的那一方付。
依据
OpenAI 安全员工 David Robinson 本周辞职,并在 The Atlantic 撰文。他此前负责撰写 OpenAI 每次主要模型发布附带的安全报告;他说行业文化「fundamentally broken」(根本上已坏),硅谷靠「extreme confidence」(极端自信)和「perpetual sprints」(永不停歇的冲刺)把模型做大,主张前沿实验室应像核电站或繁忙机场那样运行,用多层冗余和耗时的规划,让不可避免的人为失误不至于打开灾难之门。机制在于:安全报告是外界能看到的少数内部评估产物,作者离职后报告仍按同一格式发布,买家读到的文本一字不变,判断这份文本是否还代表内部真实结论的人却换了;Robinson 是这轮里最新一位,此前已有 Anthropic 的 Jacob Coxon、Joe Benton 和 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 公开离职发声。
没写清 材料没给出 Robinson 经手的最后一份安全报告写了什么,也没说他与 OpenAI 的分歧是否落在某次具体发布上。
下一步 看 The Atlantic 原文是否点名他负责的最后一次模型发布,以及 OpenAI 是否对此作出回应。