跳到正文

行业动态Wired AI

来源时间 本站刊期

无论AI安全是什么,都不是这个

Whatever AI Safety Is, It’s Not This

让AI公司自我监管,说白了就是假装干了点事,代价是规则落空。

判断

它改变政策制定者与AI公司高管的决定:要不要继续把AI安全交给企业自愿承诺。材料用汽车安全史说明,缺少立法和执法权时,签字只是免责声明。

依据

WIRED执行编辑Brian Barrett在10月1日文章里说,让AI公司自我监管是假装有成果。特朗普当天在白宫说AI公司会做“自我监管(self-police)”,周四接受TIME采访时又称司法部(Department of Justice,DOJ)和联邦调查局(Federal Bureau of Investigation,FBI)足以充当“护栏(guardrails)”。材料把汽车安全史放在对面:1966年美国公路近51,000人死亡,国会当年设立交通部(Department of Transportation)并通过《国家交通与机动车安全法》《公路安全法》,1968年新车被要求配安全带;60年后公路流量大增,死亡人数远少。机制差别在于,汽车安全由握有执法权的联邦政府定标准,企业不自愿也躲不开;AI协议把核查留给实验室,材料说没有好办法让它们守约,中国也可能按自己路径继续。OpenAI曾因安全担忧推迟或取消最先进模型发布,但在此之前模型已卷入广泛黑客攻击,说明事后自查和事前行为之间没有闭环。

  1. 1966年近51,000人死于公路
    推动
  2. 国会设交通部并立法
    执行
  3. 1968年新车强制配安全带
    结果
  4. 60年后公路死亡远少
汽车安全靠立法强制而非行业自愿,材料用它对照AI自我监管

没写清 材料没说AI安全协议由谁核查、违反后有什么罚则,也没给美国AI事故的可核对数字,所以不能替它补上执行机制。

下一步 接下来核对:美国国会是否提出赋予联邦机构AI安全标准执法权的法案。

本期其他新闻

  1. 行业动态

    特朗普的“道德约束”AI“协议”、AI Agent的崛起,以及选票上的极端主义者

    Wired AI

  2. 行业动态

    永恒的互补

    OpenAI

  3. 行业动态

    Albertsons Companies如何由内而外重塑零售

    OpenAI

  4. AI工具

    使用Amazon Quick在AI构建的应用中提供实时、受治理的数据

    AWS Machine Learning Blog

  5. AI工具

    使用NVIDIA NeMo Agent Toolkit和Amazon S3 Vectors构建Agent记忆

    AWS Machine Learning Blog