跳到正文

行业动态Wired AI

来源时间 本站刊期

特朗普的“道德约束”AI“协议”、AI Agent的崛起,以及选票上的极端主义者

Trump’s ‘Morally Binding’ AI ‘Accord,’ the Rise of AI Agents, and Extremists on the Ballot

特朗普的AI协议靠自愿签字,约束力存疑,AI Agent与极端候选人议题更需盯紧

判断

AI实验室合规负责人可把白宫协议当自查清单,但采购方不应把它当供应商准入凭证,否则等于拿自己的采购风险替签字公司背书;要准入,就在合同里另加可被第三方核验的审计底稿条款。

依据

WIRED的Brian Barrett在Uncanny Valley里说,特朗普把AI高管请到白宫后,签了一份白宫超级智能协议(White House Accord on Super Intelligence),公司同意让模型过四层管控与审计:内部评估、请外部审计公司、公司自己的董事会复核审计,但全部自愿。机制在于:外部审计公司虽进场,合同、标准和汇报对象仍是签字公司;董事会也不是独立监管者。因此协议约束的是愿意自曝问题的实验室,对签了不做的公司没有罚则。WIRED直接把它称为“fancy pinky swear”(花哨的拉勾承诺),并说AI labs will regulate themselves,即AI实验室将自我监管。采购方若拿它做准入,得到的只是公司愿意公开的审计信息,不是可强制调取的底稿。

  1. 内部评估
    送审
  2. 外部审计
    复核
  3. 董事会复核
白宫协议里可辨认的三步管控:内部评估、外部审计、董事会复核。

没写清 材料没说外部审计公司由谁选、底稿是否给监管或客户、违约有何后果,所以不能替它补出可执行罚则。

下一步 可核对白宫是否公布签署方名单、四层管控细则,以及是否有签署公司公开首份外部审计结果。

本期其他新闻

  1. 行业动态

    无论AI安全是什么,都不是这个

    Wired AI

  2. 行业动态

    永恒的互补

    OpenAI

  3. 行业动态

    Albertsons Companies如何由内而外重塑零售

    OpenAI

  4. AI工具

    使用Amazon Quick在AI构建的应用中提供实时、受治理的数据

    AWS Machine Learning Blog

  5. AI工具

    使用NVIDIA NeMo Agent Toolkit和Amazon S3 Vectors构建Agent记忆

    AWS Machine Learning Blog