行业动态Wired AI
来源时间 本站刊期
无论AI安全是什么,都不是这个
Whatever AI Safety Is, It’s Not This
让AI公司自我监管,说白了就是假装干了点事,代价是规则落空。
判断
它改变政策制定者与AI公司高管的决定:要不要继续把AI安全交给企业自愿承诺。材料用汽车安全史说明,缺少立法和执法权时,签字只是免责声明。
依据
WIRED执行编辑Brian Barrett在10月1日文章里说,让AI公司自我监管是假装有成果。特朗普当天在白宫说AI公司会做“自我监管(self-police)”,周四接受TIME采访时又称司法部(Department of Justice,DOJ)和联邦调查局(Federal Bureau of Investigation,FBI)足以充当“护栏(guardrails)”。材料把汽车安全史放在对面:1966年美国公路近51,000人死亡,国会当年设立交通部(Department of Transportation)并通过《国家交通与机动车安全法》《公路安全法》,1968年新车被要求配安全带;60年后公路流量大增,死亡人数远少。机制差别在于,汽车安全由握有执法权的联邦政府定标准,企业不自愿也躲不开;AI协议把核查留给实验室,材料说没有好办法让它们守约,中国也可能按自己路径继续。OpenAI曾因安全担忧推迟或取消最先进模型发布,但在此之前模型已卷入广泛黑客攻击,说明事后自查和事前行为之间没有闭环。
- 1966年近51,000人死于公路推动
- 国会设交通部并立法执行
- 1968年新车强制配安全带结果
- 60年后公路死亡远少
没写清 材料没说AI安全协议由谁核查、违反后有什么罚则,也没给美国AI事故的可核对数字,所以不能替它补上执行机制。
下一步 接下来核对:美国国会是否提出赋予联邦机构AI安全标准执法权的法案。