行业动态MIT Technology Review AI01:47
圆桌讨论:AI 真的会杀死我们所有人吗?
Roundtables: Could AI really kill us all?
顶尖AI实验室员工自己担心灭绝,这比外界质疑更值得听内部理由。
判断
给写AI风险预案的治理与安全负责人:这场圆桌不给概率也不给证据链,别把它当立项依据。要定的是——把顶尖实验室员工自己的担忧按岗位利益折算之后,还剩多少可以采信。
依据
MIT Technology Review这场圆桌提出的重点不是“AI可能灭绝人类”这个结论,而是提出者身份:顶尖AI实验室的员工自己担心灭绝。编辑部把讨论落在三处:这种担忧从何而来、是否站得住脚、若成立该做什么。机制在位置——最接近模型训练与部署的人,可能比外部更早看到能力边界,但同一批人的结论也牵动自己的岗位评价与项目预算,所以担忧的信息含量高,方向却可能被激励结构扭曲。原文没有给出任何具体风险概率或技术证据链,因此内部人身份提高的是这条线索的可听度,不是风险门槛的可验证度。
没写清 材料没有说明这些员工所依据的具体失效路径、涉及哪些岗位或多少人,也没有量化门槛,所以无法替它补上“担忧是否成立”这一步。
下一步 下一步只核对一件事:原始圆桌记录里是否出现任何具体风险路径或量化门槛;若没有,就不要把它填进内部风险评估的证据栏。