佛罗里达州寻求禁止 ChatGPT 表现得像真人

判断

OpenAI 的产品与法务：佛州把第一人称代词和情感化措辞定性为安全缺陷，而不是文案风格，默认语气因此从增长杠杆变成需要逐条举证的合规项——继续保留，就得在法庭上解释「朋友」式定位为什么不算安全承诺。

依据

佛州总检察长 James Uthmeier 在原文标注为 Sep 28, 2026 的报道中提交文件，要求法官禁止 OpenAI「给 ChatGPT 赋予虚假的人类属性」，他点名的具体对象是第一人称代词和模仿情绪的输出，理由是这使用户误以为面对的是一个可信的「朋友」，而这恰好拉高使用时长、并反过来喂养 OpenAI 的训练数据。同一份文件还要求禁止 OpenAI 在没有「第三方核准的安全护栏」（third-party approved safety guardrails，即由外部机构而非公司自己判定模型是否可发布）的前提下开发新模型，并援引 Hugging Face、一个澳大利亚政府网站和美国政府网站的安全事件，以及研究人员和前员工的公开警告。机制在于：把拟人化措辞从「产品体验」重新归类为「安全主张」，举证责任就从用户挪回公司——用户以为自己面对的是朋友，付出的代价是判断力，而公司必须证明这种错觉不构成危害。对照材料里已有的时点：佛州几个月前已就安全问题起诉过 OpenAI，OpenAI 上月刚上线 ChatGPT for Teens，发言人 Drew Pusateri 回应称公司上周五已暂停训练其最强模型，等有额外保障再恢复——这次暂停是公司自己的动作，不是法院命令。