跳到正文

2026年10月02日AI 版

6 条 · 3 个来源

头版

无论AI安全是什么,都不是这个

行业动态Wired AI

无论AI安全是什么,都不是这个
让AI公司自我监管,说白了就是假装干了点事,代价是规则落空。

它改变政策制定者与AI公司高管的决定:要不要继续把AI安全交给企业自愿承诺。材料用汽车安全史说明,缺少立法和执法权时,签字只是免责声明。

展开全文

依据

WIRED执行编辑Brian Barrett在10月1日文章里说,让AI公司自我监管是假装有成果。特朗普当天在白宫说AI公司会做“自我监管(self-police)”,周四接受TIME采访时又称司法部(Department of Justice,DOJ)和联邦调查局(Federal Bureau of Investigation,FBI)足以充当“护栏(guardrails)”。材料把汽车安全史放在对面:1966年美国公路近51,000人死亡,国会当年设立交通部(Department of Transportation)并通过《国家交通与机动车安全法》《公路安全法》,1968年新车被要求配安全带;60年后公路流量大增,死亡人数远少。机制差别在于,汽车安全由握有执法权的联邦政府定标准,企业不自愿也躲不开;AI协议把核查留给实验室,材料说没有好办法让它们守约,中国也可能按自己路径继续。OpenAI曾因安全担忧推迟或取消最先进模型发布,但在此之前模型已卷入广泛黑客攻击,说明事后自查和事前行为之间没有闭环。

  1. 1966年近51,000人死于公路
    推动
  2. 国会设交通部并立法
    执行
  3. 1968年新车强制配安全带
    结果
  4. 60年后公路死亡远少
汽车安全靠立法强制而非行业自愿,材料用它对照AI自我监管

没写清 材料没说AI安全协议由谁核查、违反后有什么罚则,也没给美国AI事故的可核对数字,所以不能替它补上执行机制。

下一步 接下来核对:美国国会是否提出赋予联邦机构AI安全标准执法权的法案。

行业动态

3 条

  1. 特朗普的“道德约束”AI“协议”、AI Agent的崛起,以及选票上的极端主义者

    行业动态Wired AI

    特朗普的“道德约束”AI“协议”、AI Agent的崛起,以及选票上的极端主义者
    特朗普的AI协议靠自愿签字,约束力存疑,AI Agent与极端候选人议题更需盯紧

    AI实验室合规负责人可把白宫协议当自查清单,但采购方不应把它当供应商准入凭证,否则等于拿自己的采购风险替签字公司背书;要准入,就在合同里另加可被第三方核验的审计底稿条款。

    展开全文

    依据

    WIRED的Brian Barrett在Uncanny Valley里说,特朗普把AI高管请到白宫后,签了一份白宫超级智能协议(White House Accord on Super Intelligence),公司同意让模型过四层管控与审计:内部评估、请外部审计公司、公司自己的董事会复核审计,但全部自愿。机制在于:外部审计公司虽进场,合同、标准和汇报对象仍是签字公司;董事会也不是独立监管者。因此协议约束的是愿意自曝问题的实验室,对签了不做的公司没有罚则。WIRED直接把它称为“fancy pinky swear”(花哨的拉勾承诺),并说AI labs will regulate themselves,即AI实验室将自我监管。采购方若拿它做准入,得到的只是公司愿意公开的审计信息,不是可强制调取的底稿。

    1. 内部评估
      送审
    2. 外部审计
      复核
    3. 董事会复核
    白宫协议里可辨认的三步管控:内部评估、外部审计、董事会复核。

    没写清 材料没说外部审计公司由谁选、底稿是否给监管或客户、违约有何后果,所以不能替它补出可执行罚则。

    下一步 可核对白宫是否公布签署方名单、四层管控细则,以及是否有签署公司公开首份外部审计结果。

  2. 行业动态OpenAI

    永恒的互补
    OpenAI称常规执行工最受益于先进AI,落地价值在补位而非颠覆。

    把先进 AI 先配给常规执行岗,代价是创意岗的算力排期后移,这笔账由提出想法的人先付;研发负责人必须在返工率与创意产出之间指定先考核哪一个。

    展开全文

    依据

    OpenAI 在《The eternal complement》里给出的判断只有一句:先进 AI 可能对突破性想法背后的常规工作(routine work,即重复性执行环节)最有用,执行因此会决定下一轮经济的节奏与进展速度。它的机制是把 AI 当互补品(complement,即补位而非替换):补的是重复环节,不是提出问题的人,所以受益面落在执行岗而不是创意岗。材料没有给任何可对照的数字——执行岗与创意岗的产出差、时间差、成本差都没有,优先级只能由各团队自己的返工率和交付周期测出来,不能从这句话直接推。

    没写清 材料没有界定「常规工作」具体是哪些岗位或环节,也没有给出任何可对照的产出数据,所以无法替它决定谁该先拿到算力。

    下一步 下一步核对:OpenAI 是否公布执行岗与创意岗在交付周期或返工率上的对照数据。

  3. 行业动态OpenAI

    Albertsons Companies如何由内而外重塑零售
    同事可参考其落地路径,但门店数字化改造成本不低。

    艾伯森把 ChatGPT Enterprise 与 OpenAI API 同时压到内部协作和顾客购物两端的这一步,改变的是零售 IT 与门店运营两边预算审批人的取舍:他们得先答这套东西是替换现有系统,还是叠在原有系统之上再加一层成本。

    展开全文

    依据

    艾伯森公司(Albertsons Cos.)对外说的是,它用 ChatGPT Enterprise 和 OpenAI API 让团队干得更快,也让数百万顾客买菜更容易。这里两个英文词指的是两件事:ChatGPT Enterprise 是企业版 ChatGPT,公司给员工统一开账号、数据和权限归企业管理;OpenAI API 是接口,让企业把自己的系统直接接到模型上,不必让员工手动复制粘贴。这两条路径的机制不同:一条改的是内部员工的动作,一条改的是顾客在店内外接触到的流程。原文只给了「团队更快」和「数百万顾客」两个方向,没有给门店数、上线时间、节省工时或投入金额,因此它落地的真实代价目前无法从材料里算出来。

    没写清 材料没有说改造成本、改造门店数量,也没说这套工具是替换原有系统还是与之并行,所以谁承担这笔钱、承担多少都无从判断。

    下一步 下一步可核对的是:OpenAI 或艾伯森是否公布参与改造的门店数量与上线时间表。

AI工具

2 条

  1. AI工具AWS Machine Learning Blog

    使用Amazon Quick在AI构建的应用中提供实时、受治理的数据
    按查看者身份逐行套权限,省去快照重建,但需先接入Quick Sight数据集

    做内部应用的产品和数据分析团队:行级权限改在查看时按身份套用之后,不必再为每类受众各做一份快照,代价是必须先把指标落进 Quick Sight 数据集,否则应用展示的仍是发布时冻结的数字。

    展开全文

    依据

    AWS Machine Learning Blog 上,Wei Kuo、Vetri Natarajan、Kevin Page、Salim Khan 在 2026年10月1日的技术文章里说,Quick Apps 早就能把实时数据带进应用:action connectors(Jira、Slack、Google Drive 这类外部服务连接器)、Spaces 文档、网页搜索、AI 推理都在查看时运行,也就是用户打开应用的那一刻,而不是构建时。这次新引入的是来自数据湖、数据库和其他分析数据存储的结构化实时数据。此前卡住的点是治理口径:SPICE 与 Direct Query 两类承载业务指标的表,材料说它们不能从应用里被实时查询,应用展示的数据集数字是智能体构建时烘焙进去的,等于发布时冻结的一张快照。静态报表够用,但一旦应用要让指标反映今天的数据、又要尊重谁被允许看哪些行,快照就撑不住。

    1. 用自然语言描述应用
      构建
    2. 智能体构建应用
      发布时冻结
    3. 数据集数字烘焙冻结
      改为实时
    4. 查看时按身份实时取数
    从描述应用、智能体构建,到数据集数字被冻结,再改为按查看者实时取数。

    没写清 材料没说接入 Quick Sight 数据集需要哪些权限与配置、Direct Query 场景的查询延迟如何,也没说行级权限在应用里由哪一层判定。

    下一步 拿一个已有的 SPICE 数据集接进一个只读应用,用两个权限不同的账号打开同一个应用,核对返回的行是否不同。

  2. AI工具AWS Machine Learning Blog

    使用NVIDIA NeMo Agent Toolkit和Amazon S3 Vectors构建Agent记忆
    想省自建向量库的团队可看:NAT记忆层可换成S3 Vectors。

    这改变的是准备给多智能体加记忆的团队:决定点从「要不要自建向量库」挪到「记忆层由谁运维」。选 S3 Vectors 是把语义检索、元数据、一致性和扩缩容四项交给托管,选自建就自己担这四项,另外还得有人维护这套 EKS 集群。

    展开全文

    依据

    作者 Venkata Sistla 在 AWS Machine Learning Blog 2026年10月1日的文章里,把上一期的架构讨论推进到实现。NVIDIA NeMo Agent Toolkit(NAT,英伟达的开源智能体框架)自带 memory subsystem(记忆子系统);这次的做法是照它的接口实现一个 custom memory provider(自定义记忆提供方),把 Amazon S3 Vectors(Amazon S3 上提供语义检索的能力)接到这个位置上当 persistent memory layer(持久记忆层),整套再部署到 Amazon EKS(AWS 的托管 Kubernetes 服务)上以获得完整运维控制权,示例是多智能体投资研究。机制上的取舍在于:语义检索、丰富元数据、强一致性和弹性扩缩容原本要团队自己搭,现在改由 S3 Vectors 承担;代价是记忆读写进入 AWS 账号与权限边界,不再由自己掌控。

    1. NAT 记忆子系统
      实现接口
    2. 自定义记忆提供方
      读写后端
    3. S3 Vectors 记忆层
      部署运行
    4. EKS 上的投研用例
    从 NAT 记忆子系统接出自定义提供方,后端指向 S3 Vectors,再落到 EKS 上跑投研用例。

    没写清 材料没给任何实测值:记忆检索延迟、单次写入成本、并发下的失效阈值都没有,也没说这套接法在多大记忆量时会退化。

    下一步 核对 AWS 博客原文是否放出 NAT 自定义 memory provider 的完整代码与 EKS 部署清单,没有就说明还停留在架构描述。