跳到正文

2026年09月10日AI 版

5 条 · 3 个来源

头版

行业动态OpenAI

Paul Christiano 加入 OpenAI 基金会董事会
对齐专家入董事会补监管短板，但安全话语权仍待观察。

需要把 OpenAI 的安全承诺当作采购或备案依据的合规方，从现在起不能只数董事会里坐了几位对齐背景的人，而要先看 Christiano 这位非投票观察员能在 SSC 拿到多少评估材料。

展开全文

依据

OpenAI 宣布 Paul Christiano 出任基金会董事，并进入安全与安全委员会（SSC，Safety and Security Committee）。材料交代他 2017 至 2021 年在 OpenAI 主导对齐研究，奠定 RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习）基础，之后在 NIST（美国国家标准与技术研究院）下属的 CAISI（人工智能标准与创新中心）参与前沿模型评估。机制在于：他把技术侧的对齐履历带进治理层，补的是此前偏法律与商业的董事结构，因此讨论里会多一个能读懂评估细节的人。但材料同时写明他是非投票观察员——可监督制衡、无决策权，且须回避 OpenAI 相关事务及模型评估，也就是越接近评估细节越要退出讨论。放到 2025 年重组后强化治理这条线上，单一成员改变的是讨论质量，不是表决结果。

没写清 材料没说非投票观察员在 SSC 能否调阅模型评估的原始数据与会议记录，所以监督深度无法替他补上。

下一步 下一个可核对点：OpenAI 是否公开 SSC 成员名单与 Christiano 上任后的回避记录或声明。

原文 →

行业动态

2 条

  1. 行业动态OpenAI

    AI 政策窗口已开启，我们必须行动
    OpenAI政策副总裁喊话：能力越强越需安全证据与持久政策，企业别只盯技术。

    企业 CISO 该改的是选型条款：把「供应商是否接受强制性能力门槛评估、是否公开对齐评估门结果」写成准入项，而不是继续比模型分数。早投入的人把合规成本换成准入门槛，等强制落地再补的人要在期限内一次性买单。

    展开全文

    依据

    OpenAI 全球事务副总裁 Chris Lehane 主张把安全证据当成进度门槛——模型能力越强，越要先交出对应的安全证据才能继续推进——并由国会制定强制性、基于能力的国家 AI 安全法规（基于能力，指按模型实际具备的能力划线，而不是按用途划线），同时支持加州四项安全法案。他给出的机制是「防御者窗口」：在破坏性能力普及之前，先用前沿 AI 强化关键系统。为此 OpenAI 已把通用监控（含思维链，即模型的推理过程）和强制对齐评估门设为自主递归自我改进的底线。代价写在材料里：标准过严可能拖慢模型进展，公司自己承认「不追求」除非确保安全，行业标准目前仍属自愿性质，全球互操作还停在倡导阶段，没有时间表。对企业的取舍是：自愿阶段先建监控与对齐评估能力，等于把成本前置，换取强制化之后仍在采购名单里的资格；押注法规不落地而等到强制再补，就要在期限内一次性投入人力与流程改造。该观点代表实验室立场，阈值未给出量化依据。

    没写清 材料没给出监管的具体阈值和量化依据，也没写加州四项法案的编号与生效时间，所以不能替它推算企业的合规截止日。

    下一步 盯加州四项安全法案中哪一项先进入表决或签署，这是强制能力门槛是否落地的第一个可核对节点。

    原文 →

  2. 行业动态Interconnects

    普通民众何时能感受到 AI 的影响？
    复合革命才五年，影响渗透需百年，行业该调整预期而非催熟。

    行业该按长周期来排基础设施和再培训，而不是按短期叙事去催熟市场。

    展开全文

    依据

    公众容易把影响理解成马上到来，但模型能力、工程配套和商业采纳叠在一起，渗透是长尾。以蒸汽机或电力作参照，社会重构可以拉到数十年甚至百年。短期看不到颠覆性便利，不代表中期没有技能窗口。过度乐观和过度悲观都会把投资节奏带偏。

    没写清 材料没有给出能被外部核对的里程碑或指标。

    下一步 先写下一项能被外部核对的采用指标，再决定要不要加大基础设施投入。

    原文 →

精选深读

2 条

  1. 精选深读OpenAI

    GPT-6 Astra：面向工作的下一代智能
    OpenAI商务场景旗舰模型，高级推理与电脑操作是亮点，但成本未披露需谨慎选型。

    选型负责人的问题从「能不能不用 API 接进遗留系统」变成「这批机器的内存够不够开并发」；延迟降 25 倍省下的时间，要先扣掉峰值内存涨约 30% 后被迫减少的并行路数再算。

    展开全文

    依据

    OpenAI 自己给的内部测试数字是延迟降低 25 倍、峰值内存增加约 30%；Hebbia 的评估说它遵循简报要求的程度比次优模型高 17%、引用文档正确率高 19%；Box 的测试记录自信但错误的表述减少超 10%。机制在于它不靠 API 就能操作日常应用，省掉的是把每个内部系统各包一层接口的工程步骤，被压缩的是整条任务链路。定价按 token（模型处理文本的计费单位）走：每百万输入 10 美元、输出 50 美元，但端到端总成本没有公布，OpenAI 只强调训练让单任务的 token 消耗和重试次数下降。

    • 延迟（内部测试）降低25倍
    • 峰值内存（内部测试）增加约30%
    • 简报遵循度（Hebbia）高17%
    • 引用正确率（Hebbia）高19%
    四组对照数字方向相反：延迟和错误率下降，内存与表现上升

    没写清 材料没给峰值内存的绝对值，也没给单任务总成本，所以同机并发会掉几路、每任务实际花多少，都不能替它算出来。

    下一步 在同一批财务或工程工作流上，记录上线前后的并发上限与每任务 token 消耗、重试次数，再对齐每百万输入 10 美元、输出 50 美元的单价核账。

    原文 →

  2. 精选深读Ahead of AI

    GPT-6 Astra、循环 Transformer 与隐藏推理
    循环Transformer或解算力困局，但隐藏推理的可控性仍是代价。

    准备把 GPT-6 Astra 接入生产，并靠思维链做审计的团队，应把“能否拿到可验证推理轨迹”设为上线门槛，而不是先看它比 GPT-5.6 Sol 高多少分。

    展开全文

    依据

    Sebastian Raschka 在 Ahead of AI 写：GPT-6 Astra 是他用过最好的模型，且在 3D 渲染、动画和电脑操作上相对其他模型“不成比例地强”；他还说社区在传 Astra 隐藏了思维链（chain of thought，即模型逐步推理文字）。机制上，循环 Transformer（looped transformer，让同一组 Transformer 层反复跑多轮来增加计算深度）被视为用更多迭代换更强推理、可能绕开单纯堆参数或算力的路线；但若推理步骤不暴露，外部只能看到结果和分数，不能复算它是否按声称的步骤得出结论。材料给的可对照数是 ARC-AGI-3：Astra 99.9%，GPT-5.6 Sol 7.8%。

    • GPT-6 Astra99.9%
    • GPT-5.6 Sol7.8%
    ARC-AGI-3 上 Astra 与 GPT-5.6 Sol 的得分对照。

    没写清 材料没有说明 Astra 隐藏推理是产品策略、安全限制还是循环深度的架构副产物，也没给出可审计接口或复现实验。

    下一步 核对 OpenAI 的 Astra 发布博客或 Artificial Analysis 后续报告，是否提供逐题推理轨迹或隐藏推理开关。

    原文 →