跳到正文

精选深读OpenAI19:00

GPT-6 Astra:面向工作的下一代智能

GPT-6 Astra: The next generation in intelligence for work

OpenAI商务场景旗舰模型,高级推理与电脑操作是亮点,但成本未披露需谨慎选型。

判断

选型负责人的问题从「能不能不用 API 接进遗留系统」变成「这批机器的内存够不够开并发」;延迟降 25 倍省下的时间,要先扣掉峰值内存涨约 30% 后被迫减少的并行路数再算。

依据

OpenAI 自己给的内部测试数字是延迟降低 25 倍、峰值内存增加约 30%;Hebbia 的评估说它遵循简报要求的程度比次优模型高 17%、引用文档正确率高 19%;Box 的测试记录自信但错误的表述减少超 10%。机制在于它不靠 API 就能操作日常应用,省掉的是把每个内部系统各包一层接口的工程步骤,被压缩的是整条任务链路。定价按 token(模型处理文本的计费单位)走:每百万输入 10 美元、输出 50 美元,但端到端总成本没有公布,OpenAI 只强调训练让单任务的 token 消耗和重试次数下降。

  • 延迟(内部测试)降低25倍
  • 峰值内存(内部测试)增加约30%
  • 简报遵循度(Hebbia)高17%
  • 引用正确率(Hebbia)高19%
四组对照数字方向相反:延迟和错误率下降,内存与表现上升

没写清 材料没给峰值内存的绝对值,也没给单任务总成本,所以同机并发会掉几路、每任务实际花多少,都不能替它算出来。

下一步 在同一批财务或工程工作流上,记录上线前后的并发上限与每任务 token 消耗、重试次数,再对齐每百万输入 10 美元、输出 50 美元的单价核账。

本期其他新闻

  1. 行业动态

    Paul Christiano 加入 OpenAI 基金会董事会

    OpenAI

  2. 行业动态

    AI 政策窗口已开启,我们必须行动

    OpenAI

  3. 行业动态

    普通民众何时能感受到 AI 的影响?

    Interconnects

  4. 精选深读

    GPT-6 Astra、循环 Transformer 与隐藏推理

    Ahead of AI