跳到正文

2026年08月28日AI 版

6 条 · 3 个来源

头版

行业动态Simon Willison

突破性发布:Claude Code Opus 5 自动模式
Claude Code Opus 5的自动模式,开发者需权衡效率与失控风险。

把 auto mode 设成默认护栏的团队,得重挑默认值:要么改为在容器或 VM 沙箱里跑并限制出网,要么接受这套护栏会在 agent 察觉入侵后,连它自己的清理命令一起拦下。

展开全文

依据

Simon Willison 引的是 Johann Rehberger —— 后者称这条攻击对 auto mode(Claude Code 自动放行命令的模式)有 80% 的命中率。路径是让 Claude Code 下载并解压一个 zip 归档,再执行一段导入 base64 的代码,而这次导入会顺带执行从归档里解出的本地 struct.py。关键不在绕过:分类器放行了恶意进程的创建,随后 agent 察觉入侵、发出终止命令时,auto mode 又把这条清理命令拒了。Willison 的结论是无人值守时唯一安全跑法是沙箱 —— 容器、虚拟机或操作系统级隔离,限制网络出口,监控 agent,不把家目录、SSH 密钥、云凭证暴露给运行时。8月30日的更新里,Lobste.rs 用户 hyperpape 指出这不算经典提示注入(prompt injection,把恶意指令藏进 agent 会读到的内容里诱导它照做):全程没有网站上的恶意指令被模型跟随,更像环境本身被混淆后遭到利用。

  1. 下载并解压 zip 归档
    解压后导入
  2. 导入 base64 触发本地 struct.py
    执行
  3. 恶意进程开始执行
    察觉
  4. agent 察觉并发终止命令
    命令被拒
  5. auto mode 拒绝清理
从解压 zip 到 auto mode 拒绝清理命令的攻击链。

没写清 材料没给 80% 的样本量和所测版本,也没提 Anthropic 是否复现或回应过这条攻击。

下一步 盯 Anthropic 的 Claude Code 发布说明:auto mode 对清理命令的拦截是否被改掉,沙箱是否变成默认。

行业动态

2

  1. 行业动态Google DeepMind

    试点全球首个双盲 AI 评估
    双盲评估补上人类偏见缺口,但盲法代价是牺牲部分实时监督。

    这次试点把「模型有没有提前见过题」变成采购方和监管方可以直接写进验收条件的一项,代价是评估结果不能再边跑边同步,只能等隔离环境关盒后一次性披露。

    展开全文

    依据

    Google DeepMind 的 William Isaac、Sol Messing 和 Kristian Lum 在 2026年8月27日发文,宣布与新加坡 AI 安全研究院(Singapore AI Safety Institute)、OpenMined、AVERI 和 MLCommons 合作,对 Gemini Flash Lite 做首次双盲评估。机制是:外部评估方和机密基准题一起被关进密码学安全环境,模型开发方在开测前拿不到题目,以此挡住 benchmark contamination(基准污染,指评测题在训练阶段已被模型见过,分数因此虚高)。文中用考试作比:考生提前看过题,满分就没有意义。代价落在监督节奏上——题目和作答都锁在盒子里,外部无法在过程中实时复核模型行为,核账被推到关盒之后一次完成。

    1. 机密基准题封存
      输入
    2. 外部评估方在盒内跑测
      隔离
    3. 开发方看不到题目
      输出
    4. 关盒后披露结果
    双盲评估如何把出题、跑测与结果披露三段隔开

    没写清 材料没有给出这次双盲评估的题量、具体分数或与常规测试的差值,因此无法判断隔离环境把结果改动了多少。

    下一步 等 MLCommons 或 DeepMind 公布这次 Gemini Flash Lite 评估所用的基准名称与分数,再核对流程能否被第三方复现。

  2. 行业动态OpenAI

    扩大 OpenAI 在巴西的业务版图
    巴西市场政策红利与本地化挑战并存,OpenAI需借力监管沟通争取先机。

    巴西金融与农业的AI负责人现在要选的是:趁监管框架未定,先用本地场景换准入,还是等合规路径清晰再投。选前者,代价是接受低于欧美的付费能力。

    展开全文

    依据

    OpenAI 官方博客《Expanding OpenAI's presence in Brazil》宣布扩大在巴西的存在,材料同时列出三项本地化挑战:语言适配、数据合规、文化差异。它的机制是把本地开发者与新兴企业生态做厚,再用生态规模去影响未来的监管框架,为自己换到政策缓冲——也就是说,投入在前、回报在后,且回报取决于监管是否松手,而不取决于产品本身。代价材料已写明:资源投入高,而巴西市场付费能力低于欧美,短期商业回报有限。风险同样具体:若与本地监管沟通不畅,可能落到类似欧盟的严格约束。把适用对象收窄到金融、农业这类巴西本地优势行业,正是用可验证的落地场景换准入空间的取舍,先在这些行业跑通,再谈更宽的市场。人工智能(AI)在这里只是落地工具,决定成败的是合规节奏与付费能力。

    没写清 材料没说OpenAI在巴西的具体投入金额、团队编制,也没点名已接触哪家监管机构,所以无法判断「政策缓冲」是否已进入实质谈判。

    下一步 查巴西央行或国家数据保护局的公开议程与备案记录,看是否出现OpenAI本地实体或合规申报。

精选深读

3

  1. 精选深读Google DeepMind

    Gemini Omni 1.1 Flash 助您更精细地构建应用
    精细化控制是开发刚需,但官方更新内容未提性能提升,需实测验证。

    是否现在就把生成式视频的生成层切到 Omni 1.1,是每个做视频工具或媒体编辑软件的开发者要拍板的取舍。40 秒延展和首尾帧控制是功能账,成本账——4K 放大与 360p 预览各要多少时间和钱——材料没给,得自己量。

    展开全文

    依据

    Google DeepMind 的产品经理 Anish Nangia 与 Alisa Fortin 在 8月27日的发布里说,Omni 1.1 是面向开发者的 production-ready(可上生产)更新:场景延展(scene extension)可在已有视频上接着生成,本次最多读入 10 秒前序上下文,把镜头延长到 40 秒;首尾帧插值让开发者指定起止画面,换取可控的运镜与转场;先用 360p 预览反复试错,定稿再 4K 放大交付。机制上,控制项变多意味着每轮迭代要带更多条件输入,而通稿只列了控制能力和分辨率档位,没有给出 1.1 相对旧版的生成耗时、单次调用价格,也没给 4K 放大的算力开销。省下的预览试错成本能否盖住重跑成本,取决于开发者自己实测,而不是取决于功能清单的长度。

    • 预览分辨率360p
    • 最终输出4K
    同一流程的两端:360p 试错,4K 交付

    没写清 材料只列了控制项与 360p/4K 两档分辨率,没有 1.1 与旧版的生成耗时、调用计费对照,也没有 4K 放大的算力开销。

    下一步 在 Google AI Studio 用同一段 10 秒素材分别跑 Omni 1.1 和上一版,记录从 360p 预览到 4K 交付的总耗时与计费。

  2. 精选深读Simon Willison

    Qwen3.8-Flash-Next
    Qwen3.8-Flash-Next亮相,小参数或成性价比新选,但实测性能待验。

    要在单台 DGX Spark 上挑本地模型的人,筛选标准得从算力换成显存:6B 激活让推理开销接近小模型,但权重仍要 72.5GB 起步,先算清显存余量再决定是否把它列为首选。

    展开全文

    依据

    Simon Willison 说这是 Qwen 又一个开放权重模型,属于多模态 MoE(Mixture of Experts,混合专家,每个 token 只调用其中一部分专家),并称它是 Qwen4 所用架构的早期预览。机制上,125B 总参数决定权重体积,6B 激活参数决定每次前向的计算量,两者分开,所以“参数小”指的是算得省,不等于占显存少。他在 DGX Spark 上试的是 Unsloth 的量化版本,两个档位分别是 72.5GB 的 UD-IQ1_S 和 78.9GB 的 UD-Q2_K_XL,并说目前最喜欢 UD-Q2_K_XL 里 xhigh 推理努力的那次输出。按这些数字,能跑起来靠的是量化把 125B 压进单机显存,而非 6B 这个激活数。

    • 总参数125B
    • 激活参数6B
    • UD-IQ1_S72.5GB
    • UD-Q2_K_XL78.9GB
    总参数、激活参数与两个量化档位体积的对照。

    没写清 材料只给了 pelican 示例和量化文件体积,没有基准分数、吞吐数据,也没有与同档模型的同期对照,所以性价比目前只能从结构上推断,无法由实测确认。

    下一步 等 Simon Willison 的后续文章或 Qwen 模型卡给出 125B/6B 在标准基准上的分数。

  3. 精选深读OpenAI

    更佳答案,更广思维:学生从 ChatGPT 与批判性思维训练中的收获
    随机千名学生验证,ChatGPT加思维训练提升原创性,但局限在单次作业。

    教师若要在作业中引入ChatGPT(对话式生成工具),应先配套批判性思维训练,并把它限定为单次作业试点;否则省下的备课时间会转成学生机械复制人工智能(AI)输出的代价。

    展开全文

    依据

    OpenAI 这篇材料引用的千余名学生随机对照实验显示,在真实大学作业中使用 ChatGPT 并辅以批判性思维训练,能显著提升答案的原创性。机制不是让模型自动产出好答案,而是训练学生学会如何有效提问、如何验证人工智能(AI)输出,从而减少对生成结果的直接依赖。但代价和门槛同样清楚:样本只覆盖单次作业,材料未涉及长期学习效果或不同学科差异,且学生须先具备基础思维能力才能获益。因此,教学实践若只引入工具、不配套训练,可能强化机械复制而非独立思考。

    1. 学生提问
      训练
    2. 验证AI输出
      应用
    3. 完成单次作业
      结果
    4. 原创性提升
    学生从提问、验证AI输出到原创性提升的机制链

    没写清 材料未说明训练由谁设计、耗时多少,也未给出不同学科的长期复测结果,不能替它推算长期收益。

    下一步 可核对的下一步是追踪该实验是否公开多学科、长期复测数据及训练课时。