Microsoft Research Focus – 第98期

判断

负责长时间编程智能体会话的工程负责人，在扩展这些工作流前应测试 APEC 式后台上下文压缩：1350 万次会话中不足 8% 需要压缩，却消耗了 44% 的处理成本。代价是增加摘要基础设施和基准特定证据。

依据

Anson Ho 的 Microsoft Research Focus 引用一项针对 1350 万次编程会话的新研究：不足 8% 需要上下文压缩，但这些会话占总 AI 处理成本的 44%。研究者构建了 COMPACTIONBENCH 和 APEC，后者在后台准备摘要而非打断智能体；评估显示 APEC 提升编程性能，同时将成本降低至多 25.4%、执行时间降低 9.6%。其机制是把昂贵的摘要移出活跃编程循环，针对那部分不成比例地推高成本的长会话。