汪汪简报

全部新闻

1. 精选深读 · Hugging Face

   相同集群，利用率提高33个点：变化的是顺序

   调度次序比硬件更关键，同集群利用率差33个百分点，是先看顺序的实证。

   给 AI 集群做容量规划的人，该把预算从“加卡”转向“按时间步与优先级重排分配”；继续按到达顺序放卡，就会让实时推理的全天峰值预留吃掉半数池子，代价由排在后面的批处理训练付。

   展开全文收起

   依据

   Hugging Face 团队在 2026年8月17日的文章里报告：他们用约束感知 GPU 调度器（constraint-aware GPU allocator）对比 FIFO（先进先出）调度器，跑了七个基准场景。机制是：实时推理需求每个时间步起伏，FIFO 为保可用性按当天峰值一次性预留 GPU，训练、批推理、量化这类批式作业又要求连续卡块；争抢时，排列顺序决定哪些作业能塞进时间窗，而不只是容量多少。结果：同一硬件、同一负载，GPU 利用率最多高 33 个百分点，优先级加权产出在七个场景全部上升，最多 105%；在预留占主导的两个场景，FIFO 基线只有 51.6%（混合对照）和 53.6%（训练为主）。取舍是：要拿这些收益，必须提前写下优先级和需求曲线，并接受实时推理峰值时段调度器要能回收与重分卡。

   • 利用率最大提升33 个百分点
   • 优先级加权产出最大提升105%
   • 混合对照 FIFO 基线51.6%
   • 训练为主 FIFO 基线53.6%

   没写清 材料没给七个场景的作业到达分布、优先级权重和超额订阅比例，无法判断 33 个百分点在哪些负载下会回落到零。

   下一步 下一步核对七组基准的逐时间步分配网格，确认 FIFO 是否仍按实时推理全天峰值锁卡、约束感知调度器在峰值到达时是否保住了可用 GPU。

   原文 →

   剪报