来源时间 本站刊期
行业动态The Verge AI
萨姆·奥尔特曼称,内存放在数据中心比放在你的桌上更好
Sam Altman says it’s better for RAM to be in a data center than on your desk
奥尔特曼称内存应归数据中心而非个人电脑,全球分配立场使本地推理与集中算力对立。
判断
规划本地AI推理的CIO和开发者面临更尖锐选择:继续购买大内存台式机以求自主,还是把工作负载转向云;奥尔特曼称云中DRAM仅有5%时间被使用,而OpenAI的Stargate交易收紧供应。
依据
在Cheeky Pint播客上,OpenAI首席执行官萨姆·奥尔特曼称,把RAM放在个人电脑而不是数据中心是“糟糕的”。他说,本地推理倡导者假设开源模型将在其电脑上运行并减少数据中心需求,但从全球分配角度看,让世界上有限的DRAM待在仅5%时间使用的机器里是不好的;他希望云中利用率最大化。机制是:三星和SK海力士与云运营商及OpenAI的Stargate等项目有长期协议,这些项目已预留未来几年全球RAM产量的很大一部分,而花在芯片上的数十亿美元正是笔记本电脑、手机和其他科技产品越来越贵的原因。
没写清 来源未量化个人电脑上有多少DRAM闲置,也未量化本地推理能在多大程度上缓解云需求或影响RAM价格。
下一步 关注三星或SK海力士下一次财报电话会,看是否披露Stargate或云预分配量。