算力市场的疯狂与变局:CoreWeave眼中的AI基础设施
从寻求融资到狂揽数百亿美元,算力巨头如何看待当下的GPU供需与行业瓶颈
场景切入
在这期播客中,Odd Lots主持人Joe和Tracy与算力云巨头CoreWeave的高管展开对话,深入探讨了当前AI计算市场的真实状况。
背景
随着各大企业在AI领域的持续加码,算力需求出现井喷。从三年前的一卡难求,到如今金融机构豪掷百亿构建独立算力池,行业的关注点和瓶颈正在发生微妙的转移。
01客户群体的泛化:从AI实验室到百亿企业订单
早期的算力需求主要集中在几家核心AI实验室和超大规模云厂商手中,但现在客户画像正在迅速多元化。CoreWeave仅金融服务客户的积压订单就已接近100亿美元,类似Jane Street等企业不再通过大模型平台间接购买,而是直接与算力供应商签下长达五年的“不退不换”硬核长约。
面对如此庞大且持续数十年的巨额需求,供给端的瓶颈到底卡在哪里?
芯片本身的短缺已经不再是制约发展的唯一因素。
02数据中心的真正瓶颈:不是土地,而是电与人
当前建设算力设施的最大挑战是寻找拥有完整电力和冷却系统的“带电外壳”(Powered Shell)。土地并不短缺,但变压器、备用电池等供电组件,甚至是需要五年学徒期才能出师的合格电工,成为了拖延交付周期的硬性供应链阻碍。
既然算力如此昂贵且抢手,建立像天然气一样的算力交易市场可行吗?
答案是短期内行不通,因为算力缺乏大宗商品最核心的特质。
03算力难以商品化:同质性缺失与英伟达的绝对主导
算力短期内无法成为可交易的大宗商品,因为同样的GPU(如H100)在不同机房和不同软件调度下,其实际有效输出(Goodput)和模型算力利用率(MFU)天差地别。此外,无论是训练还是推理,由于对高效和可靠性的极致追求,客户依旧指名要求英伟达的生态,而非定制芯片。
算力市场的高准入门槛和复杂运营要求,构建了云服务商的深厚护城河。
只有拥有顶尖运营调度能力的厂商,才能将昂贵的硅片转化为源源不断的利润。
听完这期关于算力市场的深度剖析,你有什么启发?
审视你所在行业的AI技术栈,了解底层算力的限制。在规划AI预算时,不要只看单一模型的能力,而是要建立“模型路由”(Model Routing)策略,为不同的任务分配最具性价比的算力和模型层级。
在AI淘金热潮中,看懂了卖水人的生意经,才能更好地驾驭未来的技术趋势。
—— 雷磊 | 你的业务陪跑教练