雷磊拆播客 · 第 465 期

算力成本粉碎机:Anjney Midha的算力电网计划

原节目 Odd Lots · 零头
嘉宾 Anjney Midha:前a16z合伙人、斯坦福AI课程导师、AMP PBC创始人,曾开出Anthropic第一张支票。
播出 2026.06.13

从Anthropic首位投资人到算力基建颠覆者,用软件终结GPU闲置时代

场景切入

金融与科技交汇的播客访谈,探讨AI前沿模型的演进逻辑与算力资源分配的深层痛点。

背景

各大AI实验室正陷入激烈的算力军备竞赛,但高度碎片化的市场和落后的长租模式导致大量珍贵的GPU资源被闲置,算力实际成本居高不下。

01打破赢者通吃:参差不齐的AI多重边疆

市场普遍误以为最终只有少数几个前沿大模型会赢。Midha指出,AI的突破是多维度的,存在诸如代码、消费者对话等多个“参差不齐的边疆”。模型在可验证反馈(如代码测试)领域进步极快,而在主观任务上仍有缺陷。因此,未来将是一个多模型协作的生态系统,而非单一巨头垄断。

迁移到你的业务

既然前沿模型将迎来生态繁荣,那么制约它们进化的物理瓶颈到底在哪?

核心矛盾不在于缺芯片,而在于极度低效的算力租赁经济学。

02昂贵的闲置:脉冲式需求与长租陷阱

当前的算力市场犹如租房,研究团队必须签订长期租赁合同并为全天候付费。但AI研发是典型的“脉冲式”需求——在测试时只需要少量算力,一旦跑通就猛烈扩容。为了应对峰值,实验室被迫过度采购。这导致纸面标价2.5美元/小时的GPU,因大量时间空转,实际有效成本飙升至25到28美元。

迁移到你的业务

面对如此触目惊心的算力死寂,如何才能将这些沉睡的算力唤醒并重新分配?

AMP PBC给出的解法是:用软件构建一张标准化的“算力电网”。

03算力电网:将碎片化GPU变为公共设施

就像曾经杂乱无章的电力最终被统一为交流/直流电网,AMP PBC正致力于将不同芯片、不同制造商的算力标准化。他们通过纯软件层打造统一格式,让开发者无需操心底层硬件差异。闲置算力会被实时调度并分配给需要的团队,将业内普遍不到70%的利用率极限推高,让价格真正回归合理水平。

迁移到你的业务

这场算力分配方式的底层革命,正在抹平初创团队与巨头之间的硬件鸿沟。

未来的算力调度将无缝隐藏在应用背后,使用者只会按需取用,毫无感知。

金 句
We are in the medieval ages of this technology... I just don't think there's only three frontier models that are going to win. It's going to be an ecosystem.
我们目前仍处于这项技术的中世纪……我并不认为最终只有三个前沿模型能够胜出。这将是一个生态系统。
雷磊说

跳出“囤芯片就是囤算力”的误区,真正的竞争壁垒在于系统级的调度能力与单位经济效益。

今日一件小事

点击原链接收听完整播客,深入探索AMP PBC如何重塑AI时代的算力基础设施版图。

理解了算力的底层流转逻辑,你就能看清下一代AI应用的成本护城河。

—— 雷磊 | 你的业务陪跑教练

← 第 464 期第 466 期 →
← 回到拆播客目录

本文为个人学习笔记与解读,观点归笔者所有;原节目内容版权归原作者及播出方所有,如需引用原文请查阅原节目。