算力成本粉碎机:Anjney Midha的算力电网计划
从Anthropic首位投资人到算力基建颠覆者,用软件终结GPU闲置时代
场景切入
金融与科技交汇的播客访谈,探讨AI前沿模型的演进逻辑与算力资源分配的深层痛点。
背景
各大AI实验室正陷入激烈的算力军备竞赛,但高度碎片化的市场和落后的长租模式导致大量珍贵的GPU资源被闲置,算力实际成本居高不下。
01打破赢者通吃:参差不齐的AI多重边疆
市场普遍误以为最终只有少数几个前沿大模型会赢。Midha指出,AI的突破是多维度的,存在诸如代码、消费者对话等多个“参差不齐的边疆”。模型在可验证反馈(如代码测试)领域进步极快,而在主观任务上仍有缺陷。因此,未来将是一个多模型协作的生态系统,而非单一巨头垄断。
既然前沿模型将迎来生态繁荣,那么制约它们进化的物理瓶颈到底在哪?
核心矛盾不在于缺芯片,而在于极度低效的算力租赁经济学。
02昂贵的闲置:脉冲式需求与长租陷阱
当前的算力市场犹如租房,研究团队必须签订长期租赁合同并为全天候付费。但AI研发是典型的“脉冲式”需求——在测试时只需要少量算力,一旦跑通就猛烈扩容。为了应对峰值,实验室被迫过度采购。这导致纸面标价2.5美元/小时的GPU,因大量时间空转,实际有效成本飙升至25到28美元。
面对如此触目惊心的算力死寂,如何才能将这些沉睡的算力唤醒并重新分配?
AMP PBC给出的解法是:用软件构建一张标准化的“算力电网”。
03算力电网:将碎片化GPU变为公共设施
就像曾经杂乱无章的电力最终被统一为交流/直流电网,AMP PBC正致力于将不同芯片、不同制造商的算力标准化。他们通过纯软件层打造统一格式,让开发者无需操心底层硬件差异。闲置算力会被实时调度并分配给需要的团队,将业内普遍不到70%的利用率极限推高,让价格真正回归合理水平。
这场算力分配方式的底层革命,正在抹平初创团队与巨头之间的硬件鸿沟。
未来的算力调度将无缝隐藏在应用背后,使用者只会按需取用,毫无感知。
跳出“囤芯片就是囤算力”的误区,真正的竞争壁垒在于系统级的调度能力与单位经济效益。
点击原链接收听完整播客,深入探索AMP PBC如何重塑AI时代的算力基础设施版图。
理解了算力的底层流转逻辑,你就能看清下一代AI应用的成本护城河。
—— 雷磊 | 你的业务陪跑教练