AI基础设施成本模型重构：从Spring 26报告看推理经济学与算力价格曲线

模型层商品化与价值上移

Benedict Evans 在《AI eats the world (Spring 26)》报告中提出的核心论断正在引发技术架构圈的深度讨论：模型层很可能成为基础设施，而价值将向上游转移 —— 流向应用、工作流、专有数据、GTM 优势和由廉价自动化催生的新场景。这一判断对基础设施成本建模的影响是根本性的。

回顾 Evans 过去四版报告的演进脉络，可以清晰看到分析重心的转移：2024 年 11 月关注 "不要忽视这可能是下一个平台级转变"；2025 年 5 月指出模型层已显现商品化迹象，核心问题转向部署和产品形态；2025 年 11 月聚焦资本周期 —— 所有人都在投入，因为错过平台转变比过度建设更糟；到 2026 年 5 月，"模型成为基础设施" 已从假设走向可操作的工程判断。

成本模型的范式转移

传统 AI 基础设施成本模型聚焦于训练阶段的资本支出（CapEx）——GPU 集群采购、数据中心建设、网络带宽预留。但 Spring 26 报告揭示的转折是：推理（inference）已成为关键成本驱动因素，而非仅仅是训练。

这一转变的技术含义深远。训练是一次性的大规模投入，而推理是持续性的运营成本（OpEx）。当模型进入生产环境，每一次 API 调用、每一个 token 生成、每一轮多轮对话都在累积成本。更关键的是，推理成本正在快速下降 —— 开源模型如 DeepSeek、Kimi、GLM 以 1/10 的成本提供接近 6 个月前前沿模型的能力 —— 但推理在整体运营经济学中的占比仍在上升，因为使用量增长的速度超过了成本下降的速度。

这要求成本建模从简单的 "GPU 支出" 故事，扩展为涵盖全生命周期的综合模型：电力消耗、冷却需求、利用率优化、部署位置策略、网络延迟与数据移动成本。

新指标：Tokens per Watt per Dollar

随着电力和冷却成为硬约束（而非仅仅是公用事业账单项目），基础设施决策的评判标准正在进化。数据中心能源需求和热负载可能在算力之前就成为扩张的限制因素。

在这一背景下，tokens per watt per dollar 正在成为新的关键性能指标。它综合了三个维度：

• 计算效率：每 token 所需的 FLOPs 及实际执行时间
• 能源效率：每 token 的电力消耗及相应的冷却需求
• 经济效率：综合硬件折旧、电力成本、运维人力后的单位成本

这一指标迫使架构师重新思考利用率与容量的关系。闲置或利用不足的 GPU 容量不再是 "预留缓冲"，而是直接的成本泄漏。云厂商的按需实例与预留实例的权衡、本地部署与云端的成本交叉点、边缘推理与中心推理的负载分配，都需要基于这一指标重新建模。

架构决策框架

基于 Spring 26 报告的技术趋势，可以构建以下架构决策框架：

云 vs 本地部署的重新评估

随着推理负载成为主导成本，组织正在重新寻找 "云回迁"（cloud repatriation）的经济临界点。当工作负载可预测、数据量巨大、延迟要求严格时，自有基础设施的总拥有成本（TCO）可能低于云端。关键变量包括：电力合同价格、冷却 PUE（能源使用效率）、硬件折旧周期、运维团队规模。

利用率优先于容量

与其追求峰值容量的 GPU 数量，不如优化现有容量的利用率。这包括：

• 批处理策略：将多个请求合并以提升 GPU 占用率
• 动态扩缩容：基于负载预测自动调整实例数量
• 模型蒸馏：在边缘部署轻量级模型处理简单查询，仅将复杂请求路由到中心大模型

边际成本 vs 固定成本的权衡

前沿模型 API 的边际成本正在下降，但固定成本（自建基础设施）的门槛也在变化。决策取决于使用模式：高频、可预测的工作负载适合固定成本投资；低频、突发性的工作负载适合边际成本模型。

实践清单：AI 基础设施成本建模的 7 个关键变量

基于上述分析，以下是可操作的成本建模参数清单：

风险与反方观点

尽管 Evans 的 "模型商品化" 论点是当前的主流叙事，但技术决策需要审视反方观点。

Hacker News 讨论中，有评论者提出前沿模型可能走向双寡头 / 垄断而非商品化。论据包括：训练计算成本每年增长 4-5 倍， weaker competitors 将难以维持节奏；Anthropic 月增 $10-15B ARR 的速度表明，10-15% 的模型质量优势足以吞噬市场份额；推理 1T 参数的前沿模型与 1T 参数的开源模型成本相同，但质量差异导致市场集中。

另一关键风险是算力供需失衡。尽管资本支出激增，但所有模型提供商仍面临严重的算力短缺。Google 内部甚至有意控制 AI 推广速度以缓解容量压力。这意味着即使模型趋于商品化，算力本身可能仍是稀缺资源。

为 "廉价自动化" 时代做准备

Spring 26 报告的终极命题是：如果模型确实成为基础设施，而价值向上游转移，那么技术架构的竞争优势将来自哪里？

答案指向三个方向：

工作流集成深度：AI 不是独立功能，而是嵌入现有工作流的自动化层。成本优势不仅来自更低的 token 价格，更来自减少上下文切换、消除数据搬运、缩短决策链条带来的综合效率提升。

专有数据飞轮：基础模型是通用的，但微调数据、RAG 知识库、用户反馈闭环是专有的。基础设施成本建模必须包含数据管道的成本 —— 存储、清洗、标注、版本管理。

弹性架构设计：在成本曲线持续下降的环境中，架构需要支持 "向下兼容"—— 能够在不重构应用的前提下，从专有 API 迁移到开源模型，从云端迁移到本地，从大模型迁移到蒸馏小模型。

技术团队应当立即行动：建立细粒度的推理成本监控仪表板，实验不同模型 / 不同部署模式的成本效益，为 "模型即基础设施" 的世界设计松耦合的抽象层。算力价格下降曲线不会自动转化为竞争优势 —— 只有主动重构成本模型和架构决策的团队才能捕获这一红利。

资料来源

• Benedict Evans, "AI eats the world (Spring 26)", May 2026 (PDF)
• Hacker News 讨论区 (item?id=48179021)，用户 btucker、keeda、aurareturn 等的关键评论

ai-systems