Gartner 预测代理推理成本至 2028 年将增超五倍

Gartner 预测，到 2028 年每次代理工作流的推理成本将增长超过五倍，即使 token 本身变得更便宜。该机构将这一现象称为“推理悖论”。在基础聊天机器人交互之上，将任务路由到代理推理模型会使提供商推理成本至少增加 5 倍，并且随着任务复杂度提高还会更高。

更低的 token 成本没有转化为更低的账单，原因主要有两个。一是基础模型实验室把节省下来的成本继续投入需要更多计算的新一代模型，导致前沿模型每 token 反而更贵。Gartner 分析师 Will Sommer 以 Anthropic 的 Fable 每 token 成本高于 Opus 为例说明这种分化。二是更高的 token 效率让更复杂的工作负载变得可行，而这些工作负载消耗大量 token。

Gartner 建议企业将价值与结果绑定，对每项 AI 功能按结果指标追踪支出并快速改进或淘汰低绩效流程；同时推行推理分层，自动把常规任务路由到最具成本效率的模型，避免日常任务默认调用前沿模型。