成本优化 · 2026-09-02
Cloudflare AI Gateway 合并账单行:模型总价更清楚,成本原因反而更难看
Cloudflare AI Gateway 将输入、输出 Token 合并为模型总价,并统一发票与日志中的模型名称。财务更容易核账,工程团队却更需要保留调用明细和真实版本。
Cloudflare AI Gateway 合并账单行:模型总价更清楚,成本原因反而更难看
Cloudflare 9 月 1 日调整了 AI Gateway 月度用量发票:过去同一模型的输入 Token 和输出 Token 分成两行,今后发票只显示该模型的总成本。官方示例里,Claude Haiku 的 4 万输入 Token 费用为 0.04 美元,2.4 万输出 Token 费用为 0.12 美元,新发票把两行合成 anthropic/claude-haiku-4.5 的 0.16 美元。这项变化不适用于购买 AI Gateway credits 的发票。
对财务人员来说,按模型汇总更容易与月度付款核对,也减少了不同计价单位造成的长发票。对负责大模型 API 的工程团队,输入输出被合并后,发票反而无法解释成本为什么变化。总价上涨可能来自上下文变长、模型生成更多内容、重试率升高,也可能只是流量增加;这些原因需要回到使用日志才能区分。
发票适合核账,不适合定位 Token 浪费
[Cloudflare 更新说明](https://developers.cloudflare.com/changelog/)明确表示,月度用量发票不再列出输入、输出 Token 数量和各自单价。这个口径适合回答“上个月每个模型一共花了多少”,却不能回答“哪个应用把输入上下文拉长了”。两者不矛盾,只是面向不同读者。财务凭证应保持简洁稳定,工程观测则需要请求级别的维度。
一笔模型费用至少受输入、缓存输入、输出、工具调用、重试和供应商价格版本影响。Agent 往往会在一次用户操作中触发多次模型请求,某个工具超时还可能造成整段上下文重新发送。只看发票总额,团队很容易把成本归因到模型单价;实际问题可能是会话没有裁剪、缓存没有命中或失败重试没有上限。
因此月末核账要保留两条链路。第一条从发票模型总价回到网关日志中的 Token 与费用;第二条从网关请求回到产品的租户、功能、会话和任务。日志里不要存完整敏感提示来换取可观测性,可以记录脱敏后的应用标识、Token 数、实际模型、延迟、状态码、缓存命中和重试次数。总额对不上时,再按日和模型缩小范围。
统一模型名方便聚合,也可能丢掉版本差异
Cloudflare 同时把发票与日志里的模型名标准化为 provider/model,并移除部分供应商特有的版本后缀。统一命名让报表少做一层字符串清洗,也更容易把相同产品的费用合并。但一个用于财务聚合的名字,不一定足以支撑质量复盘。供应商可能在同一别名下更新快照,某些带日期的版本后缀则直接指向可复现的模型。
网关最好同时保存三个字段:客户端请求的模型名、路由规则命中的供应商与产品、供应商实际返回或确认的版本。报表可以按标准名聚合,故障和评测记录则使用具体版本。若系统只剩 provider/model,当延迟、输出风格或工具调用成功率突然变化时,团队可能无法确认是业务流量变了,还是底层模型发生了更新。
AI 中转站的成本报表要能从月度总额钻到请求
一个可用的 AI FinOps 看板不必一开始就很复杂。月度层按供应商和标准模型对账,日度层观察输入、输出、缓存与失败成本,产品层再按租户、场景和任务归属费用。告警不要只设总预算,还要关注单位任务成本、输出输入比、重试率以及尾部延迟。这样才能在总账出现异常之前发现某个 Agent 循环或批处理参数失控。
计费数据也应与模型目录分开管理。目录负责可用模型、上下文、能力和价格版本,日志保存一次请求采用的目录快照,发票负责最终结算。供应商改名或调整单价时,历史请求不应被新规则覆盖。团队若要比较 Claude、GPT、GLM 等模型,应使用同一业务样本测算完成任务的总成本,不要只把公开 Token 单价排成一张表。
AnyAIS 作为统一模型网关,可以帮助应用用一套接口连接不同模型。要让“AI 中转站”真正承担成本治理,接入时还应统一传递项目或租户标识,并把 Token、路由结果和失败重试纳入记录。发票合并并没有让成本信息消失,它只是提醒团队:财务总额和工程原因本来就该由两套粒度不同、可以互相核对的数据来回答。
让模型用量与业务成本对得上
统一接口、路由和请求标识,才能从月度账单追到具体应用与任务。
查看模型服务