API 账单为什么这么高？

01一个反共识：贵不是用量大，是计价没选对

很多人看到 API 账单大，第一反应是"少用点"。但同一段对话，三种计价方式价格能差 10 倍：

token 数你很难压（任务决定），单价是厂商定的，唯一能控的是计价系数：缓存命中能打到 0.1 折，批量通道能打 5 折，直接调用是 1 倍。同一个任务，选对计价方式，账单直接砍到 1/10。

02三种计价：直接 / 缓存 / 批量

主流编程 API 给三种计价通道，适用场景不同：

• 直接调用：实时、灵活，单价 1 倍。适合一次性的、不可预测的请求。
• 缓存命中（prompt caching）：重复的前缀（系统提示、代码仓库地图）命中缓存，那段 token 打 0.1 折。适合 Agent 循环里反复出现的固定上下文。
• 批量通道（Batch API）：非实时任务（评测、批量改写）走批量，5 折，延迟几小时。适合不急的大批量。

下面这个计算器把三种计价并排：输入你的任务，看三种方式各花多少、能省多少。

03上下文结构：能缓存的放前面

缓存不是"自动生效"，它要求前缀逐字相同。所以上下文要按"可缓存 → 不可缓存"排序：

1. 系统提示（固定，每轮一样）→ 最前，必缓存。
2. 仓库地图 / 工具 schema（一个会话内不变）→ 紧跟，缓存。
3. 历史对话（逐轮增长，前缀稳定部分可缓存）。
4. 本轮新输入（每轮不同）→ 最后，不缓存。

把变动内容放前面、固定内容放后面，缓存全失效；反过来，缓存命中率从 0% 拉到 80%+，账单直接砍到 1/5。这是零成本降本——只改顺序，不改用量。

04带走这套清单