结论先行:订阅额度按 token 计费后,真正要管的不是"调用次数",是单个 prompt 的输入+输出总量。上下文大不等于该塞满。

成本模型三事实

  • prompt 数额度基本用不完,别为省调用次数把十个问题塞一轮
  • 高峰时段倍价:高峰只做紧急排查,开发与批量任务排到平峰
  • token 是按上下文长度持续付费的:一段代码进了上下文,后面每一轮都为它付一遍钱

第三条最容易被低估。很多人按"这次读了多少"理解成本,实际是"读了就一直在":第三十轮对话还在为第一轮塞进来的大文件付费。所以读入决策要比输出决策更谨慎——输出错了这一轮就结束,输入错了要拖到会话结束才止血。

高峰调度我用的规则很简单:高峰时段只允许两类会话——线上故障排查,和当天必须交付的收尾;其余包括调研、批量改造、长自测一律排平峰。日历上把平峰时段整块留出来,比碎片化穿插省心,批量任务的吞吐也更好。

三个事实合起来是一个操作结论:把每个会话当成一次有预算的出差。预算的大头给读代码和产代码,汇报和讨论从严控制。省钱不是目的,省下来的上下文空间和响应质量才是——塞满的上下文不只是贵,还会拖垮答案质量。

最小读取集

读任务所需的最小集合,不是"相关的一切":

✅ 目标符号 + 直接调用链节点 + 字段语义
❌ 整个文件、整个目录、服务全量配置

具体操作:大文件先 grep 定位行号,再 offset/limit 读那几十行;报错只贴关键几行;并行 subagent 不重复读同一段代码;网页抓取带提取性 prompt,只要指定字段。

最小集合的圈定方法是从 DoD 反推:验收要跑什么命令,命令要过哪些代码路径,路径上有哪些符号和配置——这就是全部要读的东西。从"相关的一切"出发永远圈不住,从"验收需要什么"出发一圈就准。先列清单再动手读,顺序不能反;边读边想会一路膨胀。

# 先定位,不整读:拿到行号再决定读哪段
grep -n "queryWaybill" service/QueryService.java
# 只读命中的那几十行
sed -n '80,120p' service/QueryService.java

这两行命令看着朴素,关键是养成先 grep 后读的反射。多数上下文失控不是一次大读造成的,是十次"顺手整个打开"累积的——每次都想着"就这一次",累积起来就是整目录。

输出也是成本

很少有人注意输出 token 通常比输入贵数倍。控制输出比控制输入杠杆更大:汇报长度匹配任务重量,改完即止不 re-read 验证,不输出与任务无关的延伸分析。

让 agent 复述需求是我见过最贵的浪费:复述不产生新信息,却按输出价计费,还占着下一轮的输入。派单写清楚 + 明说"不要复述需求",这个开销可以直接归零。

输出端还有一个杠杆:结构化。同样的信息量,列表和表格的 token 通常少于大段落,下游引用时噪声也更小。汇报默认结构化——结论一行、证据两三行、下一步一行,多余的解释只在被追问时展开;主动铺开的解释,八成不会被读完。

反模式对照

反模式后果替代做法
整文件、整目录读入之后每轮重复付费,还被无关内容带偏grep 定位 + 局部读
十个问题塞一轮输出超长,后半程质量下降按主题分轮,一轮一个目标
让 agent 复述需求纯输出无信息,按输出价计费派单写清,明说禁止复述
高峰跑批量长任务倍价计费排队到平峰
改完 re-read 验证输出 token 白烧,还拖时间以跑代读拿退出码

这张表不用背,它的裁决动作只有一个:每次要往上下文里装东西时,先问这段内容这轮之后还会被用几次。一次性的内容贴最小片段,反复用的内容才值得完整装进去。

执行层面我给自己定了三条硬动作:超过几百行的文件不许整读;粘贴报错前先删到只剩关键几行;每轮派单前检查上一轮输出——发现复述、延伸、客套,下一轮加禁止项。纪律要落到动作上才维持得住,靠自觉的纪律两周就退化。

还有个反直觉的现象值得记录:上下文更小的时候,模型答案反而更稳。我猜机制和人的工作记忆类似——选项多了才开始摇摆,桌面干净了才看得清眼前的题。省 token 和提质量在这里不是 trade-off,是同一件事。

给 scout 的最小上下文派单

派只读侦察任务时,限制它的返回比限制它的读取更关键——它返回什么,主模型就要装进什么:

任务:定位运单状态不流转的根因,只读
只返回:文件:行号 + 每处一句话结论
不要:整文件内容、无关符号、需求复述、修改建议

多 scout 并行时,防重复读要在派单里划范围:这份管 service 层、那份管 mapper 层、第三份管配置,边界写进派单。两个 scout 读同一段代码,主模型收到两份重叠报告,合并的成本比重读一遍还高。范围划分是并行省钱的前提,不是可选项。

派 scout 前我会先在便签上写下"这次任务的 DoD 需要哪些符号"——三个五个不等。写下来这个动作强迫圈定最小集合,比心里想着"差不多就行"可靠得多;范围一旦落纸,派单里的禁止项也有了依据,不是拍脑袋。

真实场景

早期排查一个问题,我让 agent 把四个相关服务的配置文件全部读了一遍,想着"背景越全越好"。前两轮回答正常;到第三轮,它开始引用另一个服务的某个无关配置项来解释当前服务的现象,还解释得头头是道——那是个纯粹的干扰源。而且每轮都在为那份巨大上下文付费,会话后半段的响应也明显变慢。整改后我换了做法:先自己圈最小符号集合——一个方法、两个类、一条配置——派 scout 只回文件:行号,需要细读的段落我自己用 offset/limit 拿。同类问题的上下文体积降了一个量级,答案反而更准。事后复盘,我当时的错误假设是"上下文对模型是无害的背景";实际每一行已读内容都是潜在的引力源,模型会被它拽着走。上下文不是仓库,是工作台——工作台上只放当前正在用的东西,用完的挪走。整改还有个意外收获:上下文变小后,我检查模型答案的成本也降了——以前一大段回答里找事实像淘金,现在每条回答都短,对不对一眼可见。省 token 省的不只是模型侧的开销,还有我这边校验的注意力。

检查清单

  • 读入前先问:这段内容之后每轮还要用吗
  • 大文件一律 grep 定行号、offset/limit 局部读
  • 报错日志只贴关键几行,不整段粘贴
  • 派 scout 时限定返回格式与禁止项
  • 高峰时段只做紧急排查,批量任务排平峰
  • 不让 agent 复述需求,不做任务外延伸分析
  • 改完即止,验收靠跑命令不靠 re-read