长上下文怎么算钱：同一份 300 页文档，五种做法的账单
直接塞进上下文、切块检索、先摘要再问、开缓存、换长上下文便宜的模型。我们把五种做法都跑了一遍。
Orbis News阅读约 1 分钟
演示内容 · 文章、模型及数据均为虚构示例，不作为事实或价格依据。
{"version":1,"sourceTitle":"长上下文怎么算钱：同一份 300 页文档，五种做法的账单","image":"memory.webp","min":11,"demoAuthor":"陈墨","models":["moonshotai/kimi-k3","deepseek/deepseek-v4.1-flash"],"order":5,"topicOrder":3,"topicIndex":0}
先看结论
- 问题少于 5 个时，直接塞进上下文最省事。
- 问题多于 20 个，开缓存的成本只有不开的五分之一。
- 切块检索最便宜，但跨章节问题的准确率低 14 个百分点。
五种做法
- 整份文档放进上下文，每次提问都带上
- 切成 1k tokens 的块，向量检索后取前 8 块
- 先让模型写章节摘要，再基于摘要回答
- 整份文档放进上下文，开启前缀缓存
- 换成长上下文单价更低的模型
结果
以 50 个问题计，开缓存的总成本是 3.1 元，不开是 15.8 元。切块检索最便宜，只要 0.9 元，但在需要跨章节对比的问题上准确率从 89% 降到 75%。
文中提到的模型
模型 ID 可以直接填进 model 参数，在 Orbis 用同一个 API Key 调用。