max_tokens 设多少合理?

按场景:分类 / 打标签几十就够;摘要几百;内容生成按需放宽但要有值。原则是"该场景正常输出的上限再加一点余量"——它防的是异常跑飞,不是限制正常输出。

国产便宜模型质量真的够用吗?

分场景。分类、抽取、格式化、摘要这类"有标准答案"的活,国产模型和顶配的差距很小,价差却在 10 倍以上;开放式推理和复杂代码仍建议用顶配。正确姿势是路由,不是全换。

缓存能省多少钱?

取决于你业务的重复率:客服、审核类场景重复率高,本地结果缓存能省不少;每次请求都不同的场景则收益有限。先在流水里看有没有重复模式,再决定要不要做。

怎么判断是不是在"空耗"?

看两个数:失败率(超时 / 断连比例)和失败请求的扣费。如果批量任务失败率超过几个百分点,先修通道和超时策略再谈别的优化——那是纯浪费。

这些方法要改很多代码吗?

大部分不用:模型分级是改 model 字符串,max_tokens 是加一个参数,上下文瘦身是改拼 prompt 的逻辑。一个下午能做完前三招,通常当周账单就能看到变化。

AI API更新于 2026-08

调 AI API 怎么省钱?模型分级、控制 max_tokens、避免空耗(2026 降本指南)

API 账单越跑越高?5 个实操降本法按省钱幅度排序:模型分级(省得最多)、瘦身上下文、控制输出、消灭空耗、盯紧流水。附排查表和每招的具体做法。

一句话结论:API 账单失控,原因几乎从来不是"用得太多",而是**贵模型干了便宜活**——这是第一大钱坑,顶配模型和国产模型的单价差着一个数量级以上,把分类、抽取、格式化这类简单活从顶配模型挪到便宜模型,是所有降本手段里幅度最大的一招。剩下的钱坑按大小排:上下文喂太长(每次把整本资料塞进去)、输出不设上限(模型放开写)、失败请求白烧钱(超时断连没结果照扣费)、以及最根本的——**看不见钱花在哪**。这五件事都有具体做法,本文按省钱幅度从大到小逐个讲。前提是你的平台要支持多模型切换和流水明细:一套 OpenAI 兼容接口里能同时调 Claude / GPT / 国产模型、控制台能查每笔扣费,这两个条件满足了,降本才有抓手。

1. 先诊断:你的账单高在哪一类

API 按 token 计费,输入(你发的上下文)和输出(模型生成的内容)都算钱。动手优化前先花十分钟看平台控制台的消费流水,回答三个问题:**哪个模型烧得最多?输入和输出哪个占大头?有没有失败请求也在扣费?**答案直接决定你先用下面哪一招——大多数人的答案是"顶配模型占了 90% 的钱,而其中一半的调用其实是简单活",那就先看第 2 节。

2. 降本①:模型分级——幅度最大的一招

顶配模型(Claude Opus / GPT 旗舰)和国产模型(如 DeepSeek)的单价差着一个数量级以上,这意味着:**把一半的简单调用挪到便宜模型,总账单可能直接砍掉近半**。具体分法:分类、抽取、摘要、格式化、翻译初稿这类"有标准答案"的活给便宜模型;推理、复杂代码、面向用户的关键输出才上顶配。因为走同一套 OpenAI 兼容接口,切换只是改一个 model 字符串,把路由规则写进代码(按任务类型选代号),质量不掉、成本大降。

3. 降本②:上下文瘦身——输入端常被忽视

很多场景里输入 token 比输出多好几倍:每轮对话都带全部历史、每次请求都塞整份文档。三个动作:① 对话类只保留最近几轮 + 一段摘要,别把 50 轮历史全量重发;② 长文档先做检索或摘要,只把相关段落喂给模型,不要整本书进去;③ system prompt 定期审——很多项目的系统提示词越长越臃肿,里面一半的规则早已用不上。输入瘦一圈,每次调用都省,乘以调用量就是真金白银。

4. 降本③:管住输出端

输出 token 单价通常比输入贵几倍,所以"让模型少说废话"很值钱。两个抓手:**max_tokens 设上限**——按场景给合理值(分类几十、摘要几百、生成任务再放宽),防的是模型跑飞时无节制地写;**提示词里限定形态**——"只返回 JSON""不超过三句话""不要解释过程",比事后截断更省,因为模型根本不会生成那些多余内容。

5. 降本④:消灭 Token 空耗

空耗 = 请求处理到一半因超时、断连、被掐断而失败,你没拿到可用结果,钱却照扣。单次不起眼,批量任务里很隐蔽——一个几万次调用的批量活,5% 的失败率就是 5% 的纯浪费。做法:走延迟稳定的通道、设合理的超时和重试(重试要有退避,别雪崩式重发)、批量任务分批跑并记录失败清单只重跑失败的。通道越稳,空耗越少;这也是选中转平台时"稳定"比"便宜一点"更值钱的原因。

6. 降本⑤:能复用就复用

同样的活别花两次钱:相同或高度相似的请求,把结果做本地缓存(以请求内容哈希做 key),命中就不再调用;固定的枚举类问题(如"这 20 种商品类目怎么映射")直接写进代码,根本不该问模型。再把零散请求合并成批、错峰跑,既省钱又少撞限流。这一招的幅度取决于你业务里的重复率,重复率高的场景(客服、审核)常有惊喜。

7. 长期:让流水看得见,优化才能持续

前面所有招式都需要一个前提:**你能看见每一笔钱花在哪**。选平台时确认两件事:控制台有没有按模型、按 key 的用量明细;流水能不能对到每次调用。然后养成一个习惯:每周看一次消费排行,烧钱最多的那个场景,就是下周优化的对象。cocodot 按量计费、控制台全量流水可查,支付宝充值,一个 key 通 Claude / GPT / Gemini / DeepSeek——分级路由和对账都在一个地方完成。

8. 快速开始清单

照抄即可:① 注册 cocodot(验证邮箱送 $0.5 体验额度),支付宝充值,建一个 key;② base_url 设为 https://cocodot.co/api/ai/v1;③ 高频简单活用 deepseek-v4-flash 兜底,难活用 mco-6(Claude Opus)或 mog-6(GPT)收尾;④ 给每类任务设 max_tokens;⑤ 一周后看控制台流水,把烧钱最多的场景按第 2、3 节再过一遍。五步走完,大多数项目的账单能明显下一个台阶。

五招降本:按省钱幅度排序

招式	针对的浪费	具体动作	大致幅度
① 模型分级	贵模型干便宜活	简单活换国产模型,改 model 代号即可	最大,单价差 10 倍以上
② 瘦身上下文	输入 token 虚胖	只带必要信息,长文先摘要再喂	大,输入常占大头
③ 控制输出	模型无节制地写	设 max_tokens,提示词里限定长度	中
④ 消灭空耗	失败请求照扣费	稳定通道+合理超时重试	中,批量任务里很隐蔽
⑤ 盯紧流水	不知道钱花在哪	每周看一次控制台用量排行	是前四招的前提