AI 模型 token 计费与省钱习惯:从提示词到智能体

发布时间:2026-10-17 21:01:04 UTC+8 约 4017 字 17 个小节

AI 大模型现在基本都按 token 计费。你敲进去的每个字、模型回给你的每个字,都被切成 token 计量,用量限制和账单都从这里出。

但多数人的用法是,不管干什么都开着最贵的那个型号:写封邮件、改段文案、总结个会议记录,全用旗舰款。Bain 公司的顾问 Jue Wang 今年夏天对美联社说,很多公司、很多用户默认所有事都用 Opus,「包括生成邮件」。她的比喻是,这等于请爱因斯坦去麦当劳算找零。

顺便说清楚一件事:很多人搜「COMP销毁机制」,想看的是链上治理代币的回购销毁怎么走,那属于另一套账本;这篇讲的是 AI 这边 token 怎么被烧掉、怎么少烧点。两边都叫 token,钱的方向完全不同。下面从第一次写提示词到搭第一个智能体,把能省钱的做法按顺序过一遍。

AI 里的 token 到底是个什么东西?

token 是文本切出来的块,平均下来不到一个英文单词。在 $20 一个月的订阅里,这个计量决定了你多久撞上一次用量上限;在 API 上——开发者把模型接进自己应用的按量付费方式——它直接决定账单。

价格差得很离谱。Anthropic 和 OpenAI 最贵的型号,单 token 价格比最小那档高出好几个数量级。OpenAI 自己的产品线从 $10 到 $0.10 每百万输入 token,差价就摆在那。小模型那档的费率适用于 100,000 token 以内的提示词,更长的提示词要贵出数倍。

这些单价对厂商和用户都在滚雪球。Anthropic 的收入年化从去年年底的 $9 billion 一路跑到五月时的 $47 billion 以上,OpenAI 则在打价格战跟着跑。

为什么有人比谁烧的 token 多?

tokenmaxxing 这个词最早是硅谷的一种炫耀。Meta 内部搞了个叫 Claudeonomics 的排行榜,员工在上面刷名次,科技专栏作者 Gergely Orosz 按 Anthropic 的挂牌价估算,那波消耗折算下来大约 $900 million,不过 Meta 实际付的应该低得多。微软、Shopify、亚马逊也做过类似的员工排名。

英伟达 CEO 黄仁勋在三月上 All-In 播客时说,一个 $500,000 的工程师要是没烧掉至少 $250,000 的 token,他会「非常不安」。这话等于又给这场竞赛添了把柴。

亚马逊那边有员工承认,为了把数字做上去,会把内部 AI 工具拿去跑一些不相干的任务,直到一位高级副总裁发话:请不要为了用 AI 而用 AI。Uber 更直接,几个月就把当年的 AI 工具预算烧光了。

这篇用的是工程师们现在推的意思:maxxing 的是每个 token 的价值,不是你花掉的数量。

智能体为什么比聊天窗口更烧 token?

三个概念能说清钱去哪了。第一个是 agent loop,智能体是能调工具的模型,它思考、搜网页或者跑代码、读结果,然后再来一轮,直到它自己觉得做完了——每一圈都会把整段对话重新发一遍。

第二个是编排。一个模型当经理,把你的请求拆开,分给叫 subagent 的工人模型,再把答案拼回去。每个工人都跑自己的循环、带自己的记忆。Anthropic 说 Claude Code 里的 agent teams 在 plan mode 下跑起来,token 用量能到普通会话的数倍。

第三个是流程图。LangGraph 这类框架让你把工作流画成地铁图:站点是干活的节点,轨道决定下一步去哪。模型照着固定路线走,不会一直绕到没想法或者没预算为止。

说白了,循环能帮你自动化、提质量,但钱也跟着走。效率这件事,得从一开始就管。

不写代码能省钱的习惯有哪些?

先把模型换小一档

在聊天应用里点一下模型名——ChatGPT 在最上面,Claude 在发送按钮旁边——写邮件、做摘要、改措辞这类活切到更小更快的型号。难的推理、错一步就要掏钱的判断,再留给旗舰。

验证方法很简单:把上周的几项任务在两个型号上各跑一遍,小模型能过就留着。订阅用户能拉长用量上限,走 API 的话账单最多能降 99%。

一句话把活说清楚

三轮「不对,我只要总数」「再准一点」,每一轮都会把整段对话重发一遍。一次把任务和答案的形状写明白,效果更好也更省。比如:从下面文本里提取发票号、日期、供应商和总额,所有值按原文保留,每个字段一行,字段缺失就写 missing。OpenAI 自己的测试发现,更精简清晰的提示词反而得分更高,用的 token 还更少。

换话题就开新对话,顺便管住输出长度

你每次按发送,模型都会把整段对话重读一遍。一个聊了几十条的度假话题,会让你后面的报税问题又贵又蠢。话题一变,新开一个窗口。

输出 token 在 Anthropic 和 OpenAI 的旗舰型号上比输入贵不少。在提示词结尾加一句「三条要点,一百字以内」或者「只给改动的行」,模型就没那么多空间去注水。输出被卡住,模型会省着写,创意类任务(写作、调研)比确定性任务(写代码、算数学)更明显。

免费额度和本地模型先用起来

OpenRouter 用一个账号能接几百个模型,它的免费路由会把请求分给一批零成本模型。你也可以在显存够用的显卡或者 Apple M 系列 Mac 上用 LM Studio、Ollama 本地跑。Hermes、英伟达那边也有不少免费型号,用免费的小模型去调提示词,比花钱让旗舰型号把同样的事做快一点要划算。

但免费档说没就没,别把重要的东西建在上面;粘贴敏感内容之前,先看一遍数据政策。

简单问题别开深度思考

简单问题跳过扩展思考,或者在关不掉思考的新款 Claude 上把 effort 档位调低。Anthropic 会把完整的思考过程按输出计费,包括你看不到的那部分。Claude Pro 和 Max 的订阅用户可以打开用量额度,在 Settings 里的 Usage 设一个月度消费上限。

用 Claude Code 这类工具怎么把账单摁住?

下面这些以 Claude Code 为例,它跑在终端里、能直接改文件,命令都输在它的对话框里。其他同类工具的逻辑差不多,只用聊天窗口的话,换模型那条照样适用。

模型、上下文、插件,三处下手

输入 /model 切模型,把 Sonnet 当默认,只有在它卡住的时候才升到 Opus,比如一个 bug 试了两轮还没修好。子代理干简单活,Anthropic 的文档建议在设置里写 model: haiku。

换到不相关的任务就 /clear,不花钱,直接把旧历史丢掉。确实需要保留上下文时再用 /compact 并写明要留什么,比如 /compact 保留数据库相关的决定——压缩本身也是一次不小的请求。

把 5,000 行的表格粘进对话,模型会一行行读,还可能数错,语言模型再贵也不是计算器。更好的做法是让它给个公式或者一小段脚本,你自己跑,只把结果丢回给它。

MCP 服务器是把模型接到 GitHub、Google Drive 这类应用上的插件,每挂一个都会往每次会话里加工具名和说明。用 /context 看什么在占空间,用 /mcp 关掉这个项目用不上的服务器。Anthropic 演示过一个智能体只加载自己需要的工具定义后,token 从 150,000 掉到 2,000;像 GitHub 的 gh 这种命令行工具,不跑就不花钱,往往比常驻插件划算。

计划模式、预算和上下文文件

用 /usage 看 token 花在哪了。CLAUDE.md(或者 Soul.md)是智能体每次会话开头都会读的指令文件,把它压在很短的篇幅里。

改动大的时候按 Shift+Tab 切到计划模式,智能体先把方案给你过目再动文件,方向一错立刻按 Esc。/effort 可以把简单活(比如改变量名)的推理档位调低。

给每次智能体运行设最大步数和美元上限,开跑之前先定义好「做完」长什么样。Claude Code 支持 --max-budget-usd 参数跑脚本;Shopify 用的是断路器,有人的花销在一天内突然飙高,访问能被立刻切断。

缓存、批处理和预算护栏能省多少?

举个具体的例子。一个开发者要处理 1,000 张发票,每张 2,000 token,答案都不长:这活在最贵那档型号上大约 $30,在小模型那档大约 $0.30,这还没上后面的技巧。

把固定的部分缓存起来

把稳定的指令放前面、会变的部分放后面,并给稳定那段打上缓存标记,Anthropic 的 API 里就是多一个字段。读缓存只花正常输入价的一小部分,写进默认五分钟的缓存要额外付费。看每次响应里的 cache_read_input_tokens,如果第一次调用之后它还是零,说明缓存没生效。

能批量就别一张张跑

OpenAI 和 Anthropic 的批处理任务都给 50% 的折扣,OpenAI 承诺在一定时间内出结果。把 1,000 张发票作为一个批处理文件上传,别发 1,000 次实时请求,账单会掉一大截。

给失控留一道闸

关键事实放在长提示词的开头或者结尾,斯坦福牵头的一项研究发现,模型在这两个位置用得最好,埋在中间最差。

只有在错一次很贵的时候——合同条款、付款金额——才付费让第二个模型来复核。OpenAI 的 API 上可以给每个项目设硬性支出上限,因为它默认的支出提醒只是通知你,不会拦流量。

把通过测试的最便宜那个型号设成一周的默认,失败再切上去,然后拿用量页和上一周对比。就发票那个活,光靠路由就把账单从 $30 压到 $3.90,即使中间花钱让 Opus 重做了失败的那部分。

不过便宜不等于总量会降。Silicon Data 的 Token Expenditure Index 显示,单个 token 的价格这几年跌了 90% 以上,可大模型的支出从去年年底以来翻了一倍。经济学上这叫杰文斯悖论:一样东西便宜到一定程度,人们反而在它身上花得更多。贝恩六月的一份简报里也是这个图景,token 成本在一年里减半,消耗量却涨了 450%。

结语:让每个 token 都干该干的活

单价还在跌,这是好事,前提是你别再把 token 当烟花放。把便宜型号设成默认、提示词一次说清、话题换了就清上下文、能批量的批量、能给预算上限的加上限——这几件事不需要写代码,做完账单自己会说话。至于「COMP销毁机制」那套链上账本,和这里的 token 账本是两回事,别混着看。

关键词 COMP销毁机制AI模型token计费大模型省钱技巧

本文基于公开媒体报道整理,仅作信息参考,不构成任何投资依据,内容以原文为准。

更多资讯

全部资讯 →