
Vũ Khôi
Tác giả tại Wotech Electronics Blog

AI 智能体成本随步骤数的平方增长:在换用更便宜的模型之前,先用 4 层方法削减 Token 开支
你不是在为答案付费——你是在为重复询问同一件事的次数付费。这是 Hoang Viet AI 在 comailo 小组帖子(2026 年 11 月 18 日)中的核心论点:一个运行 40 个步骤的智能体,在每一步都重新发送完整的对话历史,它不是在为 40 个答案付费,而是在为同一段上下文付费 40 次——而且这段上下文在每一步之后都会变长。该帖子也坦率地说明了它所依据的病毒式传播故事的局限性:作者无法核实其中两个惊人的数字。本文中的所有数字和观点均来自该帖子,未经 Wotech 独立核实。
快速回答: 根据该帖子,AI 智能体的成本不是随步骤数增长,而是随步骤数的平方增长,因为每一步都会重新发送完整的对话历史——同一段上下文被反复计费,而且在每一步之后都会变长。因此,换用更便宜的模型并不能拯救账单:你只是降低了单个单位的价格,而单位数量仍在爆炸式增长。该帖子提出了自上而下的 4 层方法:一、阅读前先过滤——只给模型相关的信息;二、生成前先复用——HTTP 缓存、语义缓存和已完成步骤的结果缓存;三、重新运行前先检查变化——把检查推出模型之外,用代码运行,只在有真正工作时才调用模型;四、阻止循环——断路器、最大重试次数,以及将简单问题路由到小模型。最上面是核算层:按已完成任务的成本来衡量,而不是按 Token 价格衡量。该帖子还指出,原始病毒式帖子中的两个数字(一位 16 岁的学生以每个机器人每周不到 0.02 美元的成本运行 300 个机器人,而常规方式每周要花费 4,500 美元)作者无法核实——没有姓名、没有仓库、没有来源——但该帖子列出的 20 个仓库是真实的,作者逐一检查过。*
Token 是语言模型处理并据此计费的文本单位。当一个智能体运行多个步骤时,每一步都会重新发送完整的对话历史——这意味着同一段上下文内容被反复计费,而且这段上下文在每一步之后都会变长。根据该帖子,这就是成本随步骤数的平方增长的机制。
为什么成本随步骤数的平方增长?
根据该帖子,一个运行 40 个步骤的智能体,在每一步都重新发送完整的对话历史。它不是在为 40 个答案付费——而是在为同一段上下文付费 40 次,而且这段上下文在每一步之后都会变长。直接后果是:成本不是随步骤数线性增长,而是随步骤数的平方增长。据作者所说,这也是换用更便宜的模型无法拯救账单的原因:你只是降低了单个单位的价格,而单位数量仍在“爆炸”。据该帖子所说,真正的故事不是“有便宜的窍门”——而是钱流向了哪里。
自上而下的 4 层方法是什么?
| 层 | 原则 | 据该帖子的方法 |
|---|---|---|
| 1. 阅读前先过滤 | 当你只需要 3 个数字时,不要给模型一个 80 页的文件 | 先将 PDF、Excel、HTML 转换为干净的 Markdown;分块并只取相关片段;压缩长输入但保留约束条件。对于终端日志更明显:一条构建命令输出 4,000 行,模型只需要其中 12 行报错。 |
| 2. 生成前先复用 | 不要重新生成已经存在的东西 | 对不变的页面使用 HTTP 缓存,对近似问题使用语义缓存,对已完成的步骤使用结果缓存。在第 9 步失败的流水线不需要重做第 1 到第 8 步。 |
| 3. 重新运行前先检查变化 | 不要调用模型来问“有什么新东西吗” | 每 5 分钟运行一次的任务成本是每天运行一次的任务的 288 倍,而结果几乎总是“什么都没有”。把检查推出模型之外,用代码运行,只在有真正工作时才调用模型。 |
| 4. 阻止循环 | 没有预算的重试就是账单 | 没有预算的重试会把一个 200 毫秒的错误变成 200 美元的账单。需要断路器、最大重试次数,以及将简单问题路由到小模型。 |
最上面是核算层,据该帖子所说:按已完成任务的成本来衡量,而不是按 Token 价格衡量。一个 2 美元但能完成工作的流程,比一个 0.4 美元却要运行三次的流程更便宜。
病毒式传播的 300 个机器人故事可信吗?
该帖子以一个病毒式传播的故事开头:一位 16 岁的学生以每个机器人每周不到 0.02 美元的成本运行 300 个机器人,而常规方式每周要花费 4,500 美元,获得了 3,646 次收藏。作者事先明确指出:他无法核实这两个数字——没有姓名、没有仓库、没有来源;“它是一个噱头”。但该帖子列出的 20 个仓库是真实的,他逐一检查过——其中一个仓库自称在常见的开发命令上削减了 60–90% 的 Token,拥有 86,944 颗星。这篇改写文章记录的正是作者自己陈述的确定性程度:病毒式数字未经核实,仓库是真实的,Token 削减数字是该仓库自己的说法。
立即应用:检查最近的任务日志
该帖子最后提出了一个不花一分钱的检查方法:打开你最近的任务日志,数一数输入 Token 中有多少百分比是重复内容。那就是你的钱所在的地方。根据上面 4 层方法,应用顺序据该帖子所说是:阅读前先过滤,生成前先复用,重新运行前先检查变化,阻止循环——并按已完成任务的成本来衡量,而不是按 Token 价格衡量。
常见问题
1. 为什么智能体比普通聊天机器人消耗更多 Token? 根据该帖子,智能体的每一步都会重新发送完整的对话历史,因此同一段上下文被反复计费,而且在每一步之后都会变长——成本随步骤数的平方增长。
2. 换用更便宜的模型能解决账单问题吗? 根据该帖子,不能:你只是降低了单个单位的价格,而 Token 单位的数量仍随步骤数的平方增长。
3. 对于长日志和文档,哪一层节省最多? 根据该帖子,第 1 层——阅读前先过滤:将文档转换为干净的 Markdown,只取相关片段;例如 4,000 行的构建日志,模型只需要其中 12 行报错。
4. 定期轮询任务如何浪费金钱? 根据该帖子,每 5 分钟运行一次来问“有什么新东西吗”的任务,成本是每天运行一次的任务的 288 倍,而结果几乎总是“什么都没有”——因此应把检查推出模型之外,用代码运行。
5. “300 个机器人,每个每周不到 0.02 美元”这个数字是真的吗? 该帖子的作者明确指出,他无法核实这两个数字——没有姓名、没有仓库、没有来源。他只确认列出的 20 个仓库是真实的,并且他逐一检查过。
来源:Hoang Viet AI 在 comailo 小组发布的帖子(2026 年 11 月 18 日)。本文中的所有数字、示例和观点均来自该帖子,未经 Wotech 独立核实;每个数字的确定性程度按作者自己的陈述记录。
Bài viết liên quan

18 tháng 11, 2026 · 2 phut doc
FPT Software 董事长:美国客户不再愿意按小时付费,公司转向按结果收费
人工智能正在迫使 FPT Software 转变其传统的软件外包模式:美国的大客户现在采用 100% 按结果付费的模式,公司预计 Time and Materials 模式的占比将在 2027 年降至约 50%。这是 FPT Software 董事长 Chu Thị Thanh Hà 在接受《日经新闻》采访时分享的内容——据 Hỏi Dân IT Official 页面的帖子(2026 年 11…

18 tháng 11, 2026 · 2 phut doc
Meta 将 Muse 扩展到澳大利亚:第六个国家、实时语音和本地应用集成
2026 年 11 月 17 日,Meta 将 Muse 扩展到澳大利亚市场——这是第六个获得官方支持的国家,距离其在美国上线仅两个多月。据 Hồ Hoàng Tiến 的帖子(2026 年 11 月 18 日)所说,值得注意的不仅是新增一个市场,而是 Meta 正在逐步将 Muse 从对话式 AI 工具发展为能够与应用交互、处理工作并执行所分配任务的助手。本文中的所有时间、功能和观点均来自该帖…

18 tháng 11, 2026 · 2 phut doc
Anthropic AI 安全人员预测:到 2027 年底,AI 将在几乎所有领域达到或超越最优秀的专家
当许多人还在争论 AI 是否能取代初级开发者时,一位在 Anthropic 内部从事 AI 安全工作的人员提出了一个更为惊人的预测:仅约 1.3 年后,AI 就可能达到或超越几乎所有领域最优秀专家的水平。这一预测来自 Anthropic 的 AI 安全人员 Tao Lin,在 2026 年 11 月分享的 Palisade Research 采访中提出——据 Hỏi Dân IT Officia…