Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.047 — 2026-08-20
NEWS 约 1 分钟

先按 Token 建模,再谈 AI 成本

Gong 先用 dbt 压缩通话记录,再交给 Claude,把单轮输入成本降至二十分之一。

IMAGE — dbt Blog

让 AI 回顾客户的几十次通话,最省事的办法是把全部转录稿直接塞给它。但这些原始记录既长又重复:一次约 30 通电话的客户历史,就可能占用约 24 万个 Token——也就是模型处理文本的计量单位。输入越多,费用通常越高,还容易撞上 Gong API 的调用上限。

Britton Stamper 介绍,团队改为先把 Gong 数据持续送入 Snowflake,再用 dbt 做数据建模——把原始记录整理成含义明确、适合模型读取的结构。系统会在新数据进入仓库时增量生成通话摘要,之后 Claude 读取的是精简上下文,而非每次重新抓取整篇转录。以约 12 通电话为例,单轮输入从 10 万 Token 降至 5000,输入成本从 0.30 美元降至 0.015 美元;计入相同的输出费用后,总成本从 0.375 美元降至 0.090 美元。

值得注意的不是“压缩”本身,而是成本治理的位置:先在数据层做好一次,再让每次模型调用重复受益。上述节省幅度及“保持或改善上下文质量”的判断均为作者自述,材料未披露独立评测方法。


供稿材料 SOURCES — 1

← 返回 2026-08-20 · 数据板块