隔壁动画用了12亿token:缓存命中97.73%,账单该怎么看?
看到隔壁 87 秒动画那帖,作者写总用量约 12.48 亿 token,缓存命中率 97.73%。挺好奇这种长任务的账单里,最大头到底在哪。光靠总量和命中率,其实还原不出费用。
今天翻了 Anthropic 官方的 Prompt caching 文档。按目前 Opus 5.5 的官方 API 标准价,每百万 token:普通输入 4 美元、5 分钟缓存写入 5 美元、缓存读取 0.20 美元、输出 20 美元。这里说的是官方报价,本站的实际费用还得看所用分组和明细。
随手算个假设例子:100 万输入里,98 万是缓存读取,2 万是普通输入,那么这部分是 0.276 美元;如果另外生成 10 万输出,就是 2 美元。这个例子还没加缓存写入或可能的工具费用,也不是在估原帖花了多少钱。
所以缓存命中率很高,和最后账单里哪项最贵,是两回事。命中率本身也得先知道怎么算的:按请求数算,还是按输入 token 数算,差别挺大。
看长任务明细时,我会把普通输入、缓存写入、缓存读取、输出拆开,再看同一个任务重试了几轮。相比只看总 token,更想知道最后做出一个能验收的成果到底花多少。
大家看用量页时更关心各项费用占比,还是希望直接按任务汇总?感觉后者对长时间跑的 Agent 更直观。
资料:Anthropic 官方 Prompt caching 文档,10 月 20 日查阅。
感觉好像ai