什么是提示词缓存，如何计费？

聊天机器人每次回复都会带上同样的常驻指令、工具说明和此前的消息。许多模型服务商会把近期见过的文本放在短期缓存里，回读时收费更低。当服务商上报某次回复含缓存 token，ProxyAI 对这部分 token 按该模型的缓存读取价而非普通输入价计费，外加通常的 ProxyAI 加成。有些服务商首次写入缓存时还会收缓存写入价；凡是模型列出了该价格，相关 token 就按它计费。

没有缓存价格的模型按普通输入价计费。Model Rates 计算器假设从对话第二轮起 80% 的输入从缓存读取，因此估算值低于逐条不计缓存的猜测。实际节省取决于服务商和客户回复的速度，因为缓存文本几分钟后就会过期。

看服务商上报的用量

缓存是模型请求里的一项记账细节，不是你在控制面板里管理的一份独立知识库副本。重复的指令可能命中服务商缓存，而新的客户文本仍按普通输入处理。一次长对话里可能同时包含缓存和非缓存 token。

用 Usage Log 中的缓存 token 信息理解已记录事件。对照所选模型的输入价、输出价和缓存价看 Model Rates。如果服务商对某次回复未上报缓存输入，不要以为计算器的缓存假设适用于那次事件。

例如，两次措辞相近的对话，可能因为时机不同或模型不同而缓存结果不同。对比成本时把这些情况和 token 数放在一起看。计算器是规划工具；记录的是实际请求上报并计费的结果。

关于计费单位和对比的更完整说明，阅读 AI chatbot pricing models。