[Other]关于Prompt caching

[Ericjson001]

在chatbox调用claude 或者 openai API 时，随着多轮对话，token会呈倍数暴增，比如上一轮对话，token消耗总数2,0000，下一轮对话（实际对话内容的token总数 input+output=2000+），token消耗总数直接到40000+。我查了一下官方的资料，通过Prompt caching来解决。希望能给到你参考，同时也希望能够得到改善。感谢你开发出这么好的应用！