选项
首页
快讯
内容
JackMoore
JackMoore
2026-07-22

OpenRouter 推出了“提示缓存”和“粘性路由”功能,以降低多轮客服对话的代币成本。 “提示缓存”功能通过从缓存中读取内容来降低重复提示的成本(仅为正常价格的 0.1–0.5 倍),而“粘性路由”则将后续请求定向至持有热缓存的同一服务提供商。开发者必须设置 session_id 才能启用该功能。

OpenRouter 推出了“提示缓存”和“粘性路由”功能,以降低多轮客服对话的代币成本。 “提示缓存”功能通过从缓存中读取内容来降低重复提示的成本(仅为正常价格的 0.1–0.5 倍),而“粘性路由”则将后续请求定向至持有热缓存的同一服务提供商。开发者必须设置 session_id 才能启用该功能。
评论 (0)
0/300
OR