opção
JackMoore
JackMoore
22 de Julho de 2026

A OpenRouter lançou o Prompt Caching e o Sticky Routing para reduzir os custos com tokens em conversas com agentes que envolvem várias trocas de mensagens. O Prompt Caching reduz os custos de prompts repetidos ao ler do cache (0,1–0,5 vez o preço normal), enquanto o Sticky Routing direciona as solicitações subsequentes para o mesmo provedor que mantém o cache ativo. Os desenvolvedores devem definir um session_id para habilitar o recurso.

A OpenRouter lançou o Prompt Caching e o Sticky Routing para reduzir os custos com tokens em conversas com agentes que envolvem várias trocas de mensagens. O Prompt Caching reduz os custos de prompts repetidos ao ler do cache (0,1–0,5 vez o preço normal), enquanto o Sticky Routing direciona as solicitações subsequentes para o mesmo provedor que mantém o cache ativo. Os desenvolvedores devem definir um session_id para habilitar o recurso.
Comentários (0)
0/300
OR