Hogar
OpenRouter lanza una tecnología para reducir drásticamente los costes de las conversaciones de varios turnos con IA
A medida que evoluciona la tecnología de conversación basada en IA, OpenRouter ha lanzado dos nuevas funciones —«Prompt Caching» y «Sticky Routing»— diseñadas para reducir los costes por token en las conversaciones de varios turnos con los agentes. Esta innovación permite a los desarrolladores reducir los gastos durante las interacciones prolongadas con los agentes, lo que fomenta una mayor adopción de las aplicaciones de agentes.
En las conversaciones de múltiples turnos, los agentes suelen reenviar las mismas indicaciones del sistema, definiciones de herramientas e instrucciones estratégicas. Aunque el usuario solo cambie una entrada a lo largo de seis turnos, cada indicación repetida conlleva un coste. El almacenamiento en caché de indicaciones permite a OpenRouter recuperar datos almacenados, evitando así el coste de reenviar indicaciones idénticas. Dependiendo del proveedor, las lecturas en caché cuestan entre 0,1 y 0,5 veces el precio estándar de la entrada, lo que reduce significativamente los gastos. Por ejemplo, en Claude Sonnet 4.6, las lecturas en caché cuestan solo 0,30 dólares por millón de tokens, frente a los 3,00 dólares de una entrada normal.

Para mantener la eficacia de la caché a lo largo de múltiples turnos, el «Sticky Routing» de OpenRouter envía las solicitudes posteriores al mismo proveedor que alberga la caché activa, lo que permite a los desarrolladores disfrutar de lecturas en caché a bajo coste de forma constante a lo largo de toda la conversación.
Sin embargo, para aprovechar al máximo esta innovación, los desarrolladores deben mantener la misma sesión durante todo el proceso. Para un almacenamiento en caché óptimo, OpenRouter recomienda establecer un «session_id», que activa el «Sticky Routing» inmediatamente después de la primera solicitud satisfactoria, y no solo tras un acierto en la caché. Los desarrolladores también pueden verificar el uso de la caché comprobando los datos de la respuesta.
A medida que avanza la tecnología de IA, la última función de OpenRouter no solo ofrece a los desarrolladores una potente herramienta de control de costes, sino que también abre nuevas posibilidades para las aplicaciones de agentes.
Artículo relacionado
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
A medida que evoluciona la tecnología de conversación basada en IA, OpenRouter ha lanzado dos nuevas funciones —«Prompt Caching» y «Sticky Routing»— diseñadas para reducir los costes por token en las conversaciones de varios turnos con los agentes. Esta innovación permite a los desarrolladores reducir los gastos durante las interacciones prolongadas con los agentes, lo que fomenta una mayor adopción de las aplicaciones de agentes.
En las conversaciones de múltiples turnos, los agentes suelen reenviar las mismas indicaciones del sistema, definiciones de herramientas e instrucciones estratégicas. Aunque el usuario solo cambie una entrada a lo largo de seis turnos, cada indicación repetida conlleva un coste. El almacenamiento en caché de indicaciones permite a OpenRouter recuperar datos almacenados, evitando así el coste de reenviar indicaciones idénticas. Dependiendo del proveedor, las lecturas en caché cuestan entre 0,1 y 0,5 veces el precio estándar de la entrada, lo que reduce significativamente los gastos. Por ejemplo, en Claude Sonnet 4.6, las lecturas en caché cuestan solo 0,30 dólares por millón de tokens, frente a los 3,00 dólares de una entrada normal.

Para mantener la eficacia de la caché a lo largo de múltiples turnos, el «Sticky Routing» de OpenRouter envía las solicitudes posteriores al mismo proveedor que alberga la caché activa, lo que permite a los desarrolladores disfrutar de lecturas en caché a bajo coste de forma constante a lo largo de toda la conversación.
Sin embargo, para aprovechar al máximo esta innovación, los desarrolladores deben mantener la misma sesión durante todo el proceso. Para un almacenamiento en caché óptimo, OpenRouter recomienda establecer un «session_id», que activa el «Sticky Routing» inmediatamente después de la primera solicitud satisfactoria, y no solo tras un acierto en la caché. Los desarrolladores también pueden verificar el uso de la caché comprobando los datos de la respuesta.
A medida que avanza la tecnología de IA, la última función de OpenRouter no solo ofrece a los desarrolladores una potente herramienta de control de costes, sino que también abre nuevas posibilidades para las aplicaciones de agentes.
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad











