option
Maison
Flash info
Contenu
JackMoore
JackMoore
22 juillet 2026

OpenRouter a lancé les fonctionnalités « Prompt Caching » et « Sticky Routing » afin de réduire les coûts liés aux jetons dans les conversations à plusieurs échanges avec les agents. La mise en cache des invites réduit les coûts liés à la répétition des invites en lisant à partir du cache (0,1 à 0,5 fois le prix normal), tandis que le routage persistant redirige les requêtes suivantes vers le même fournisseur détenant le cache actif. Les développeurs doivent définir un identifiant de session (session_id) pour activer cette fonctionnalité.

OpenRouter a lancé les fonctionnalités « Prompt Caching » et « Sticky Routing » afin de réduire les coûts liés aux jetons dans les conversations à plusieurs échanges avec les agents. La mise en cache des invites réduit les coûts liés à la répétition des invites en lisant à partir du cache (0,1 à 0,5 fois le prix normal), tandis que le routage persistant redirige les requêtes suivantes vers le même fournisseur détenant le cache actif. Les développeurs doivent définir un identifiant de session (session_id) pour activer cette fonctionnalité.
commentaires (0)
0/300
OR