Option
Heim
Eilmeldung
Inhalt
JackMoore
JackMoore
22. Juli 2026

OpenRouter hat „Prompt Caching“ und „Sticky Routing“ eingeführt, um die Token-Kosten für mehrstufige Agenten-Gespräche zu senken. „Prompt Caching“ reduziert die Kosten für wiederholte Eingabeaufforderungen durch das Auslesen aus dem Cache (0,1–0,5-facher Normalpreis), während „Sticky Routing“ nachfolgende Anfragen an denselben Anbieter weiterleitet, der den „Hot Cache“ verwaltet. Entwickler müssen eine „session_id“ festlegen, um die Funktion zu aktivieren.

OpenRouter hat „Prompt Caching“ und „Sticky Routing“ eingeführt, um die Token-Kosten für mehrstufige Agenten-Gespräche zu senken. „Prompt Caching“ reduziert die Kosten für wiederholte Eingabeaufforderungen durch das Auslesen aus dem Cache (0,1–0,5-facher Normalpreis), während „Sticky Routing“ nachfolgende Anfragen an denselben Anbieter weiterleitet, der den „Hot Cache“ verwaltet. Entwickler müssen eine „session_id“ festlegen, um die Funktion zu aktivieren.
Kommentare (0)
0/300
OR