옵션
집
속보
콘텐츠
JackMoore
JackMoore
2026년 7월 22일

OpenRouter는 다단계 상담원 대화 시 발생하는 토큰 비용을 절감하기 위해 ‘프롬프트 캐싱’ 및 ‘스티키 라우팅’ 기능을 출시했습니다. '프롬프트 캐싱'은 캐시에서 데이터를 읽어옴으로써 반복되는 프롬프트 비용을 절감해 주며(일반 요금의 0.1~0.5배), '스티키 라우팅'은 후속 요청을 핫 캐시를 보유한 동일한 제공자에게 전달합니다. 개발자는 이 기능을 활성화하기 위해 session_id를 설정해야 합니다.

OpenRouter는 다단계 상담원 대화 시 발생하는 토큰 비용을 절감하기 위해 ‘프롬프트 캐싱’ 및 ‘스티키 라우팅’ 기능을 출시했습니다. '프롬프트 캐싱'은 캐시에서 데이터를 읽어옴으로써 반복되는 프롬프트 비용을 절감해 주며(일반 요금의 0.1~0.5배), '스티키 라우팅'은 후속 요청을 핫 캐시를 보유한 동일한 제공자에게 전달합니다. 개발자는 이 기능을 활성화하기 위해 session_id를 설정해야 합니다.
의견 (0)
0/300
OR