家
OpenRouterは、エージェントとの複数回のやり取りを伴う会話におけるトークンコストを削減するため、「プロンプトキャッシュ」と「スティッキールーティング」機能をリリースしました。 「プロンプトキャッシュ」は、キャッシュから読み込むことでプロンプトの繰り返しコストを削減し（通常価格の0.1～0.5倍）、一方「スティッキールーティング」は、ホットキャッシュを保持している同じプロバイダーに後続のリクエストを誘導します。この機能を有効にするには、開発者が session_id を設定する必要があります。
コメント (0)
0/300
