チャットの1ターンが、使ってもいないカタログの代金を払うのをやめました

どのメッセージも47個すべてのツールの完全な説明と入力スキーマを運んでいました。およそ63,000文字、実測で1回の呼び出しあたり約25,000入力トークン。あなたの質問が読まれる前の話です。いまは、アシスタントが自分から手を伸ばす必要のあるツールだけが丸ごと同行し、残りは短い索引になりました。あなたが求めたときに開けます。指示の変わらない部分も時刻の行より下へ移したので、同じ会話のターン間で提供元がキャッシュできます。同じ能力で、1ターンあたりの請求は小さくなりました。