Jak konverzace pokračuje, model AI znovu čte předchozí zprávy a poskytovatelé účtují méně, když je čte ze své mezipaměti. Anthropic účtuje za tato čtení z mezipaměti u Claude Sonnet 5.5 dvacetinu vstupní ceny. ToRun účtoval desetinu, takže nyní stojí polovinu toho, co dřív. V konverzacích s GPT-5.5 a GPT-5.4 delších než 272 000 tokenů se čtení z mezipaměti účtovalo za plnou vstupní cenu. Nyní se účtuje za cenu mezipaměti, tedy desetinu této ceny.