Keskustelun edetessä tekoälymalli lukee aiemmat viestit uudelleen, ja palveluntarjoajat laskuttavat vähemmän, kun se lukee ne välimuististaan. Anthropic laskuttaa näistä välimuistiluvuista Claude Sonnet 5.5:ssä kahdeskymmenesosan syötteen hinnasta. ToRun laskutti kymmenesosan, joten ne maksavat nyt puolet siitä, mitä ennen. Yli 272 000 tokenin pituisissa GPT-5.5- ja GPT-5.4-keskusteluissa välimuistiluvut laskutettiin syötteen täydellä hinnalla. Nyt ne laskutetaan välimuistin hinnalla, joka on kymmenesosa siitä.