Většina produktů AI tvrdí, že si vás „pamatuje". Obvykle tím míní, že současné okno rozhovoru ještě neodjelo z dosahu. Jakmile zavřete kartu, model nemá ponětí, kdo jste. Pokaždé znovu vysvětlujete svůj stack, své preference a svá omezení od nuly.
Dlouhodobá paměť ToRun je zcela jiný mechanismus. Tento text popisuje, co ukládá, jak se v každém tahu skládá a co s ní můžete dělat.
Co se ukládá a proč
Paměť v ToRun je soubor trvalých skutečností vytažených z vašich rozhovorů. Představte si je jako strukturované poznámky — ne výpis přepisu, ale jednotlivá pozorování: dáváte přednost stručným odpovědím, váš projekt používá MongoDB, pracujete v TypeScriptu, máte průpravu ve strojovém učení, chcete ukázky kódu v určitém stylu.
Skutečnosti jsou nezávislé na jazyce. Píšete-li tři sezení turecky a deset anglicky, paměťový systém se nerozpadne na jazykové ostrůvky. Normalizace vědomá si Unicode (rozklad NFKD, odstranění diakritiky, srovnání velikosti písmen) zajistí, že skutečnost zadaná v jednom jazyce vyplave, když se ptáte v jiném. Prakticky na tom záleží: platforma ve 29 jazycích si nemůže dovolit paměť, která dobře funguje jen pro anglicky mluvící.
Nové skutečnosti mohou být přidány automaticky, když model rozpozná trvalou informaci, nebo je můžete uvést výslovně („pamatuj, že nasazuji na Azure"). Ani jedna z těchto cest před vámi není skryta.
Jak se paměť stává kontextem při volání
Každý tah chatu v ToRun skládá tři vrstvy kontextu, než výzva dorazí k modelu:
- Systémová vrstva — pokyny na úrovni produktu, role a styl asistenta, aktivní pokyny znalostní báze.
- Souhrnná vrstva — stlačené vyjádření rozhovoru až k tomuto bodu, spravované automaticky, aby dlouhá vlákna nevyčerpala kontextové okno modelu.
- Nedávná vrstva — posledních N tahů doslova, s větší vahou toho, co jste právě řekli.
Dlouhodobá paměť zapadá do systémové vrstvy. Vyhledávací krok běží nad vašimi uloženými skutečnostmi s využitím signálu významnosti z aktuální zprávy: ptáte-li se na indexování databází, vyplavou skutečnosti o preferencích MongoDB; přejdete-li k návrhu, ustoupí. Model vidí jen to, co je pro aktuální tah významné, ne plochý výpis všech skutečností, které jste kdy vytvořili. Kontextové okno se tak využívá účinně a předchází se „nafouknutí paměti", kde nevýznamné osobní podrobnosti ředí signál.
Kontextové rozpočty závisejí na úrovni — bezplatná úroveň dostává 16 tis. tokenů celkového kontextu, s růstem přes tarify předplatného až na 1 mil. tokenů v Enterprise. Překročí-li složený kontext (paměť + souhrn + nedávné tahy) okno modelu, ToRun nejprve ořeže souhrnnou vrstvu a nikdy tiše nezahodí vaše nejčerstvější zprávy ani nejvýznamnější skutečnosti paměti.
Skutečnosti jsou vaše, řídíte je vy
Paměť patří tomu, kdo ji používá. Můžete vypsat vše, co o vás ToRun uložil, a smazat jednotlivé položky nebo vše. Neexistuje „tajná" paměť ovlivňující vaše rozhovory bez vašeho vědomí. Úložiště skutečností lze prohlédnout a na požádání zapomenout.
Tato volba plyne ze širší zásady: ToRun vám má ukazovat svůj skutečný stav, ne ho skrývat. Průhledná paměť znamená, že jí můžete věřit. Jedná-li model podle chybné skutečnosti — řekněme kdysi zaznamenal, že máte rád rozsáhlá vysvětlení, a vy je teď chcete stručná — řeknete mu, ať zapomene, a další volání tu skutečnost už neuvidí.
Smazání je trvalé a okamžité. Není žádná lhůta, během níž by se stará skutečnost dál objevovala.
Znalostní báze nejsou paměť
Paměť uchovává skutečnosti o vás. Znalostní báze ukotvují odpovědi ve vašich dokumentech.
Když do znalostní báze nahrajete dokumentaci, kód nebo oborový obsah, ToRun použije generování rozšířené vyhledáváním (RAG), aby v okamžiku dotazu vytáhl významné pasáže. Vytažený text se vloží vedle kontextu rozhovoru a model cituje, co použil. To je správný nástroj, když vaše otázka vyžaduje přečíst zdrojový materiál — specifikaci API, právní dokument, vaši interní příručku — místo aby si vybavil osobní preferenci.
Oba systémy se kombinují: jediný tah může čerpat jak z vašich osobních skutečností paměti, tak z vyhledání ve znalostní bázi. Napájejí různé vrstvy skládání kontextu a slouží různým účelům. Paměť odpovídá na „kdo jste a jak nejraději pracujete"; znalostní báze odpovídá na „co říká tento dokument".
Používat obojí společně je to, co činí ToRun užitečným pro skutečnou práci, ne jen pro ukázky. Vaše preference zůstávají v paměti, abyste je neopakovali; váš zdrojový materiál zůstává ve znalostní bázi, aby odpovědi stály na dokladech, ne na trénovacích datech modelu.