Väčšina produktov AI tvrdí, že si vás „pamätá". Zvyčajne tým myslí, že súčasné okno rozhovoru ešte neodišlo z dosahu. Len čo zavriete kartu, model netuší, kto ste. Zakaždým znova vysvetľujete svoj stack, svoje preferencie a svoje obmedzenia od nuly.
Dlhodobá pamäť ToRun je celkom iný mechanizmus. Tento text opisuje, čo ukladá, ako sa v každom ťahu skladá a čo s ňou môžete robiť.
Čo sa ukladá a prečo
Pamäť v ToRun je súbor trvalých skutočností vytiahnutých z vašich rozhovorov. Predstavte si ich ako štruktúrované poznámky — nie výpis prepisu, ale jednotlivé pozorovania: dávate prednosť stručným odpovediam, váš projekt používa MongoDB, pracujete v TypeScripte, máte prípravu v strojovom učení, chcete ukážky kódu v určitom štýle.
Skutočnosti sú nezávislé od jazyka. Ak píšete tri relácie po turecky a desať po anglicky, pamäťový systém sa nerozpadne na jazykové ostrovčeky. Normalizácia vedomá si Unicode (rozklad NFKD, odstránenie diakritiky, zrovnanie veľkosti písmen) zabezpečí, že skutočnosť zadaná v jednom jazyku vypláva, keď sa pýtate v inom. Prakticky na tom záleží: platforma v 29 jazykoch si nemôže dovoliť pamäť, ktorá dobre funguje len pre anglicky hovoriacich.
Nové skutočnosti môžu byť pridané automaticky, keď model rozpozná trvalú informáciu, alebo ich môžete uviesť výslovne („pamätaj, že nasadzujem na Azure"). Ani jedna z týchto ciest pred vami nie je skrytá.
Ako sa pamäť stáva kontextom pri volaní
Každý ťah chatu v ToRun skladá tri vrstvy kontextu, než výzva dorazí k modelu:
- Systémová vrstva — pokyny na úrovni produktu, rola a štýl asistenta, aktívne pokyny znalostnej bázy.
- Súhrnná vrstva — stlačené vyjadrenie rozhovoru až po tento bod, spravované automaticky, aby dlhé vlákna nevyčerpali kontextové okno modelu.
- Nedávna vrstva — posledných N ťahov doslova, s väčšou váhou toho, čo ste práve povedali.
Dlhodobá pamäť zapadá do systémovej vrstvy. Vyhľadávací krok beží nad vašimi uloženými skutočnosťami s využitím signálu významnosti z aktuálnej správy: ak sa pýtate na indexovanie databáz, vyplávajú skutočnosti o preferenciách MongoDB; ak prejdete k návrhu, ustúpia. Model vidí len to, čo je pre aktuálny ťah významné, nie plochý výpis všetkých skutočností, ktoré ste kedy vytvorili. Kontextové okno sa tak využíva účinne a predchádza sa „nafúknutiu pamäte", kde nevýznamné osobné podrobnosti riedia signál.
Kontextové rozpočty závisia od úrovne — bezplatná úroveň dostáva 16 tis. tokenov celkového kontextu, s rastom cez tarify predplatného až na 1 mil. tokenov v Enterprise. Ak zložený kontext (pamäť + súhrn + nedávne ťahy) prekročí okno modelu, ToRun najprv oreže súhrnnú vrstvu a nikdy ticho nezahodí vaše najčerstvejšie správy ani najvýznamnejšie skutočnosti pamäte.
Skutočnosti sú vaše, riadite ich vy
Pamäť patrí tomu, kto ju používa. Môžete vypísať všetko, čo o vás ToRun uložil, a zmazať jednotlivé položky alebo všetko. Neexistuje „tajná" pamäť ovplyvňujúca vaše rozhovory bez vášho vedomia. Úložisko skutočností možno prezrieť a na požiadanie zabudnúť.
Táto voľba plynie zo širšej zásady: ToRun vám má ukazovať svoj skutočný stav, nie ho skrývať. Priehľadná pamäť znamená, že jej môžete veriť. Ak model koná podľa chybnej skutočnosti — povedzme kedysi zaznamenal, že máte rád rozsiahle vysvetlenia, a vy ich teraz chcete stručné — poviete mu, nech zabudne, a ďalšie volanie tú skutočnosť už neuvidí.
Zmazanie je trvalé a okamžité. Nie je žiadna lehota, počas ktorej by sa stará skutočnosť ďalej objavovala.
Znalostné bázy nie sú pamäť
Pamäť uchováva skutočnosti o vás. Znalostné bázy ukotvujú odpovede vo vašich dokumentoch.
Keď do znalostnej bázy nahráte dokumentáciu, kód alebo odborný obsah, ToRun použije generovanie rozšírené vyhľadávaním (RAG), aby v okamihu otázky vytiahol významné pasáže. Vytiahnutý text sa vloží vedľa kontextu rozhovoru a model cituje, čo použil. To je správny nástroj, keď vaša otázka vyžaduje prečítať zdrojový materiál — špecifikáciu API, právny dokument, vašu internú príručku — namiesto toho, aby si vybavil osobnú preferenciu.
Oba systémy sa kombinujú: jediný ťah môže čerpať z vašich osobných skutočností pamäte aj z vyhľadania v znalostnej báze. Napájajú rôzne vrstvy skladania kontextu a slúžia rôznym účelom. Pamäť odpovedá na „kto ste a ako najradšej pracujete"; znalostná báza odpovedá na „čo hovorí tento dokument".
Používať oboje spolu je to, čo robí ToRun užitočným pre skutočnú prácu, nielen pre ukážky. Vaše preferencie zostávajú v pamäti, aby ste ich neopakovali; váš zdrojový materiál zostáva v znalostnej báze, aby odpovede stáli na dokladoch, nie na trénovacích dátach modelu.