De meeste AI-producten beweren zich «jou te herinneren». Wat ze meestal bedoelen, is dat het huidige gespreksvenster nog niet is weggeschoven. Zodra je het tabblad sluit, heeft het model geen idee wie je bent. Je legt je stack, je voorkeuren en je randvoorwaarden elke keer opnieuw vanaf nul uit.
Het langetermijngeheugen van ToRun is een volledig ander mechanisme. Dit stuk beschrijft wat het bewaart, hoe het bij elke beurt wordt samengesteld en wat je ermee kunt.
Wat er bewaard wordt, en waarom
Geheugen in ToRun is een verzameling duurzame feiten die uit je gesprekken zijn gehaald. Zie ze als gestructureerde aantekeningen — geen dump van het transcript, maar losse observaties: je hebt liever beknopte antwoorden, je project gebruikt MongoDB, je werkt in TypeScript, je hebt een achtergrond in machinaal leren, je wilt codevoorbeelden in een bepaalde stijl.
De feiten zijn taalonafhankelijk. Schrijf je drie sessies in het Turks en tien in het Engels, dan valt het geheugensysteem niet uiteen in taalsilo's. Unicode-bewuste normalisatie (NFKD-ontleding, verwijderen van diakritische tekens, hoofdlettervouwing) zorgt dat een feit dat in de ene taal is ingevoerd, opduikt wanneer je in een andere taal zoekt. Dat doet er praktisch toe: een platform in 29 talen kan zich geen geheugen veroorloven dat alleen goed werkt voor wie Engels spreekt.
Nieuwe feiten kunnen automatisch worden toegevoegd wanneer het model duurzame informatie herkent, of je kunt ze expliciet vastleggen («onthoud dat ik naar Azure uitrol»). Geen van beide routes wordt voor je verborgen.
Hoe geheugen bij de aanroep context wordt
Elke chatbeurt in ToRun stelt drie contextlagen samen voordat de prompt een model bereikt:
- Systeemlaag — instructies op productniveau, rol en stijl van de assistent, actieve kennisbankinstructies.
- Samenvattingslaag — een gecomprimeerde weergave van het gesprek tot dat punt, automatisch beheerd zodat lange gesprekken het contextvenster van het model niet uitputten.
- Recente laag — de laatste N beurten letterlijk, met meer gewicht op wat je zojuist zei.
Het langetermijngeheugen past in de systeemlaag. De ophaalstap draait tegen je opgeslagen feiten met een relevantiesignaal uit het huidige bericht: vraag je naar database-indexering, dan komen de feiten over MongoDB-voorkeuren naar boven; schakel je over op ontwerp, dan trekken ze zich terug. Het model ziet alleen wat relevant is voor de huidige beurt, niet een platte dump van elk feit dat je ooit hebt voortgebracht. Zo wordt het contextvenster efficiënt gebruikt en voorkom je «geheugenopblazing», waarbij irrelevante persoonlijke details het signaal verdunnen.
Contextbudgetten hangen af van je laag — de gratis laag krijgt 16K tokens totale context, oplopend door de abonnementen tot 1M tokens bij Enterprise. Overschrijdt de samengestelde context (geheugen + samenvatting + recente beurten) het venster van het model, dan snoeit ToRun eerst de samenvattingslaag, en gooit het nooit stilzwijgend je recentste berichten of je meest relevante geheugensfeiten weg.
De feiten zijn van jou, jij hebt de controle
Geheugen is van degene die het gebruikt. Je kunt alles opsommen wat ToRun over je heeft opgeslagen en losse items of alles verwijderen. Er bestaat geen «geheim» geheugen dat je gesprekken beïnvloedt zonder dat je het weet. De feitenopslag is inspecteerbaar en op verzoek te vergeten.
Deze keuze volgt uit een breder beginsel: ToRun moet je zijn werkelijke toestand tonen, niet verbergen. Transparant geheugen betekent dat je erop kunt vertrouwen. Handelt het model naar een verkeerd feit — stel dat het ooit vastlegde dat je uitgebreide uitleg prefereerde terwijl je die nu beknopt wilt — dan zeg je dat het dat moet vergeten, en de volgende aanroep ziet dat feit niet meer.
Verwijderen is permanent en onmiddellijk. Er is geen respijtperiode waarin het oude feit nog opduikt.
Kennisbanken zijn geen geheugen
Geheugen bewaart feiten over jou. Kennisbanken verankeren antwoorden in jouw documenten.
Wanneer je documentatie, code of vakinhoud in een kennisbank laadt, gebruikt ToRun ophaalversterkte generatie (RAG) om de relevante passages op vraagmoment naar boven te halen. De opgehaalde tekst wordt naast de gesprekscontext ingevoegd, en het model citeert wat het gebruikte. Dat is het juiste gereedschap wanneer je vraag vereist dat er bronmateriaal wordt gelezen — een API-specificatie, een juridisch document, je interne handboek — in plaats van dat er een persoonlijke voorkeur wordt herinnerd.
De twee systemen combineren: één beurt kan zowel uit je persoonlijke geheugensfeiten als uit een ophaalactie in een kennisbank putten. Ze voeden verschillende lagen van de contextsamenstelling en dienen verschillende doelen. Geheugen beantwoordt «wie je bent en hoe je het liefst werkt»; de kennisbank beantwoordt «wat dit document zegt».
Beide samen gebruiken is wat ToRun bruikbaar maakt voor echte werkstromen en niet alleen voor demonstraties. Je voorkeuren blijven in het geheugen zodat je ze niet hoeft te herhalen; je bronmateriaal blijft in de kennisbank zodat antwoorden op bewijs steunen in plaats van op de trainingsgegevens van het model.