De flesta AI-produkter påstår att de »minns dig«. Vanligtvis menar de att det nuvarande samtalsfönstret ännu inte glidit utom räckhåll. Så snart du stänger fliken har modellen ingen aning om vem du är. Du förklarar din stack, dina önskemål och dina begränsningar från noll varje gång.
ToRuns långtidsminne är ett helt annat maskineri. Denna text beskriver vad det bevarar, hur det fogas samman i varje drag och vad du kan göra med det.
Vad som bevaras och varför
Minnet i ToRun är en mängd varaktiga fakta som dragits ur dina samtal. Tänk på dem som strukturerade anteckningar — inte en tömning av utskriften utan enskilda iakttagelser: du föredrar koncisa svar, ditt projekt använder MongoDB, du arbetar i TypeScript, du har bakgrund i maskininlärning, du vill ha kodexempel i en viss stil.
Fakta är språkoberoende. Om du skriver tre sessioner på turkiska och tio på engelska faller minnessystemet inte isär i språköar. Unicode-medveten normalisering (NFKD-uppdelning, borttagning av diakritiska tecken, versalutjämning) ser till att ett faktum som matats in på ett språk dyker upp när du frågar på ett annat. I praktiken betyder det något: en plattform på 29 språk har inte råd med ett minne som fungerar väl bara för dem som talar engelska.
Nya fakta kan läggas till automatiskt när modellen märker varaktig information, eller så kan du ange dem uttryckligen (»kom ihåg att jag driftsätter på Azure«). Ingen av dessa vägar döljs för dig.
Hur minnet blir sammanhang vid anropet
Varje chattdrag i ToRun fogar samman tre sammanhangslager innan uppmaningen når en modell:
- Systemlagret — anvisningar på produktnivå, assistentens roll och stil, aktiva anvisningar från kunskapsbasen.
- Sammanfattningslagret — en komprimerad framställning av samtalet fram till den punkten, skött automatiskt så att långa trådar inte tömmer modellens sammanhangsfönster.
- Det färska lagret — de senaste N dragen ordagrant, med större vikt på det du nyss sa.
Långtidsminnet placeras i systemlagret. Hämtningssteget körs över dina lagrade fakta med en relevanssignal från det aktuella meddelandet: frågar du om databasindexering flyter fakta om MongoDB-önskemål upp; går du över till formgivning drar de sig undan. Modellen ser bara det som är relevant för det aktuella draget, inte en platt tömning av varje faktum du någonsin gett upphov till. Så används sammanhangsfönstret effektivt och man undviker »minnessvullnad«, där ovidkommande personliga detaljer späder ut signalen.
Sammanhangsbudgetar beror på nivån — gratisnivån får 16 tusen tecken totalt sammanhang, stigande genom abonnemangen upp till 1 miljon tecken i Enterprise. När det sammanfogade sammanhanget (minne + sammanfattning + färska drag) överstiger modellens fönster skär ToRun först i sammanfattningslagret och kastar aldrig tyst dina färskaste meddelanden eller dina mest relevanta minnesfakta.
Fakta är dina, du styr dem
Minnet tillhör den som använder det. Du kan lista allt ToRun lagrat om dig och radera enskilda poster eller allt. Det finns inget »hemligt« minne som påverkar dina samtal utan att du vet om det. Faktalagret går att granska och glömma på begäran.
Detta val följer av en vidare princip: ToRun ska visa dig sitt verkliga tillstånd, inte dölja det. Ett genomskinligt minne betyder att du kan lita på det. Om modellen handlar efter ett felaktigt faktum — säg att den en gång antecknade att du föredrar utförliga förklaringar medan du nu vill ha koncisa — säger du åt den att glömma, och nästa anrop ser inte det faktumet.
Raderingen är permanent och omedelbar. Det finns ingen respitperiod då det gamla faktumet fortfarande dyker upp.
Kunskapsbaser är inte minne
Minnet bevarar fakta om dig. Kunskapsbaser grundar svaren i dina dokument.
När du laddar upp dokumentation, kod eller ämnesinnehåll till en kunskapsbas använder ToRun hämtningsförstärkt generering (RAG) för att lyfta fram relevanta avsnitt i frågeögonblicket. Den hämtade texten fogas in bredvid samtalets sammanhang, och modellen anger vad den använde. Det är rätt verktyg när din fråga kräver att källmaterial läses — en API-specifikation, ett juridiskt dokument, din interna handbok — i stället för att en personlig preferens erinras.
De två systemen förenas: ett enda drag kan hämta både ur dina personliga minnesfakta och ur en hämtning i en kunskapsbas. De matar olika lager av sammanhangsfogningen och tjänar olika syften. Minnet svarar på »vem du är och hur du helst arbetar«; kunskapsbasen svarar på »vad detta dokument säger«.
Att använda båda tillsammans är det som gör ToRun användbart för verkligt arbete, inte bara för uppvisningar. Dina önskemål stannar i minnet så att du slipper upprepa dem; ditt källmaterial stannar i kunskapsbasen så att svaren vilar på belägg och inte på modellens träningsdata.