Yearly Pay yearly and get 2 months free on every paid plan. See plans
Zaloguj się Zacznij za darmo

Pamięć długoterminowa, która naprawdę trwa: jak ToRun pamięta to, co ważne

Większość produktów AI twierdzi, że „pamięta cię". Zwykle mają na myśli, że bieżące okno rozmowy jeszcze nie odjechało poza zasięg. Ledwie zamkniesz kartę, model nie ma pojęcia, kim jesteś. Za każdym razem od zera tłumac…

Większość produktów AI twierdzi, że „pamięta cię". Zwykle mają na myśli, że bieżące okno rozmowy jeszcze nie odjechało poza zasięg. Ledwie zamkniesz kartę, model nie ma pojęcia, kim jesteś. Za każdym razem od zera tłumaczysz swój stos, swoje preferencje i swoje ograniczenia.

Pamięć długoterminowa ToRun to zupełnie inny mechanizm. Ten tekst opisuje, co przechowuje, jak jest składana w każdej turze i co możesz z nią zrobić.

Co jest przechowywane i po co

Pamięć w ToRun to zbiór trwałych faktów wydobytych z twoich rozmów. Myśl o nich jak o uporządkowanych notatkach — nie zrzut zapisu, lecz osobne obserwacje: wolisz zwięzłe odpowiedzi, twój projekt używa MongoDB, pracujesz w TypeScript, masz przygotowanie w uczeniu maszynowym, chcesz przykładów kodu w określonym stylu.

Fakty są niezależne od języka. Jeśli piszesz po turecku przez trzy sesje, a po angielsku przez dziesięć, system pamięci nie rozpada się na silosy językowe. Normalizacja świadoma Unicode (rozkład NFKD, usuwanie znaków diakrytycznych, składanie wielkości liter) sprawia, że fakt wprowadzony w jednym języku wypływa, gdy pytasz w innym. To ma znaczenie praktyczne: platforma w 29 językach nie może sobie pozwolić na pamięć działającą dobrze tylko dla anglojęzycznych.

Nowe fakty mogą być dodawane automatycznie, gdy model wykryje trwałą informację, albo możesz je podać wprost („zapamiętaj, że wdrażam na Azure"). Żadna z tych dróg nie jest przed tobą ukryta.

Jak pamięć staje się kontekstem przy wywołaniu

Każda tura czatu w ToRun składa trzy warstwy kontekstu, zanim zapytanie dotrze do modelu:

  1. Warstwa systemowa — instrukcje na poziomie produktu, rola i styl asystenta, aktywne instrukcje bazy wiedzy.
  2. Warstwa streszczenia — skompresowana reprezentacja rozmowy do tego punktu, zarządzana automatycznie, żeby długie wątki nie wyczerpały okna kontekstu modelu.
  3. Warstwa bieżąca — ostatnie N tur dosłownie, z większą wagą tego, co właśnie powiedziałeś.

Pamięć długoterminowa wpisuje się w warstwę systemową. Krok pobierania działa na twoich zapisanych faktach, korzystając z sygnału trafności z bieżącej wiadomości: pytasz o indeksowanie baz danych — wypływają fakty o preferencjach MongoDB; przechodzisz do projektowania — cofają się. Model widzi tylko to, co dotyczy bieżącej tury, a nie płaski zrzut wszystkich wytworzonych faktów. Dzięki temu okno kontekstu jest używane sprawnie i unika się „rozdęcia pamięci", gdzie nieistotne szczegóły osobiste rozcieńczają sygnał.

Budżety kontekstu zależą od poziomu — poziom darmowy dostaje 16 tys. tokenów kontekstu łącznie, rosnąc przez plany abonamentowe do 1 mln tokenów w Enterprise. Gdy złożony kontekst (pamięć + streszczenie + bieżące tury) przekracza okno modelu, ToRun najpierw przycina warstwę streszczenia i nigdy po cichu nie odrzuca twoich najświeższych wiadomości ani najtrafniejszych faktów pamięci.

Fakty są twoje, ty nimi zarządzasz

Pamięć należy do tego, kto z niej korzysta. Możesz wypisać wszystko, co ToRun o tobie zapisał, i usunąć pojedyncze pozycje albo całość. Nie istnieje „tajna" pamięć wpływająca na twoje rozmowy bez twojej wiedzy. Magazyn faktów można obejrzeć i zapomnieć na żądanie.

Ten wybór wynika z szerszej zasady: ToRun ma pokazywać ci swój rzeczywisty stan, a nie go ukrywać. Przejrzysta pamięć znaczy, że można jej ufać. Jeśli model działa na błędnym fakcie — powiedzmy, kiedyś zapisał, że wolisz rozbudowane wyjaśnienia, a teraz chcesz zwięzłych — mówisz mu, żeby zapomniał, i kolejne wywołanie tego faktu już nie zobaczy.

Usunięcie jest trwałe i natychmiastowe. Nie ma okresu karencji, w którym stary fakt nadal by się pojawiał.

Bazy wiedzy to nie pamięć

Pamięć przechowuje fakty o tobie. Bazy wiedzy osadzają odpowiedzi w twoich dokumentach.

Gdy wgrywasz dokumentację, kod albo treść dziedzinową do bazy wiedzy, ToRun używa generowania wspieranego pobieraniem (RAG), by wyciągnąć trafne fragmenty w chwili zapytania. Pobrany tekst wstawiany jest obok kontekstu rozmowy, a model cytuje to, czego użył. To właściwe narzędzie, gdy twoje pytanie wymaga przeczytania materiału źródłowego — specyfikacji API, dokumentu prawnego, wewnętrznego podręcznika — a nie przypomnienia osobistej preferencji.

Oba systemy łączą się: jedna tura może czerpać zarówno z twoich osobistych faktów pamięci, jak i z pobrania z bazy wiedzy. Zasilają różne warstwy składania kontekstu i służą różnym celom. Pamięć odpowiada na „kim jesteś i jak wolisz pracować"; baza wiedzy odpowiada na „co mówi ten dokument".

Używanie obu razem sprawia, że ToRun jest przydatny do prawdziwej pracy, a nie tylko do pokazów. Twoje preferencje zostają w pamięci, żebyś ich nie powtarzał; twój materiał źródłowy zostaje w bazie wiedzy, żeby odpowiedzi opierały się na dowodach, a nie na danych treningowych modelu.

Udostępnij LinkedIn X E-mail
Wypróbuj na własnej pracyKażda odpowiedź pokazuje, ile kosztowała. Zacznij od planu bezpłatnego. Zacznij za darmo
Get product updates, not noise New models, features, and changelog highlights - a short email when something actually ships.
Subskrybując, zgadzasz się na otrzymywanie e-maili od ToRun z nowościami produktu. Możesz zrezygnować w dowolnym momencie. Polityka prywatności