Problem pamięci, o którym nikt nie mówi
Asystenci AI stają się naprawdę dobrzy w zapamiętywaniu. Twój ulubiony format wyjścia. Stos technologiczny, w którym pracujesz. Twoja strefa czasowa, budowa twojego zespołu, fakt, że zawsze chcesz cytowań. Ten trwały kontekst czyni AI dramatycznie użyteczniejszą — przestajesz tłumaczyć się na nowo w każdej sesji, a asystent zaczyna przypominać współpracownika, a nie okienko wyszukiwania.
Ale obok tej użyteczności cicho rośnie zależność. Asystent pamięta rzeczy o tobie, a ty nie kontrolujesz, co pamięta. Nie możesz tego łatwo zbadać, nie możesz wyeksportować w przenośnym formacie, a jeśli dostawca postanowi zmienić swój produkt pamięci — albo po prostu go wygasić — nie masz środków zaradczych. Tracisz nie tylko wygodę, ale nagromadzony kontekst, którego zbudowanie zajęło miesiące interakcji.
To nie jest hipoteza. To stan domyślny każdej dużej platformy AI działającej dziś.
Trzy prawa, które nie powinny podlegać negocjacji
Spór o prawa do danych nie jest nowy. RODO, CCPA i dekada sporów wokół platform społecznościowych ustaliły, że korzystający z usługi mają uzasadnione roszczenia do własnych danych. Pamięć AI powinna podlegać tym samym normom. Szczególnie liczą się trzy prawa:
Prawo wglądu. Powinieneś móc zobaczyć listę zwykłym tekstem z każdym faktem przechowywanym o tobie. Nie mgliste streszczenie, nie „profil personalizacji" z ulotki — faktycznie zachowane fakty, widoczne na żądanie. Jeśli system uważa, że jesteś programistą zaplecza, wolisz zwięzłe odpowiedzi i nie znosisz strony biernej, powinieneś móc przeczytać dokładnie to.
Prawo do bycia zapomnianym. Każdy przechowywany fakt powinien dać się przez ciebie usunąć, pojedynczo albo hurtem, ze skutkiem natychmiastowym. Usunięcie musi być prawdziwe — nie miękkie ukrycie, które wewnątrz nadal wpływa na zachowanie modelu — i musi być sprawdzalne. „Usunąłem to" powinno znaczyć, że model już według tego nie działa.
Prawo do eksportu i przenośności. Jeśli przez rok zbudowałeś u jednego dostawcy przydatny kontekst pamięci i chcesz się przenieść, powinieneś móc zabrać go ze sobą. Przenośność pamięci to ten sam problem co przenośność danych w każdej innej kategorii. To, że chodzi o wektor osadzenia albo blok JSON, a nie o arkusz kalkulacyjny, niczego pojęciowo nie zmienia.
Żadne z tych praw nie wymaga poświęcenia jakości produktu. Wymagają traktowania korzystających z usługi jako interesariuszy, a nie jako źródła danych.
Dlaczego platformy się opierają
Opór nie jest przede wszystkim techniczny, lecz strukturalny. Kontekst pamięci to infrastruktura utrzymania. Platforma, która głęboko nauczyła się twoich preferencji, ma przewagę kosztu zmiany nad platformą, która tego nie zrobiła. Uczynienie pamięci przenośną albo łatwą do skasowania osłabia to utrzymanie, a większość zespołów produktowych optymalizujących wskaźniki zaangażowania po cichu odsuwa kontrolę użytkownika.
Jest też problem poznawczy: zespoły budujące systemy pamięci często nie wiedzą dokładnie, co model zatrzymał, bo pamięć bywa nie schludną listą uporządkowaną, lecz własnością emergentną przestrzeni osadzeń albo miękkiego dostrajania. Zapewnienie czytelnego śladu audytu wymaga jawnych decyzji architektonicznych — przechowywania pamięci jako uporządkowanych, możliwych do obejrzenia faktów zamiast nieprzejrzystego stanu modelu — a te decyzje trzeba podjąć wcześnie.
Dokładanie prześledzalności po fakcie do nieprzejrzystego systemu jest drogie. Budowanie jej od początku — nie. Wybór odzwierciedla priorytety.
Gdzie stoi ToRun
Pamięć w ToRun przechowywana jest jako jawne, czytelne fakty. Możesz wypisać wszystko, co o tobie wie, usunąć pojedyncze pozycje albo całość, a usunięcie jest natychmiastowe i prawdziwe — wpływa na to, co model widzi w kolejnej turze. System pamięci jest też niezależny od języka: działa we wszystkich 29 językach platformy, nie zmuszając cię do pisania po angielsku dla niezawodnego zapamiętania.
Nie zbudowaliśmy tego tak dlatego, że musieliśmy. Zbudowaliśmy tak, bo alternatywa — przechowywanie pamięci jako czarnej skrzynki, której nie da się odpytać — jest nie do pogodzenia z zasadami uczciwego interfejsu, na których stoi produkt. Jeśli ktoś pyta „co o mnie wiesz?", system powinien umieć odpowiedzieć na to pytanie pełnie i dokładnie, a nie z grubsza.
Przenośność eksportu została już wydana. Wniosek o dane zwraca twoją pamięć wraz z resztą twoich danych osobowych, jako plik, który sam pobierasz — fakty były już uporządkowane, więc rzecz sprowadzała się do zbudowania punktu dostępu, a nie do przeprojektowania magazynu.
To wąskie twierdzenie: twoja pamięć AI powinna należeć do ciebie, być przez ciebie czytelna i przez ciebie usuwalna. To nie jest stanowisko kontrowersyjne. Branża powinna zmierzać ku niemu szybciej, niż zmierza.