Problema de memorie despre care nimeni nu vorbește
Asistenții de inteligență artificială devin cu adevărat buni la reținere. Formatul tău preferat de ieșire. Stiva de tehnologie în care lucrezi. Fusul tău orar, alcătuirea echipei tale, faptul că vrei mereu citări. Acest context care rămâne face inteligența artificială mult mai utilă — încetezi să te explici din nou în fiecare sesiune, iar asistentul începe să pară un coleg, nu o casetă de căutare.
Dar alături de această utilitate crește în tăcere o dependență. Asistentul reține lucruri despre tine, iar tu nu controlezi ce reține. Nu poți verifica ușor, nu poți exporta într-un format portabil, iar dacă furnizorul hotărăște să-și schimbe produsul de memorie — sau pur și simplu să-l închidă — nu ai niciun mijloc. Nu pierzi doar comoditatea, ci contextul adunat, a cărui construire a costat luni de conversații.
Nu este o presupunere. Este starea implicită a oricărei platforme mari de inteligență artificială care funcționează azi.
Trei drepturi despre care nu ar trebui să se negocieze
Disputa despre drepturile asupra datelor nu este nouă. GDPR, CCPA și un deceniu de litigii în jurul platformelor sociale au stabilit că cei care folosesc un serviciu au pretenții întemeiate asupra propriilor date. Memoria de inteligență artificială ar trebui să se supună acelorași măsuri. Trei drepturi contează îndeosebi:
Dreptul de a cerceta. Ar trebui să vezi o listă în text simplu cu fiecare fapt stocat despre tine. Nu un rezumat cețos, nu un „profil de personalizare" de broșură — faptele păstrate cu adevărat, vizibile la cerere. Dacă sistemul crede că ești dezvoltator de partea din spate, preferi răspunsuri concise și nu suporți diateza pasivă, ar trebui să poți citi exact asta.
Dreptul de a fi uitat. Fiecare fapt stocat ar trebui să poată fi șters de tine, individual sau în bloc, cu efect imediat. Ștergerea trebuie să fie reală — nu o ascundere moale care influențează pe dinăuntru comportarea modelului — și trebuie să fie verificabilă. „Am șters asta" ar trebui să însemne că modelul nu mai lucrează după aceea.
Dreptul la export și portabilitate. Dacă la un furnizor ai clădit timp de un an un context de memorie util și vrei să treci în altă parte, ar trebui să-l poți lua cu tine. Portabilitatea memoriei este aceeași problemă ca portabilitatea datelor în orice altă categorie. Faptul că e vorba de o încorporare vectorială sau de un bloc JSON în loc de o foaie de calcul nu schimbă nimic conceptual.
Niciunul dintre aceste drepturi nu cere sacrificarea calității produsului. Cer ca cei care folosesc serviciul să fie tratați ca parte interesată, nu ca sursă de date.
De ce se împotrivesc platformele
Împotrivirea nu este în primul rând tehnică, ci structurală. Contextul de memorie este infrastructură de reținere. O platformă care ți-a învățat adânc preferințele are un avantaj de cost al schimbării față de una care nu a făcut-o. A face memoria portabilă sau ușor de șters slăbește această reținere, iar majoritatea echipelor de produs care acordează indicatorii de implicare împing tăcut controlul utilizatorului mai încolo.
Există și o problemă de cunoaștere: echipele care construiesc sisteme de memorie adesea nu știu exact ce a reținut modelul, fiindcă memoria nu este de multe ori o listă structurată îngrijită, ci o însușire ivită din spațiul încorporărilor sau dintr-o ajustare fină moale. A oferi o urmă de audit limpede cere hotărâri de arhitectură explicite — a păstra memoria ca fapte structurate, cercetabile, în locul unei stări opace a modelului — iar aceste hotărâri trebuie luate devreme.
A adăuga urmărirea ulterior într-un sistem opac este scump. A o construi de la început nu este. Alegerea oglindește prioritățile.
Unde stă ToRun
Memoria în ToRun se păstrează ca fapte explicite, care se pot citi. Poți lista tot ce știe despre tine, poți șterge elemente izolate sau tot, iar ștergerea este imediată și reală — se răsfrânge asupra a ceea ce vede modelul la tura următoare. Sistemul de memorie este pe deasupra independent de limbă: funcționează în toate cele 29 de limbi ale platformei, fără să te silească să scrii în engleză pentru o reținere sigură.
Nu l-am construit așa fiindcă a trebuit. L-am construit așa fiindcă cealaltă variantă — a păstra memoria ca o cutie neagră care nu poate fi întrebată — este incompatibilă cu principiile interfeței cinstite pe care stă produsul. Dacă cineva întreabă „ce știi despre mine?", sistemul ar trebui să poată răspunde la această întrebare complet și exact, nu aproximativ.
Portabilitatea exportului este deja livrată. O cerere de date întoarce memoria ta alături de restul datelor tale personale, ca fișier pe care îl descarci singur — faptele erau deja structurate, deci a fost vorba de construirea punctului de acces, nu de reproiectarea depozitului.
Aceasta este o afirmație îngustă: memoria ta de inteligență artificială ar trebui să-ți aparțină, să poată fi citită de tine și ștearsă de tine. Nu este o poziție contestată. Ramura ar trebui să se apropie de ea mai repede decât o face.