Problem pamćenja o kojem nitko ne govori
Pomoćnici umjetne inteligencije postaju doista dobri u pamćenju. Vaš omiljeni oblik izlaza. Tehnološki stog u kojem radite. Vaša vremenska zona, ustroj vašeg tima, činjenica da uvijek želite navode. Taj trajni kontekst čini umjetnu inteligenciju izrazito korisnijom — prestajete se objašnjavati iznova u svakoj sesiji, a pomoćnik počinje djelovati kao kolega, a ne kao okvir za pretraživanje.
Ali uz tu korisnost tiho raste ovisnost. Pomoćnik pamti stvari o vama, a vi ne nadzirete što pamti. Ne možete to lako provjeriti, ne možete izvesti u prenosivom obliku, a odluči li pružatelj promijeniti svoj proizvod pamćenja — ili ga jednostavno ugasiti — nemate nikakav pravni lijek. Ne gubite samo udobnost, nego nakupljeni kontekst koji je stajao mjesece razgovora.
Nije to pretpostavka. To je zadano stanje svake velike platforme umjetne inteligencije koja danas radi.
Tri prava o kojima se ne bi smjelo pregovarati
Rasprava o pravima na podatke nije nova. GDPR, CCPA i desetljeće sporova oko društvenih platformi utvrdili su da oni koji uslugu koriste imaju opravdane zahtjeve prema vlastitim podacima. Pamćenje umjetne inteligencije trebalo bi podlijegati istim mjerilima. Osobito su važna tri prava:
Pravo uvida. Trebali biste vidjeti popis običnim tekstom sa svakom pohranjenom činjenicom o vama. Ne maglovit sažetak, ne „profil prilagodbe" iz brošure — doista pohranjene činjenice, vidljive na zahtjev. Misli li sustav da ste razvijatelj pozadinskog dijela, da volite sažete odgovore i ne podnosite trpni oblik, trebali biste moći pročitati upravo to.
Pravo na zaborav. Svaku pohranjenu činjenicu trebali biste moći obrisati, pojedinačno ili skupno, s trenutačnim učinkom. Brisanje mora biti stvarno — ne meko skrivanje koje iznutra i dalje utječe na ponašanje modela — i mora biti provjerljivo. „Obrisao sam to" treba značiti da model po tome više ne postupa.
Pravo na izvoz i prenosivost. Ako ste kod jednog pružatelja godinu dana gradili koristan kontekst pamćenja i želite prijeći, trebali biste ga moći ponijeti. Prenosivost pamćenja isti je problem kao prenosivost podataka u svakoj drugoj kategoriji. To što je riječ o vektorskom ugrađivanju ili JSON bloku umjesto o proračunskoj tablici pojmovno ništa ne mijenja.
Nijedno od tih prava ne traži žrtvovanje kvalitete proizvoda. Traže da se prema onima koji uslugu koriste postupa kao prema zainteresiranoj strani, a ne kao prema izvoru podataka.
Zašto se platforme opiru
Otpor nije prije svega tehnički, nego ustrojstven. Kontekst pamćenja infrastruktura je zadržavanja. Platforma koja je duboko naučila vaše sklonosti ima prednost troška prelaska pred onom koja to nije učinila. Učiniti pamćenje prenosivim ili lako izbrisivim slabi to zadržavanje, a većina proizvodnih timova koji podešavaju pokazatelje uključenosti tiho odguruje korisnički nadzor.
Postoji i spoznajni problem: timovi koji grade sustave pamćenja često ne znaju točno što je model zadržao, jer pamćenje često nije uredan strukturiran popis, nego izronjelo svojstvo prostora ugrađivanja ili mekog dotjerivanja. Pružiti jasan trag nadzora traži izričite arhitektonske odluke — pohranjivati pamćenje kao strukturirane, pregledive činjenice umjesto neprozirnog stanja modela — a te odluke treba donijeti rano.
Naknadno dodavati sljedivost neprozirnom sustavu skupo je. Graditi je od početka nije. Izbor odražava prvenstva.
Gdje stoji ToRun
Pamćenje u ToRunu pohranjuje se kao izričite, čitljive činjenice. Možete popisati sve što o vama zna, obrisati pojedine stavke ili sve, a brisanje je trenutačno i stvarno — utječe na ono što model vidi u sljedećem potezu. Sustav pamćenja usto je neovisan o jeziku: radi na svih 29 jezika platforme, bez prisile da pišete na engleskom radi pouzdanog pamćenja.
Nismo to tako izgradili zato što smo morali. Izgradili smo tako jer je zamjena — pohranjivati pamćenje kao crnu kutiju koju se ne može ispitati — nespojiva s načelima poštenog sučelja na kojima proizvod počiva. Upita li netko „što znaš o meni?", sustav bi na to pitanje trebao moći odgovoriti potpuno i točno, a ne približno.
Prenosivost izvoza već je isporučena. Zahtjev za podacima vraća vaše pamćenje uz ostatak vaših osobnih podataka, kao datoteku koju sami preuzimate — činjenice su već bile strukturirane, pa je bila riječ o gradnji pristupne točke, a ne o preustroju spremišta.
Ovo je uska tvrdnja: vaše pamćenje umjetne inteligencije trebalo bi pripadati vama, biti vama čitljivo i vama izbrisivo. Nije to prijeporno stajalište. Djelatnost bi mu trebala težiti brže nego što to čini.