Spominska težava, o kateri nihče ne govori
Pomočniki umetne inteligence postajajo res dobri v pomnjenju. Vaša priljubljena oblika izhoda. Tehnološki sklad, v katerem delate. Vaš časovni pas, ustroj vaše ekipe, dejstvo, da vedno želite navedbe. Ta trajni kontekst naredi umetno inteligenco izrazito uporabnejšo — nehate se razlagati znova v vsaki seji in pomočnik začne delovati kot sodelavec, ne kot iskalno polje.
A ob tej uporabnosti tiho raste odvisnost. Pomočnik si o vas zapomni stvari, vi pa ne nadzirate, kaj si zapomni. Tega ne morete zlahka preveriti, ne morete izvoziti v prenosljivi obliki, in če se ponudnik odloči svoj spominski izdelek spremeniti — ali ga preprosto ugasniti — nimate nikakršnega pravnega sredstva. Ne izgubite le udobja, ampak nakopičen kontekst, ki je stal mesece pogovorov.
To ni domneva. To je privzeto stanje vsake velike platforme umetne inteligence, ki danes teče.
Tri pravice, o katerih se ne bi smelo pogajati
Razprava o pravicah do podatkov ni nova. GDPR, CCPA in desetletje sporov okrog družbenih platform so ugotovili, da imajo tisti, ki storitev uporabljajo, upravičene zahtevke do lastnih podatkov. Spomin umetne inteligence bi moral biti podvržen istim merilom. Posebej so pomembne tri pravice:
Pravica do vpogleda. Videti bi morali seznam v navadnem besedilu z vsakim shranjenim dejstvom o vas. Ne meglen povzetek, ne »profil prilagajanja« iz zloženke — resnično shranjena dejstva, vidna na zahtevo. Če sistem misli, da ste razvijalec zaledja, imate raje jedrnate odgovore in ne prenesete trpnika, bi morali prebrati natanko to.
Pravica do pozabe. Vsako shranjeno dejstvo bi morali izbrisati vi, posamično ali v celoti, s takojšnjim učinkom. Brisanje mora biti resnično — ne mehko skrivanje, ki od znotraj še naprej vpliva na vedenje modela — in mora biti preverljivo. »To sem izbrisal« naj pomeni, da model po tem več ne ravna.
Pravica do izvoza in prenosljivosti. Če ste pri enem ponudniku leto dni gradili uporaben spominski kontekst in želite prestopiti, bi ga morali smeti vzeti s seboj. Prenosljivost spomina je ista težava kot prenosljivost podatkov v vsaki drugi kategoriji. To, da gre za vektorsko vložitev ali blok JSON namesto za preglednico, pojmovno ničesar ne spremeni.
Nobena od teh pravic ne zahteva žrtvovanja kakovosti izdelka. Zahtevajo, da se s tistimi, ki storitev uporabljajo, ravna kot z zainteresirano stranjo, ne kot z virom podatkov.
Zakaj se platforme upirajo
Upor ni predvsem tehničen, ampak strukturen. Spominski kontekst je infrastruktura zadrževanja. Platforma, ki se je globoko naučila vaših želja, ima prednost stroška prehoda pred tisto, ki se ni. Narediti spomin prenosljiv ali zlahka izbrisljiv to zadrževanje slabi, večina izdelčnih ekip, ki uglašujejo kazalnike vpletenosti, pa uporabniški nadzor tiho odriva.
Obstaja tudi spoznavna težava: ekipe, ki gradijo spominske sisteme, pogosto ne vedo natančno, kaj je model zadržal, ker spomin pogosto ni urejen strukturiran seznam, ampak vznikla lastnost prostora vložitev ali mehkega dodelovanja. Ponuditi jasno sled nadzora zahteva izrecne arhitekturne odločitve — spomin shranjevati kot strukturirana, pregledljiva dejstva namesto kot nepregledno stanje modela — in te odločitve je treba sprejeti zgodaj.
Naknadno dodajati sledljivost nepreglednemu sistemu je drago. Graditi jo od začetka ni. Izbira odseva prednosti.
Kje stoji ToRun
Spomin v ToRunu se shranjuje kot izrecna, berljiva dejstva. Lahko izpišete vse, kar o vas ve, izbrišete posamezne postavke ali vse, brisanje pa je takojšnje in resnično — vpliva na to, kaj model vidi v naslednji potezi. Spominski sistem je poleg tega neodvisen od jezika: deluje v vseh 29 jezikih platforme, ne da bi vas silil pisati angleško za zanesljivo pomnjenje.
Tega nismo tako zgradili, ker bi morali. Zgradili smo tako, ker je zamenjava — spomin shranjevati kot črno skrinjico, ki je ni mogoče izprašati — nezdružljiva z načeli poštenega vmesnika, na katerih izdelek stoji. Če kdo vpraša »kaj veš o meni?«, bi moral sistem znati na to vprašanje odgovoriti popolno in natančno, ne približno.
Prenosljivost izvoza je že dostavljena. Zahteva za podatke vrne vaš spomin skupaj s preostankom vaših osebnih podatkov kot datoteko, ki jo sami prenesete — dejstva so bila že strukturirana, zato je šlo za gradnjo dostopne točke, ne za preureditev shrambe.
To je ozka trditev: vaš spomin umetne inteligence bi moral pripadati vam, biti vam berljiv in vam izbrisljiv. To ni sporno stališče. Panoga bi morala k njemu težiti hitreje, kot to počne.