Muistiongelma, josta kukaan ei puhu
Tekoälyavustajat ovat käymässä todella hyviksi muistamisessa. Suosikkitulostemuotosi. Teknologiapino, jossa työskentelet. Aikavyöhykkeesi, tiimisi rakenne, se että haluat aina lähdeviitteet. Tämä pysyvä asiayhteys tekee tekoälystä huomattavasti hyödyllisemmän — lakkaat selittämästä itseäsi uudelleen joka istunnossa, ja avustaja alkaa tuntua työtoverilta eikä hakukentältä.
Mutta tuon hyödyn rinnalla kasvaa hiljaa riippuvuus. Avustaja muistaa asioita sinusta, etkä sinä hallitse, mitä se muistaa. Et voi tarkastaa sitä helposti, et voi viedä sitä siirrettävässä muodossa, ja jos palveluntarjoaja päättää muuttaa muistituotettaan — tai vain lopettaa sen — sinulla ei ole mitään oikeussuojaa. Et menetä vain mukavuutta vaan kertyneen asiayhteyden, jonka rakentaminen vei kuukausia keskusteluja.
Tämä ei ole oletus. Se on jokaisen tänään toimivan suuren tekoälyalustan oletustila.
Kolme oikeutta, joista ei pitäisi neuvotella
Kiista tieto-oikeuksista ei ole uusi. GDPR, CCPA ja vuosikymmen riitoja sosiaalisten alustojen ympärillä ovat vahvistaneet, että palvelua käyttävillä on perusteltuja vaatimuksia omiin tietoihinsa. Tekoälymuistin pitäisi kuulua samojen mittapuiden piiriin. Erityisesti kolme oikeutta merkitsee:
Oikeus tarkastaa. Sinun pitäisi nähdä selkokielinen luettelo jokaisesta sinusta tallennetusta tiedosta. Ei sumeaa tiivistelmää, ei esitteen »personointiprofiilia« — todella säilytetyt tiedot, näkyvissä pyynnöstä. Jos järjestelmä ajattelee, että olet taustapuolen kehittäjä, pidät tiiviistä vastauksista etkä siedä passiivia, sinun pitäisi voida lukea juuri tuo.
Oikeus tulla unohdetuksi. Jokainen tallennettu tieto pitäisi voida poistaa sinun toimestasi, yksittäin tai joukkona, välittömin vaikutuksin. Poiston on oltava aito — ei pehmeä piilotus, joka sisältä yhä vaikuttaa mallin käyttäytymiseen — ja sen on oltava todennettavissa. »Poistin tuon« pitäisi tarkoittaa, ettei malli enää toimi sen mukaan.
Oikeus vientiin ja siirrettävyyteen. Jos olet rakentanut yhden palveluntarjoajan luona vuoden ajan hyödyllisen muistiyhteyden ja haluat vaihtaa, sinun pitäisi voida ottaa se mukaasi. Muistin siirrettävyys on sama ongelma kuin tietojen siirrettävyys missä tahansa muussa luokassa. Se, että kyse on vektoriupotuksesta tai JSON-lohkosta taulukon sijaan, ei muuta asiaa käsitteellisesti.
Mikään näistä oikeuksista ei vaadi tuotelaadun uhraamista. Ne vaativat, että palvelua käyttäviä kohdellaan osapuolena eikä tietolähteenä.
Miksi alustat vastustavat
Vastustus ei ole ensisijaisesti teknistä vaan rakenteellista. Muistiyhteys on pitokykyinfrastruktuuria. Alustalla, joka on oppinut mieltymyksesi syvästi, on vaihtokustannusetu siihen nähden, joka ei ole. Muistin tekeminen siirrettäväksi tai helposti poistettavaksi heikentää tuota pitokykyä, ja useimmat sitoutumismittareita virittävät tuotetiimit työntävät käyttäjän hallintaa hiljaa myöhemmäksi.
On myös tiedollinen ongelma: muistijärjestelmiä rakentavat tiimit eivät usein tiedä tarkalleen, mitä malli on pidättänyt, koska muisti ei usein ole siisti jäsennelty luettelo vaan upotusavaruuden tai pehmeän hienosäädön esiin nouseva ominaisuus. Selkeän tarkastusjäljen tarjoaminen vaatii nimenomaisia arkkitehtuuripäätöksiä — muistin säilyttämistä jäsenneltyinä, tarkasteltavina tietoina läpinäkymättömän mallitilan sijaan — ja nuo päätökset on tehtävä varhain.
Jäljitettävyyden lisääminen jälkikäteen läpinäkymättömään järjestelmään on kallista. Sen rakentaminen alusta alkaen ei ole. Valinta heijastaa etusijoja.
Missä ToRun seisoo
Muisti ToRunissa säilytetään nimenomaisina, luettavina tietoina. Voit luetella kaiken, mitä se sinusta tietää, poistaa yksittäisiä kohtia tai kaiken, ja poisto on välitön ja aito — se vaikuttaa siihen, mitä malli näkee seuraavalla vuorolla. Muistijärjestelmä on lisäksi kielestä riippumaton: se toimii alustan kaikilla 29 kielellä pakottamatta sinua kirjoittamaan englanniksi luotettavan muistamisen vuoksi.
Emme rakentaneet sitä näin siksi, että oli pakko. Rakensimme sen näin, koska vaihtoehto — muistin säilyttäminen mustana laatikkona, jota ei voi kysellä — on yhteensopimaton niiden rehellisen käyttöliittymän periaatteiden kanssa, joiden varassa tuote lepää. Jos joku kysyy »mitä tiedät minusta?«, järjestelmän pitäisi osata vastata tuohon kysymykseen täydellisesti ja tarkasti, ei likimäärin.
Viennin siirrettävyys on jo toimitettu. Tietopyyntö palauttaa muistisi muiden henkilötietojesi ohella tiedostona, jonka lataat itse — tiedot olivat jo jäsenneltyjä, joten kyse oli päätepisteen rakentamisesta eikä varaston uudelleensuunnittelusta.
Tämä on kapea väite: tekoälymuistisi pitäisi kuulua sinulle, olla sinun luettavissasi ja sinun poistettavissasi. Se ei ole kiistanalainen kanta. Alan pitäisi lähestyä sitä nopeammin kuin se tekee.