Minnisvandinn sem enginn talar um
Gervigreindaraðstoðir eru að verða virkilega góðar í að muna. Uppáhalds úttakssniðið þitt. Tæknistaflinn sem þú vinnur í. Tímabeltið þitt, uppbygging hópsins þíns, sú staðreynd að þú vilt alltaf heimildatilvísanir. Þetta varanlega samhengi gerir gervigreind stórum mun gagnlegri — þú hættir að útskýra þig upp á nýtt í hverri lotu, og aðstoðin fer að virka eins og samstarfsmaður frekar en leitarreitur.
En við hlið þessa gagns vex hljóðlega ósjálfstæði. Aðstoðin man hluti um þig og þú stýrir ekki hvað hún man. Þú getur ekki skoðað það auðveldlega, þú getur ekki flutt það út á færanlegu sniði, og ákveði þjónustuaðilinn að breyta minnisvöru sinni — eða einfaldlega leggja hana af — hefurðu engin úrræði. Þú missir ekki bara þægindin heldur uppsafnaða samhengið sem tók mánuði af samtölum að byggja.
Þetta er ekki tilgáta. Þetta er sjálfgefið ástand hvers stórs gervigreindarvettvangs sem starfar í dag.
Þrenn réttindi sem ekki ætti að semja um
Deilan um réttindi yfir gögnum er ekki ný. GDPR, CCPA og áratugur deilna um samfélagsvettvanga hafa fest að þeir sem nota þjónustu eigi lögmæt tilkall til eigin gagna. Gervigreindarminni ætti að lúta sömu mælikvörðum. Einkum skipta þrenn réttindi máli:
Rétturinn til að skoða. Þú ættir að sjá lista í skýrum texta með hverri staðreynd sem geymd er um þig. Ekki þokukennda samantekt, ekki bæklingsleg »sérsniðssnið« — staðreyndirnar sem raunverulega eru geymdar, sýnilegar að beiðni. Telji kerfið að þú sért bakendaforritari, kjósir hnitmiðuð svör og þolir ekki þolmynd ættirðu að geta lesið nákvæmlega það.
Rétturinn til að gleymast. Hverri geymdri staðreynd ætti þú að geta eytt, stakri eða í heild, með tafarlausum áhrifum. Eyðingin verður að vera raunveruleg — ekki mjúk hulning sem heldur áfram að hafa áhrif á hegðun líkansins innra með sér — og hún verður að vera sannreynanleg. »Ég eyddi því« á að þýða að líkanið fari ekki lengur eftir því.
Rétturinn til útflutnings og flutnings. Hafir þú hjá einum þjónustuaðila byggt gagnlegt minnissamhengi í heilt ár og viljir skipta ættirðu að geta tekið það með þér. Flutningshæfni minnis er sami vandinn og flutningshæfni gagna í hverjum öðrum flokki. Að um sé að ræða vigurívafningu eða JSON-blokk í stað töflureiknis breytir engu hugtakslega.
Engin þessara réttinda krefjast þess að vörugæðum sé fórnað. Þau krefjast þess að þeir sem nota þjónustuna séu meðhöndlaðir sem hagsmunaaðili en ekki sem gagnalind.
Hvers vegna vettvangar spyrna á móti
Andstaðan er ekki fyrst og fremst tæknileg heldur byggingarleg. Minnissamhengi er innviðir viðloðunar. Vettvangur sem hefur lært óskir þínar djúpt hefur forskot í skiptikostnaði gagnvart þeim sem hefur það ekki. Að gera minni færanlegt eða auðvelt að eyða veikir þá viðloðun, og flestir vöruhópar sem stilla af mælikvarða um þátttöku ýta stjórn notandans hljóðlega aftar.
Það er líka þekkingarvandi: hóparnir sem byggja minniskerfi vita oft ekki nákvæmlega hvað líkanið hélt eftir, því minni er oft ekki snyrtilegur skipulagður listi heldur eiginleiki sem sprettur fram úr ívafningarrými eða mjúkri fínstillingu. Að bjóða skýra úttektarslóð krefst afdráttarlausra byggingarákvarðana — að geyma minni sem skipulagðar, skoðanlegar staðreyndir í stað ógegnsæs ástands líkansins — og þær ákvarðanir verður að taka snemma.
Að bæta rekjanleika við ógegnsætt kerfi eftir á er dýrt. Að byggja hann inn frá upphafi er það ekki. Valið endurspeglar forgangsröðun.
Hvar ToRun stendur
Minni í ToRun er geymt sem afdráttarlausar, læsilegar staðreyndir. Þú getur talið upp allt sem það veit um þig, eytt stökum atriðum eða öllu, og eyðingin er tafarlaus og raunveruleg — hún hefur áhrif á það sem líkanið sér í næstu umferð. Minniskerfið er auk þess óháð tungumáli: það virkar á öllum 29 tungumálum vettvangsins án þess að neyða þig til að skrifa á ensku til að vera munaður áreiðanlega.
Við byggðum það ekki svona af því við urðum. Við byggðum það svona af því hinn kosturinn — að geyma minni sem svartan kassa sem ekki er hægt að spyrja — er ósamrýmanlegur þeim reglum um heiðarlegt viðmót sem varan hvílir á. Spyrji einhver »hvað veistu um mig?« ætti kerfið að geta svarað þeirri spurningu til fulls og nákvæmlega, ekki nokkurn veginn.
Flutningshæfni útflutnings er þegar afhent. Beiðni um gögn skilar minninu þínu ásamt öðrum persónuupplýsingum þínum, sem skrá sem þú sækir sjálfur — staðreyndirnar voru þegar skipulagðar, svo þetta snerist um að byggja endapunktinn en ekki um að endurhanna geymsluna.
Þetta er þröng fullyrðing: gervigreindarminnið þitt ætti að tilheyra þér, vera þér læsilegt og þér eyðanlegt. Þetta er ekki umdeild afstaða. Greinin ætti að nálgast hana hraðar en hún gerir.