Az emlékezeti gond, amelyről senki sem beszél
Az MI-asszisztensek egyre jobbak a megjegyzésben. Kedvenc kimeneti formátuma. A technológiai készlet, amelyben dolgozik. Az időzónája, a csapata felépítése, az a tény, hogy mindig forrásmegjelölést kér. Ez a megmaradó környezet drámaian hasznosabbá teszi a mesterséges intelligenciát — abbahagyja, hogy minden munkamenetben újra elmagyarázza magát, és az asszisztens kollégának kezd tűnni, nem keresőmezőnek.
De e hasznosság mellett csendben függőség nő. Az asszisztens megjegyez dolgokat Önről, és Ön nem felügyeli, mit jegyez meg. Nem tudja könnyen ellenőrizni, nem tudja hordozható formátumban kiexportálni, és ha a szolgáltató úgy dönt, hogy megváltoztatja emlékezeti termékét — vagy egyszerűen kivezeti —, semmiféle jogorvoslata nincs. Nemcsak a kényelmet veszíti el, hanem a felhalmozott környezetet, amelynek felépítése hónapnyi beszélgetésbe került.
Ez nem feltevés. Ez minden ma működő nagy MI-platform alapállapota.
Három jog, amelyről nem kellene alkudozni
Az adatjogokról szóló vita nem új. A GDPR, a CCPA és a közösségi platformok körüli évtizednyi jogvita megállapította, hogy akik szolgáltatást használnak, jogos igényekkel bírnak saját adataikra. Az MI-emlékezetnek ugyanezeknek a mércéknek kellene megfelelnie. Különösen három jog számít:
A betekintés joga. Látnia kellene egy egyszerű szöveges listát minden Önről tárolt ténnyel. Nem ködös összefoglalót, nem brosúrás „személyre szabási profilt" — a ténylegesen megőrzött tényeket, kérésre láthatóan. Ha a rendszer úgy gondolja, hogy háttérfejlesztő, tömör válaszokat kedvel, és nem bírja a szenvedő szerkezetet, pontosan ezt kellene tudnia elolvasni.
Az elfeledtetés joga. Minden tárolt tényt törölnie kellene tudnia, egyenként vagy tömegesen, azonnali hatállyal. A törlésnek valódinak kell lennie — nem puha elrejtésnek, amely belül továbbra is befolyásolja a modell viselkedését — és ellenőrizhetőnek kell lennie. A „töröltem ezt" azt kell jelentse, hogy a modell többé nem jár el ennek megfelelően.
Az exportálás és hordozhatóság joga. Ha egy szolgáltatónál egy éven át hasznos emlékezeti környezetet épített, és váltani akar, magával kellene vihetnie. Az emlékezet hordozhatósága ugyanaz a kérdés, mint az adathordozhatóság bármely más kategóriában. Az, hogy vektoros beágyazásról vagy JSON-blokkról van szó táblázat helyett, fogalmilag semmit sem változtat.
Egyik jog sem kívánja a termékminőség feláldozását. Azt kívánják, hogy a szolgáltatást használókkal érdekelt félként bánjanak, ne adatforrásként.
Miért ellenkeznek a platformok
Az ellenállás nem elsősorban műszaki, hanem szerkezeti. Az emlékezeti környezet megtartási infrastruktúra. Az a platform, amely mélyen megtanulta a kívánságait, váltási költség előnnyel bír azzal szemben, amelyik nem. Az emlékezetet hordozhatóvá vagy könnyen törölhetővé tenni gyengíti ezt a megtartást, és a bevonódási mutatókra hangoló terméki csapatok többsége csendben hátrébb tolja a felhasználói felügyeletet.
Van egy megismerési gond is: az emlékezetrendszereket építő csapatok gyakran nem tudják pontosan, mit tartott meg a modell, mert az emlékezet gyakran nem rendezett szerkezetes lista, hanem a beágyazási tér vagy a lágy finomhangolás felbukkanó tulajdonsága. Világos vizsgálati nyomot nyújtani kifejezett építészeti döntéseket kíván — az emlékezetet szerkezetes, átnézhető tényekként tárolni átláthatatlan modellállapot helyett —, és ezeket a döntéseket korán kell meghozni.
Utólag követhetőséget építeni egy átláthatatlan rendszerbe drága. Kezdettől beépíteni nem az. A választás elsőbbségeket tükröz.
Hol áll a ToRun
Az emlékezet a ToRunban kifejezett, olvasható tényekként tárolódik. Kilistázhatja mindazt, amit Önről tud, törölhet egyes tételeket vagy mindent, és a törlés azonnali és valódi — hat arra, amit a modell a következő lépésben lát. Az emlékezetrendszer ráadásul nyelvfüggetlen: a platform mind a 29 nyelvén működik, anélkül hogy angolul kellene írnia a megbízható megjegyzéshez.
Nem azért építettük így, mert kellett. Azért építettük így, mert a másik lehetőség — az emlékezetet fekete dobozként tárolni, amelyet nem lehet kikérdezni — összeegyeztethetetlen a becsületes felület elveivel, amelyeken a termék nyugszik. Ha valaki megkérdezi: „mit tudsz rólam?", a rendszernek teljesen és pontosan kellene tudnia válaszolni erre a kérdésre, nem hozzávetőlegesen.
Az exportálás hordozhatósága már leszállítva. Egy adatkérés visszaadja az emlékezetét a többi személyes adatával együtt, olyan fájlként, amelyet maga tölt le — a tények már szerkezetesek voltak, így a végpont megépítéséről volt szó, nem a tár újratervezéséről.
Ez szűk állítás: az MI-emlékezete Önhöz kellene tartozzon, Ön által olvasható és Ön által törölhető legyen. Nem vitatott álláspont. Az iparágnak gyorsabban kellene efelé tartania, mint ahogy tart.