Paměťový problém, o kterém nikdo nemluví
Asistenti AI se v pamatování opravdu lepší. Váš oblíbený formát výstupu. Technologický stack, ve kterém pracujete. Vaše časové pásmo, uspořádání vašeho týmu, fakt, že vždycky chcete odkazy. Ten trvalý kontext činí AI výrazně užitečnější — přestanete se vysvětlovat znovu v každém sezení a asistent začne působit jako kolega, ne jako vyhledávací políčko.
Vedle té užitečnosti však tiše roste závislost. Asistent si o vás pamatuje věci a vy neřídíte, co si pamatuje. Nemůžete to snadno prověřit, nemůžete to vyexportovat v přenositelném formátu, a rozhodne-li se poskytovatel svůj paměťový produkt změnit — nebo prostě ukončit — nemáte žádnou nápravu. Neztrácíte jen pohodlí, ale nashromážděný kontext, jehož vybudování stálo měsíce interakce.
Není to hypotéza. Je to výchozí stav každé velké platformy AI, která dnes běží.
Tři práva, o nichž by se nemělo vyjednávat
Spor o práva k datům není nový. GDPR, CCPA a desetiletí sporů kolem sociálních platforem ustavily, že ti, kdo službu užívají, mají oprávněné nároky na vlastní data. Paměť AI by měla podléhat týmž normám. Zvlášť záleží na třech právech:
Právo nahlédnout. Měli byste vidět seznam prostým textem s každou uloženou skutečností o vás. Ne mlhavý souhrn, ne „profil personalizace" z brožury — skutečně uchované skutečnosti, viditelné na požádání. Myslí-li si systém, že jste vývojář zázemí, dáváte přednost stručným odpovědím a nesnášíte trpný rod, měli byste si to přesně takto přečíst.
Právo být zapomenut. Každou uloženou skutečnost byste měli umět smazat, jednotlivě nebo hromadně, s okamžitým účinkem. Smazání musí být opravdové — ne měkké skrytí, které uvnitř dál ovlivňuje chování modelu — a musí být prověřitelné. „Smazal jsem to" má znamenat, že podle toho model už nejedná.
Právo na export a přenositelnost. Vybudovali-li jste u jednoho poskytovatele za rok užitečný paměťový kontext a chcete přejít jinam, měli byste jej moci vzít s sebou. Přenositelnost paměti je tentýž problém jako přenositelnost dat v každé jiné kategorii. Že jde o vektorové vnoření nebo blok JSON místo tabulky, na tom pojmově nic nemění.
Žádné z těchto práv nevyžaduje obětovat kvalitu produktu. Vyžadují chovat se k těm, kdo službu užívají, jako k zúčastněné straně, ne jako ke zdroji dat.
Proč se platformy brání
Odpor není především technický, ale strukturální. Paměťový kontext je infrastruktura udržení. Platforma, která se hluboce naučila vaše preference, má výhodu nákladu na přechod oproti platformě, která to neudělala. Učinit paměť přenositelnou nebo snadno smazatelnou toto udržení oslabuje a většina produktových týmů optimalizujících ukazatele zapojení tiše odsouvá uživatelské řízení.
Je tu i poznávací problém: týmy stavějící paměťové systémy často nevědí přesně, co si model podržel, protože paměť nebývá úhledný strukturovaný seznam, ale vynořená vlastnost prostoru vnoření nebo měkkého doladění. Poskytnout jasnou auditní stopu vyžaduje výslovná architektonická rozhodnutí — ukládat paměť jako strukturované, prohlédnutelné skutečnosti místo neprůhledného stavu modelu — a ta rozhodnutí je třeba učinit brzy.
Přidávat dohledatelnost dodatečně do neprůhledného systému je drahé. Stavět ji od začátku není. Volba odráží priority.
Kde stojí ToRun
Paměť v ToRun se ukládá jako výslovné, čitelné skutečnosti. Můžete vypsat vše, co o vás ví, smazat jednotlivé položky nebo vše, a smazání je okamžité a opravdové — projeví se v tom, co model vidí v dalším tahu. Paměťový systém je navíc nezávislý na jazyce: funguje ve všech 29 jazycích platformy, aniž by vás nutil psát anglicky pro spolehlivé zapamatování.
Nepostavili jsme to tak proto, že jsme museli. Postavili jsme to tak, protože alternativa — ukládat paměť jako černou skříňku, na kterou se nelze zeptat — je neslučitelná se zásadami poctivého rozhraní, na nichž produkt stojí. Zeptá-li se někdo „co o mně víš?", měl by systém umět na tu otázku odpovědět úplně a přesně, ne přibližně.
Přenositelnost exportu je už dodána. Žádost o data vrátí vaši paměť spolu se zbytkem vašich osobních údajů jako soubor, který si sami stáhnete — skutečnosti už byly strukturované, takže šlo o postavení přístupového bodu, ne o přepracování úložiště.
Toto je úzké tvrzení: vaše paměť AI by měla patřit vám, být vámi čitelná a vámi smazatelná. Není to sporné stanovisko. Odvětví by k němu mělo směřovat rychleji, než směřuje.