無人談論的記憶問題
人工智慧助理在記憶上確實愈來愈強。你偏好的輸出格式、你工作的技術堆疊、你的時區、你團隊的組成、你總是要出處這件事。這份延續的脈絡讓人工智慧有用得多——你不必每次工作階段都重新交代自己,助理開始像同事而不是搜尋框。
但在這份有用之側,依賴正悄悄長起來。助理記住關於你的事,而你並不掌握它記住什麼。你不容易稽查,無法以可攜的格式匯出,而若供應商決定改動其記憶產品——或乾脆收掉——你並無救濟。你失去的不只是便利,還有花了數月對話才積起來的脈絡。
這不是假設。這是今天在運作的每一個大型人工智慧平台的預設狀態。
三項不該拿來交易的權利
關於資料權利的爭論並不新鮮。GDPR、CCPA 與圍繞社群平台的十年訴訟已經確立:使用服務的人對自己的資料有正當的主張。人工智慧記憶理應受同樣的尺度約束。其中三項權利尤為要緊:
查看的權利。 你應當能看到一份明文清單,列出關於你所存的每一筆事實。不是含糊的摘要,也不是宣傳品上的「個人化輪廓」——而是真正保存的事實,依需求可見。若系統認為你是後端開發者、偏好簡潔回覆、受不了被動語態,你應當能讀到的正是這些。
被遺忘的權利。 每一筆所存的事實都應當能由你刪除,無論單筆還是整體,且立即生效。刪除必須是真實的——不是仍在內部影響模型行為的軟性隱藏——並且必須可驗證。「我把那筆刪了」應當意味著模型不再據此行事。
匯出與可攜的權利。 若你在一家供應商處花了一年建起有用的記憶脈絡,而後想換,你應當能把它帶走。記憶的可攜性,與任何其他領域的資料可攜性是同一個問題。它是一段向量嵌入或一塊 JSON 而不是一張試算表,在概念上並無差別。
這些權利沒有一項要求犧牲產品品質。它們要求的是:把使用服務的人當作利害關係人,而不是資料來源。
平台為何抵觸
抵觸主要不是技術上的,而是結構上的。記憶脈絡是留存的基礎建設。深深學會了你偏好的平台,相對未曾學會的平台,在轉換成本上占優。讓記憶可攜、或容易刪除,會削弱這份留存;而多數以互動指標為準繩的產品團隊,會悄悄把使用者的掌控往後推。
還有一個認知上的難處:建構記憶系統的團隊往往並不確切知道模型留住了什麼,因為記憶常常不是一份整潔的結構化清單,而是嵌入空間或輕度微調中湧現出的性質。要給出清晰的稽核軌跡,需要明確的架構決定——把記憶存成結構化、可查看的事實,而不是不透明的模型狀態——而這些決定必須早早做出。
事後往不透明的系統裡加裝可追溯性代價高昂。從一開始就把它建進去則不然。這份取捨映出的是優先順序。
ToRun 站在哪裡
ToRun 中的記憶以明確、可讀的事實存放。你可以列出它關於你所知的一切,刪掉單筆或全部,而刪除是即時且真實的——它作用於模型在下一輪所看到的內容。記憶系統還與語言無關:它在平台的全部 29 種語言下運作,不必為了被可靠記住而改用英文書寫。
我們這樣建,並非因為不得不。我們這樣建,是因為另一條路——把記憶存成無法追問的黑盒——與這項產品所立足的誠實互動原則不相容。若有人問「你知道我什麼」,系統應當能完整而準確地回答這個問題,而不是大致回答。
匯出的可攜性已經交付。一次資料請求會連同你其餘的個人資料一起回傳你的記憶,成為一份你自己下載的檔案——事實本就是結構化的,因此這是建一個端點的事,而不是重做儲存的事。
這是一個狹窄的主張:你的人工智慧記憶應當屬於你、可由你讀取、可由你刪除。這並非有爭議的立場。業界理應比現在更快地朝它靠攏。