誰も語らない記憶の問題
AI補助は本当に覚えるのが上手くなっています。好みの出力の形。仕事で使う技術構成。時間帯、チームの組み方、いつも出典を求めるという事実。この持続する文脈がAIを劇的に役立つものにします——毎回自分を説明し直さずに済み、補助は検索の欄ではなく同僚のように感じられ始めます。
しかしその有用さの隣で、依存が静かに育ちます。補助はあなたのことを覚え、あなたは何を覚えるかを握っていません。簡単には点検できず、持ち運べる形で書き出せず、提供元が記憶の製品を変える——あるいは単に畳む——と決めれば、あなたに打つ手はありません。失うのは便利さだけでなく、何か月もの対話をかけて積み上げた文脈そのものです。
これは仮定ではありません。今日動いている大手AIプラットフォームすべての既定の姿です。
交渉の余地があってはならない三つの権利
データの権利をめぐる議論は新しくありません。GDPR、CCPA、社会的な場をめぐる十年の争いは、サービスを使う人が自分のデータに正当な請求権を持つことを確立しました。AIの記憶も同じ物差しの下にあるべきです。とりわけ三つの権利が重要です。
点検する権利。 あなたについて保存されているすべての事実を、平文の一覧で見られるべきです。曖昧な要約でも、宣伝資料の「個別化の像」でもなく、実際に保たれている事実を、求めれば見られること。あなたを裏側の開発者で、簡潔な答えを好み、受け身の言い回しを嫌う人だとその仕組みが考えているなら、まさにそう読めるべきです。
忘れられる権利。 保存されたすべての事実を、個別にもまとめてでも、即座の効力をもって自分で消せるべきです。削除は本物でなければなりません——内側でモデルのふるまいに影響し続ける柔らかい隠蔽ではなく——そして検証できなければなりません。「それは消した」は、モデルがもうそれに従って動かないという意味であるべきです。
書き出しと持ち運びの権利。 ある提供元のもとで一年かけて役に立つ記憶の文脈を築き、移りたくなったなら、それを持って行けるべきです。記憶の持ち運びは、他のどの分野のデータの持ち運びとも同じ問題です。表計算ではなくベクトルの埋め込みやJSONの塊であることは、概念として何も変えません。
これらの権利のどれも、製品の質を犠牲にすることを求めません。求めるのは、サービスを使う人をデータの源ではなく利害の当事者として扱うことです。
なぜプラットフォームは抵抗するのか
抵抗は主に技術的ではなく構造的です。記憶の文脈は引き留めの基盤です。あなたの好みを深く学んだプラットフォームは、そうでないところに対して乗り換えの費用で優位に立ちます。記憶を持ち運べる、あるいは簡単に消せるものにすればその引き留めは弱まり、関与の指標を調整する製品チームの多くは、利用者の統制を静かに後回しにします。
認識の問題もあります。記憶の仕組みを作るチームでさえ、モデルが何を保ったかを正確に知らないことが多いのです。記憶はきれいな構造化された一覧ではなく、埋め込みの空間や柔らかい微調整から立ち上がる性質であることが多いからです。明快な監査の道筋を差し出すには、はっきりした構造上の決定が要ります——記憶を不透明なモデルの状態ではなく、構造化され点検できる事実として保つこと——そしてその決定は早くに下さねばなりません。
不透明な仕組みに後から追跡可能性を足すのは高くつきます。初めから組み込むのはそうではありません。この選択は優先順位を映します。
ToRunの立ち位置
ToRunの記憶は、はっきりした、読める事実として保たれます。それがあなたについて知っているすべてを一覧でき、個々の項目でも全部でも消せます。削除は即時で本物です——次のターンでモデルが見るものに効きます。記憶の仕組みは言語にも依存しません。確実に覚えてもらうために英語で書く必要はなく、プラットフォームの29言語すべてで働きます。
そう作らねばならなかったからそうしたのではありません。もう一方の道——問い合わせられない黒い箱として記憶を保つこと——が、この製品が拠って立つ誠実な操作の原則と相容れないからです。「私について何を知っていますか」と尋ねられたなら、その仕組みはおおよそではなく、完全かつ正確にその問いに答えられるべきです。
書き出しの持ち運びはすでに提供済みです。データの請求は、あなたの他の個人データとともに記憶を返し、自分でダウンロードするファイルになります——事実はすでに構造化されていたので、保管を作り直すのではなく、その終端を作るだけの話でした。
これは狭い主張です。あなたのAIの記憶は、あなたのもので、あなたに読め、あなたに消せるべきだ、というだけのこと。異論の余地のある立場ではありません。業界は今より速くそこへ向かうべきです。