多くのAI製品は「あなたを覚えている」と言います。たいていの意味は、今の会話の窓がまだ流れ去っていない、ということです。タブを閉じた途端、モデルはあなたが誰かを知りません。技術構成も、好みも、制約も、毎回ゼロから説明し直すことになります。
ToRunの長期記憶はまったく別の仕組みです。この記事では、何を保つのか、各ターンでどう組み立てられるのか、そしてあなたに何ができるのかを述べます。
何を保ち、なぜ保つのか
ToRunにおける記憶は、あなたの会話から取り出された持続的な事実の集まりです。書き起こしの投げ出しではなく、構造化された覚え書きだと考えてください。簡潔な答えを好む、プロジェクトはMongoDBを使う、TypeScriptで書く、機械学習の素地がある、コード例は特定の書き方で欲しい——といった個別の観察です。
事実は言語に依存しません。三回はトルコ語で、十回は英語で書いても、記憶の仕組みは言語ごとに分断されません。Unicodeを踏まえた正規化(NFKD分解、発音符号の除去、大小の統一)により、ある言語で入れた事実が別の言語で尋ねたときに浮かび上がります。これは実務上重要です。29言語のプラットフォームが、英語を話す人にだけよく働く記憶で済ませるわけにはいきません。
新しい事実は、持続的な情報をモデルが見つけたときに自動で加わることもあれば、あなたが明示的に述べることもできます(「Azureに配備していることを覚えておいて」)。どちらの道もあなたから隠されていません。
記憶が呼び出し時に文脈になるまで
ToRunのチャットの各ターンは、指示がモデルに届く前に三つの文脈の層を組み立てます。
- システム層——製品水準の指示、補助の役割と語り口、有効な知識ベースの指示。
- 要約層——そこまでの会話を圧縮した表現。長いやり取りがモデルの文脈の窓を食い尽くさないよう自動で管理されます。
- 直近層——直近のNターンをそのまま。いま述べたことにより重みが置かれます。
長期記憶はシステム層に収まります。取り出しの段は、今のメッセージから得た関連度の手がかりを使って、保存された事実の上を走ります。データベースの索引について尋ねればMongoDBの好みに関する事実が浮かび、設計の話に移ればそれらは退きます。モデルが見るのは今のターンに関わるものだけであり、これまで生んだ事実の平坦な投げ出しではありません。こうして文脈の窓を効率よく使い、無関係な個人的細部が信号を薄める「記憶の膨れ」を避けます。
文脈の枠は段階によります。無料段階は合計16千トークン、契約の段を上がってEnterpriseでは100万トークンに達します。組み上げた文脈(記憶+要約+直近のターン)がモデルの窓を超えるとき、ToRunはまず要約層を刈り込み、最新のメッセージや最も関わりの深い記憶の事実を黙って捨てることは決してありません。
事実はあなたのもので、あなたが握ります
記憶はそれを使う人のものです。ToRunがあなたについて保存したすべてを一覧でき、個々の項目でも全部でも削除できます。あなたの知らないところで会話に影響する「秘密の」記憶はありません。事実の保管は覗くことができ、求めれば忘れさせられます。
この選択はより広い原則から来ています。ToRunは本当の状態を見せるべきで、隠すべきではない、というものです。透明な記憶とは、信頼できる記憶ということです。モデルが誤った事実に従っているなら——たとえば以前は詳しい説明を好むと記録したのに、今は簡潔なものが欲しいなら——忘れるよう伝えれば、次の呼び出しでその事実は見えなくなります。
削除は恒久かつ即時です。古い事実が浮かび続ける猶予期間はありません。
知識ベースは記憶ではありません
記憶は あなたに関する 事実を保ちます。知識ベースは あなたの文書 に答えを根づかせます。
文書、コード、業務内容を知識ベースに取り込むと、ToRunは検索で補った生成(RAG)を使い、問い合わせの時点で関わりの深い箇所を引き上げます。取り出された文章は会話の文脈の隣に差し込まれ、モデルは使ったものを示します。これは、個人的な好みを思い出すのではなく、出典資料——API仕様、法務文書、社内の手引き——を読むことが必要な問いに向いた道具です。
二つの仕組みは組み合わさります。一つのターンで、あなたの個人的な記憶の事実と知識ベースからの取り出しの両方を引き出せます。文脈の組み立ての異なる層を養い、異なる目的に仕えます。記憶は「あなたが誰で、どう働くのを好むか」に答え、知識ベースは「この文書が何と述べているか」に答えます。
両方を併せて使うことが、ToRunを見せ物ではなく実際の仕事に役立つものにしています。好みは記憶に残るので繰り返さずに済み、出典資料は知識ベースに残るので、答えはモデルの学習データではなく証拠に基づきます。