Проблема памяти, о которой никто не говорит
ИИ-помощники становятся по-настоящему хороши в запоминании. Ваш предпочитаемый формат вывода. Технологический стек, в котором вы работаете. Ваш часовой пояс, устройство вашей команды, тот факт, что вам всегда нужны ссылки. Этот сохраняющийся контекст делает ИИ радикально полезнее — вы перестаёте объяснять себя заново в каждой сессии, и помощник начинает ощущаться коллегой, а не строкой поиска.
Но рядом с этой пользой тихо растёт зависимость. Помощник помнит вещи о вас, а вы не управляете тем, что он помнит. Вы не можете это легко проверить, не можете выгрузить в переносимом формате, и если поставщик решит изменить свой продукт памяти — или просто закрыть его — у вас нет средств защиты. Вы теряете не только удобство, но и накопленный контекст, на построение которого ушли месяцы взаимодействия.
Это не гипотеза. Это состояние по умолчанию у любой крупной ИИ-платформы, работающей сегодня.
Три права, которые не должны быть предметом торга
Спор о правах на данные не нов. GDPR, CCPA и десятилетие тяжб вокруг социальных платформ установили, что у пользующихся сервисом есть законные притязания на собственные данные. ИИ-память должна отвечать тем же нормам. Особенно важны три права:
Право осматривать. Вы должны иметь возможность увидеть список открытым текстом с каждым сохранённым о вас фактом. Не расплывчатую сводку, не «профиль персонализации» из буклета — фактически сохранённые факты, видимые по требованию. Если система считает, что вы разработчик серверной части, предпочитаете краткие ответы и не выносите страдательный залог, вы должны иметь возможность прочесть именно это.
Право быть забытым. Каждый сохранённый факт должен удаляться вами, по одному или целиком, с немедленным действием. Удаление должно быть настоящим — не мягким сокрытием, которое продолжает влиять на поведение модели изнутри, — и должно быть проверяемым. «Я это удалил» должно означать, что модель больше по нему не действует.
Право на выгрузку и переносимость. Если вы за год у одного поставщика построили полезный контекст памяти и хотите перейти, вы должны иметь возможность забрать его с собой. Переносимость памяти — та же задача, что переносимость данных в любой другой категории. То, что речь о векторном эмбеддинге или блоке JSON, а не о таблице, концептуально ничего не меняет.
Ни одно из этих прав не требует жертвовать качеством продукта. Они требуют относиться к пользующемуся сервисом как к заинтересованной стороне, а не как к источнику данных.
Почему платформы сопротивляются
Сопротивление не столько техническое, сколько структурное. Контекст памяти — инфраструктура удержания. Платформа, глубоко изучившая ваши предпочтения, имеет преимущество в издержках перехода перед платформой, которая этого не сделала. Сделать память переносимой или легко удаляемой ослабляет это удержание, и большинство продуктовых команд, оптимизирующих метрики вовлечённости, тихо отодвигают пользовательский контроль.
Есть и познавательная проблема: команды, строящие системы памяти, часто не знают точно, что модель удержала, потому что память нередко не аккуратный структурированный список, а эмерджентное свойство пространства эмбеддингов или мягкой донастройки. Обеспечить ясный след аудита требует явных архитектурных решений — хранить память как структурированные, осматриваемые факты, а не как непрозрачное состояние модели, — и эти решения нужно принимать рано.
Добавлять прослеживаемость задним числом в непрозрачную систему дорого. Строить её с самого начала — нет. Выбор отражает приоритеты.
Где стоит ToRun
Память в ToRun хранится как явные, читаемые человеком факты. Вы можете перечислить всё, что она о вас знает, удалить отдельные элементы или всё, и удаление немедленно и настоящее — оно влияет на то, что модель видит на следующем ходу. Система памяти к тому же не зависит от языка: она работает во всех 29 языках платформы, не заставляя вас писать по-английски ради надёжного запоминания.
Мы построили это так не потому, что были обязаны. Мы построили это так, потому что альтернатива — хранить память чёрным ящиком, который нельзя опросить, — несовместима с принципами честного интерфейса, на которых держится продукт. Если кто-то спрашивает «что ты обо мне знаешь?», система должна суметь ответить на этот вопрос полно и точно, а не приблизительно.
Переносимость выгрузки уже выпущена. Запрос на данные возвращает вашу память вместе с остальными персональными данными в виде файла, который вы скачиваете сами, — факты уже были структурированы, так что дело было в создании точки доступа, а не в переделке хранилища.
Это узкое утверждение: ваша ИИ-память должна принадлежать вам, быть читаемой вами и удаляемой вами. Это не спорная позиция. Отрасли следует сходиться к ней быстрее, чем она это делает.