Yearly Pay yearly and get 2 months free on every paid plan. See plans
登录 免费开始

你的人工智能记忆应当属于你

无人谈论的记忆问题 人工智能助手在记忆上确实越来越强。你偏好的输出格式、你工作的技术栈、你的时区、你团队的构成、你总是要出处这件事。这份延续的语境让人工智能有用得多——你不必每次会话都重新交代自己,助手开始像同事而不是搜索框。 但在这份有用之侧,依赖正悄悄长起来。助手记住关于你的事,而你并不掌握它记住什么。你不容易稽核,无法以可携带的格式导出,而若供应商决定改动其记忆产品——或干脆关停——你并无救济。你失去的不只是便利,还有花了数月对话…

无人谈论的记忆问题

人工智能助手在记忆上确实越来越强。你偏好的输出格式、你工作的技术栈、你的时区、你团队的构成、你总是要出处这件事。这份延续的语境让人工智能有用得多——你不必每次会话都重新交代自己,助手开始像同事而不是搜索框。

但在这份有用之侧,依赖正悄悄长起来。助手记住关于你的事,而你并不掌握它记住什么。你不容易稽核,无法以可携带的格式导出,而若供应商决定改动其记忆产品——或干脆关停——你并无救济。你失去的不只是便利,还有花了数月对话才积起来的语境。

这不是假设。这是今天在运作的每一个大型人工智能平台的默认状态。

三项不该拿来交易的权利

关于数据权利的争论并不新鲜。GDPR、CCPA 与围绕社交平台的十年诉讼已经确立:使用服务的人对自己的数据有正当的主张。人工智能记忆理应受同样的尺度约束。其中三项权利尤为要紧:

查看的权利。 你应当能看到一份明文清单,列出关于你所存的每一条事实。不是含糊的摘要,也不是宣传册上的「个性化画像」——而是真正保存的事实,按需可见。若系统认为你是后端开发者、偏好简洁回答、受不了被动语态,你应当能读到的正是这些。

被遗忘的权利。 每一条所存的事实都应当能由你删除,无论单条还是整体,且立即生效。删除必须是真实的——不是仍在内部影响模型行为的软性隐藏——并且必须可验证。「我把那条删了」应当意味着模型不再据此行事。

导出与可携带的权利。 若你在一家供应商处花了一年建起有用的记忆语境,而后想换,你应当能把它带走。记忆的可携带性,与任何其他领域的数据可携带性是同一个问题。它是一段向量嵌入或一块 JSON 而不是一张表格,在概念上并无差别。

这些权利没有一项要求牺牲产品质量。它们要求的是:把使用服务的人当作利害相关方,而不是数据来源。

平台为何抵触

抵触主要不是技术上的,而是结构上的。记忆语境是留存的基础设施。深深学会了你偏好的平台,相对未曾学会的平台,在迁移成本上占优。让记忆可携带、或容易删除,会削弱这份留存;而多数以互动指标为准绳的产品团队,会悄悄把用户的掌控往后推。

还有一个认知上的难处:构建记忆系统的团队往往并不确切知道模型留住了什么,因为记忆常常不是一份整洁的结构化清单,而是嵌入空间或轻度微调中涌现出的性质。要给出清晰的审计轨迹,需要明确的架构决定——把记忆存成结构化、可查看的事实,而不是不透明的模型状态——而这些决定必须早早做出。

事后往不透明的系统里加装可追溯性代价高昂。从一开始就把它建进去则不然。这份取舍映出的是优先次序。

ToRun 站在哪里

ToRun 中的记忆以明确、可读的事实存放。你可以列出它关于你所知的一切,删掉单条或全部,而删除是即时且真实的——它作用于模型在下一轮所看到的内容。记忆系统还与语言无关:它在平台的全部 29 种语言下工作,不必为了被可靠记住而改用英语书写。

我们这样建,并非因为不得不。我们这样建,是因为另一条路——把记忆存成无法追问的黑箱——与这个产品所立足的诚实交互原则不相容。若有人问「你知道我什么」,系统应当能完整而准确地回答这个问题,而不是大致回答。

导出的可携带性已经交付。一次数据请求会连同你其余的个人数据一起返回你的记忆,成为一份你自己下载的文件——事实本就是结构化的,因此这是建一个端点的事,而不是重做存储的事。

这是一个狭窄的主张:你的人工智能记忆应当属于你、可由你读取、可由你删除。这并非有争议的立场。业界理应比现在更快地朝它靠拢。

分享 LinkedIn X 电子邮件
用你自己的工作试试每条回复都会显示它的费用。从免费方案开始。 免费开始
Get product updates, not noise New models, features, and changelog highlights - a short email when something actually ships.
订阅即表示你同意接收 ToRun 的产品更新邮件。你可以随时退订。 隐私政策