O problema de memória de que ninguém fala
Os assistentes de IA estão a ficar mesmo bons a reter. O seu formato de saída preferido. A pilha tecnológica em que trabalha. O seu fuso horário, a estrutura da sua equipa, o facto de querer sempre citações. Esse contexto persistente torna a IA dramaticamente mais útil — deixa de se explicar de novo em cada sessão e o assistente começa a parecer um colega em vez de uma caixa de pesquisa.
Mas a par dessa utilidade cresce em silêncio uma dependência. O assistente retém coisas sobre si, e não controla o que retém. Não o pode auditar facilmente, não o pode exportar num formato portável, e se o fornecedor decidir mudar o seu produto de memória — ou simplesmente descontinuá-lo — não tem recurso. Não perde só a comodidade: perde o contexto acumulado que levou meses de interação a construir.
Isto não é hipotético. É o estado por omissão de todas as grandes plataformas de IA em atividade hoje.
Três direitos que não deviam ser negociáveis
O debate sobre direitos relativos a dados não é novo. O RGPD, a CCPA e uma década de litígios em torno de plataformas sociais estabeleceram que quem usa um serviço tem pretensões legítimas sobre os seus próprios dados. A memória de IA devia reger-se pelas mesmas normas. Três direitos importam em particular:
O direito de inspecionar. Devia poder ver uma lista em texto claro com cada facto guardado sobre si. Não um resumo vago, não um «perfil de personalização» de folheto — os factos efetivamente guardados, visíveis a pedido. Se o sistema acha que é um programador de infraestrutura que prefere respostas concisas e detesta a voz passiva, devia poder ler exatamente isso.
O direito ao esquecimento. Cada facto guardado devia poder ser apagado por si, isoladamente ou em bloco, com efeito imediato. A eliminação tem de ser real — não uma ocultação suave que continue a influenciar o comportamento do modelo por dentro — e tem de ser verificável. «Apaguei isso» devia querer dizer que o modelo já não age em conformidade.
O direito à exportação e à portabilidade. Se construiu um contexto de memória útil durante um ano com um fornecedor e quer mudar, devia poder levá-lo consigo. A portabilidade da memória é o mesmo problema da portabilidade de dados em qualquer outra categoria. Que se trate de um vetor de embedding ou de um bloco JSON em vez de uma folha de cálculo não o torna conceptualmente diferente.
Nenhum destes direitos exige sacrificar a qualidade do produto. Exigem tratar quem usa o serviço como parte interessada e não como fonte de dados.
Porque as plataformas resistem
A resistência não é sobretudo técnica, é estrutural. O contexto de memória é infraestrutura de retenção. Uma plataforma que aprendeu a fundo as suas preferências tem uma vantagem de custo de mudança sobre uma que não aprendeu. Tornar a memória portável ou facilmente apagável enfraquece essa retenção, e a maioria das equipas de produto que otimizam métricas de envolvimento adia em silêncio o controlo do utilizador.
Há também um problema epistémico: as equipas que constroem sistemas de memória muitas vezes não sabem com precisão o que o modelo reteve, porque a memória frequentemente não é uma lista estruturada limpa mas uma propriedade emergente do espaço de embeddings ou de um ajuste fino suave. Oferecer um rasto de auditoria claro exige decisões arquiteturais explícitas — guardar a memória como factos estruturados e inspecionáveis em vez de estado opaco do modelo — e essas decisões têm de ser tomadas cedo.
Acrescentar rastreabilidade a posteriori a um sistema opaco é caro. Construí-la desde o início não é. A escolha reflete prioridades.
Onde o ToRun se posiciona
A memória no ToRun é guardada como factos explícitos e legíveis. Pode listar tudo o que sabe sobre si, apagar itens isolados ou tudo, e a eliminação é imediata e real — afeta o que o modelo vê no turno seguinte. O sistema de memória é também independente do idioma: funciona nos 29 idiomas da plataforma, sem o obrigar a escrever em inglês para ser lembrado de forma fiável.
Não o construímos assim porque tínhamos de o fazer. Construímo-lo assim porque a alternativa — guardar a memória como uma caixa negra que não se pode interrogar — é incompatível com os princípios de interface honesta em que o produto assenta. Se alguém perguntar «o que sabes sobre mim?», o sistema devia poder responder a essa pergunta de forma completa e exata, não aproximada.
A portabilidade de exportação já foi entregue. Um pedido de acesso a dados devolve a sua memória a par do resto dos seus dados pessoais, como ficheiro que descarrega por si — os factos já estavam estruturados, pelo que se tratou de construir o ponto de ligação, não de redesenhar o arquivo.
Esta é uma afirmação estreita: que a sua memória de IA devia ser sua, legível por si e apagável por si. Não é uma posição controversa. O setor devia convergir para ela mais depressa do que está a fazer.