A maioria dos produtos de IA afirma «lembrar-se de si». O que normalmente querem dizer é que a janela de conversa atual ainda não saiu de alcance. Assim que fecha o separador, o modelo não faz ideia de quem é. Volta a explicar a sua pilha tecnológica, as suas preferências e as suas restrições do zero de cada vez.
A memória de longo prazo do ToRun é um mecanismo completamente diferente. Este artigo descreve o que guarda, como é montada em cada turno e o que pode fazer com ela.
O que é guardado, e porquê
A memória no ToRun é um conjunto de factos duradouros extraídos das suas conversas. Pense neles como notas estruturadas — não um despejo da transcrição, mas observações discretas: prefere respostas concisas, o seu projeto usa MongoDB, trabalha em TypeScript, tem formação em aprendizagem automática, quer exemplos de código num estilo específico.
Os factos são independentes do idioma. Se escrever em turco durante três sessões e em inglês durante dez, o sistema de memória não se fragmenta em silos linguísticos. Uma normalização atenta ao Unicode (decomposição NFKD, remoção de diacríticos, dobragem de maiúsculas) faz com que um facto introduzido num idioma apareça quando consulta noutro. Isto importa na prática: uma plataforma em 29 idiomas não pode dar-se ao luxo de uma memória que só funcione bem para quem fala inglês.
Novos factos podem ser adicionados automaticamente, quando o modelo deteta informação duradoura, ou pode afirmá-los explicitamente («lembra-te de que faço implantação no Azure»). Nenhuma das duas vias lhe é escondida.
Como a memória se torna contexto na chamada
Cada turno de conversa no ToRun monta três camadas de contexto antes de o pedido chegar a um modelo:
- Camada de sistema — instruções ao nível do produto, papel e estilo do assistente, instruções ativas da base de conhecimento.
- Camada de resumo — uma representação comprimida da conversa até esse ponto, gerida automaticamente para que os tópicos longos não esgotem a janela de contexto do modelo.
- Camada recente — os últimos N turnos literais, com mais peso no que acabou de dizer.
A memória de longo prazo encaixa na camada de sistema. O passo de recuperação corre contra os seus factos guardados usando um sinal de relevância da mensagem atual: se perguntar sobre indexação de bases de dados, os factos sobre preferências de MongoDB emergem; se mudar para design, recuam. O modelo só vê o que é relevante para o turno atual, não um despejo plano de todos os factos que gerou. Assim a janela de contexto é usada com eficiência e evita-se o «inchaço de memória», em que detalhes pessoais irrelevantes diluem o sinal.
Os orçamentos de contexto dependem do escalão — o escalão gratuito recebe 16K fichas de contexto total, subindo pelos planos de subscrição até 1M de fichas em Enterprise. Quando o contexto montado (memória + resumo + turnos recentes) exceder a janela do modelo, o ToRun corta primeiro a camada de resumo, e nunca descarta em silêncio as suas mensagens mais recentes ou os factos de memória mais relevantes.
Os factos são seus, os factos controla-os você
A memória pertence a quem a usa. Pode listar tudo o que o ToRun guardou sobre si e apagar itens isolados ou tudo. Não existe uma memória «secreta» a influenciar as suas conversas sem que saiba. O arquivo de factos é inspecionável e esquecível a pedido.
Esta opção decorre de um princípio mais amplo: o ToRun deve mostrar-lhe o seu estado real, não escondê-lo. Uma memória transparente significa que pode confiar nela. Se o modelo agir sobre um facto errado — digamos que uma vez registou que preferia explicações longas quando agora as quer concisas — diz-lhe para esquecer, e a chamada seguinte não verá esse facto.
A eliminação é permanente e imediata. Não há período de graça em que o facto antigo continue a aparecer.
Bases de conhecimento não são memória
A memória guarda factos sobre si. As bases de conhecimento fundamentam respostas nos seus documentos.
Quando carrega documentação, código ou conteúdo de domínio para uma base de conhecimento, o ToRun usa geração aumentada por recuperação (RAG) para trazer as passagens relevantes no momento da consulta. O texto recuperado é inserido ao lado do contexto da conversa, e o modelo cita o que usou. É a ferramenta certa quando a sua pergunta exige ler material de origem — uma especificação de API, um documento jurídico, o seu manual interno — em vez de recordar uma preferência pessoal.
Os dois sistemas combinam-se: um único turno pode recorrer tanto aos seus factos de memória como a uma recuperação numa base de conhecimento. Alimentam camadas diferentes da montagem de contexto e servem propósitos diferentes. A memória responde a «quem é e como prefere trabalhar»; a base de conhecimento responde a «o que diz este documento».
Usar ambas em conjunto é o que torna o ToRun útil para fluxos de trabalho reais e não apenas para demonstrações. As suas preferências ficam na memória para que não as repita; o seu material de origem fica na base de conhecimento para que as respostas assentem em prova em vez dos dados de treino do modelo.