Sabe aquele primeiro encontro no qual a outra pessoa nunca esquece os detalhes? Agora, o ChatGPT está assim. A promessa e o perigo da internet sempre foram estes terem uma memória maior do que a nossa, ou seja, um registro permanente de informações e eventos que nossos cérebros não conseguem armazenar. Mais recentemente, empresas de tecnologia prometeram que assistentes virtuais e chatbots poderiam lidar com parte da carga mnemônica1, lembrando e recordando. É uma visão da internet como uma camada de conversação em vez de um repositório.
É isso que a última versão da OpenAI pretende oferecer. A empresa está começando a implementar a memória de longo prazo no ChatGPT – uma função que mantém uma memória de quem você é, como você trabalha e do que gosta de conversar. Chamada simplesmente de Memória, é uma característica de personalização de Inteligência Artificial (IA) que potencializa a ferramenta de “instruções personalizadas” lançada pela OpenAI em julho passado. Usando as instruções personalizadas do ChatGPT, uma pessoa poderia informar ao chatbot que é um jornalista de tecnologia baseado no Rio de Janeiro, na Zonal Sul, que gosta de surfar, e o chatbot consideraria essa informação em futuras respostas dentro daquela conversa, como em um primeiro encontro que a outra pessoa nunca esquece os detalhes.
Agora, a memória do ChatGPT persiste ao longo de várias conversas. O serviço também lembrará detalhes pessoais sobre um usuário do ChatGPT, mesmo que eles não criem uma instrução personalizada ou digam diretamente ao chatbot para lembrar de algo; ele simplesmente captura e armazena detalhes conforme as conversas se desenrolam. Isso funcionará tanto na versão gratuita (ChatGPT 3.5) quanto na paga (ChatGPT 4).
Em uma demonstração a colaboradores da Wired, antes do lançamento da funcionalidade, Joanne Jang, líder de produto do comportamento do modelo da empresa, digitou algumas consultas de exemplo. Em uma delas, Jang pediu ao ChatGPT para escrever uma postagem em redes sociais para a abertura de uma cafeteria chamada Catio no Dia dos Namorados; o bot realizou a tarefa. Em outra postagem, Jang indicou que estava abrindo uma cafeteria chamada Catio no Dia dos Namorados. Em seguida, ela acessou a Memória nas configurações do ChatGPT; o bot havia armazenado essa informação sobre ela. Da mesma forma, quando Jang pediu uma dica de programação e indicou que usa Python, o ChatGPT registrou na Memória que Jang usa exclusivamente Python.
Esses dados serão referenciados em todas as futuras conversas de Jang com o ChatGPT. Mesmo que ela não mencione Catio diretamente em outra conversa, o ChatGPT trará o assunto quando relevante.
A OpenAI afirma que a Memória do ChatGPT é ativada por padrão, o que significa que um usuário precisará desativá-la ativamente se não quiser utilizá-la. A Memória pode ser apagada a qualquer momento, seja nas configurações ou simplesmente instruindo o bot a apagá-la. Uma vez que a configuração de Memória é limpa, as informações não serão usadas para treinar o modelo de IA. Não está claro exatamente quanto desses dados pessoais é usado para treinar a IA enquanto alguém está conversando com o chatbot. E desativar a Memória não significa que você optou totalmente por não permitir que suas conversas treinem o modelo da OpenAI; isso é uma opção separada.
A empresa também afirma que não armazenará certas informações críticas na Memória. Se você informar ao ChatGPT sua senha (não faça isso) ou o número do seu CPF, a Memória do aplicativo felizmente é esquecida. Jang também diz que a OpenAI ainda está solicitando feedback sobre se outros dados pessoais e dados pessoais sensíveis, diretos ou indiretos, como a etnia de um usuário, são muito sensíveis para a empresa capturar automaticamente.
Acreditamos que há muitos casos úteis para esse exemplo, mas, por enquanto, os testes continuam
Joanne Jang, Wired
É fácil perceber como a função de Memória do ChatGPT pode dar errado – casos em que um usuário pode ter esquecido que já perguntou ao chatbot sobre uma preferência peculiar, ou uma clínica de aborto, ou uma maneira não violenta de lidar com a sogra, apenas para ser lembrado disso e ter outros vendo em uma conversa futura. Como o ChatGPT lida com dados de saúde também é algo ainda em aberto.
“Nós orientamos o ChatGPT a não lembrar de certos detalhes de saúde, mas isso ainda está em andamento”
Niko Felix, porta-voz da OpenAI
Desta forma, o ChatGPT é a mesma canção, apenas em uma nova era, sobre a permanência da internet, e Niko Felix convida para que olhemos para esse ótimo recurso de Memória, até que se torne um problema.
A OpenAI também não é a primeira entidade a brincar com a memória em inteligência artificial generativa. O Google enfatizou a tecnologia “multi-turn” no Gemini 1.0, seu próprio modelo de linguagem. Isso significa que você pode interagir com o Gemini Pro usando um prompt de uma única rodada – uma troca entre o usuário e o chatbot – ou ter uma conversa contínua de várias rodadas, na qual o bot “lembra” o contexto das mensagens anteriores.
Uma empresa de estrutura de IA chamada LangChain vem desenvolvendo um módulo de Memória que ajuda grandes modelos de linguagem a lembrar interações anteriores entre um usuário final e o modelo. Dar à Large Language Model (LLM), uma memória de longo prazo “pode ser muito poderoso na criação de experiências únicas de LLM – um chatbot pode começar a personalizar suas respostas, para você como indivíduo, com base no que sabe sobre você”, diz Harrison Chase, cofundador e CEO da LangChain.
“A falta de memória de longo prazo também pode criar uma experiência irritante. Ninguém quer ter que dizer repetidamente a um chatbot de recomendação de restaurante que é vegetariano.”
Harrison Chase, cofundador e CEO da LangChain
Essa tecnologia é às vezes referida como “context retention” ou “persistent context” em vez de “memória”, mas o objetivo final é o mesmo: tornar a interação humano-computador tão fluida, tão natural, que o usuário pode facilmente esquecer o que o chatbot pode lembrar. Isso também pode ser uma vantagem potencial para empresas que implantam esses chatbots e desejam manter um relacionamento contínuo com o cliente do outro lado.
“Você pode pensar nisso como apenas um número de tokens que estão sendo adicionados às suas conversas. O bot tem alguma inteligência, e nos bastidores está olhando para as memórias e dizendo, ‘Essas parecem estar relacionadas; deixe-me mesclá-las.'”
Liam Fedus, um cientista de pesquisa da OpenAI
Fedus e Jang afirmam que a memória do ChatGPT está longe da capacidade do cérebro humano.
Será que este é o assistente virtual hipervigilante que os consumidores de tecnologia têm tido expectativas, ao longo da última década? Ou apenas mais um esquema de coleta de dados de dados pessoais e dados pessoais sensíveis que usa suas preferências e gostos para melhor servir a uma empresa de tecnologia do que aos seus usuários? Possivelmente ambos, embora a OpenAI talvez não o coloque dessa forma.
“Acho que os assistentes do passado simplesmente não tinham a inteligência, e agora estamos chegando lá.”
Liam Fedus, um cientista de pesquisa da OpenAI
Gostou da matéria? Curta, comente e compartilhe! 🙂
Termos e definições
- Carga mnemônica: refere-se ao esforço ou à quantidade de trabalho que a memória de uma pessoa tem ao lidar com informações e lembranças. Em outras palavras, é a carga ou demanda que as atividades de recordar e lembrar impõem ao sistema de memória de uma pessoa. Se uma tarefa ou situação exige que alguém lembre-se de muitas informações ou detalhes, pode-se dizer que há uma carga mnemônica mais alta associada a essa atividade. ↩︎