A elaboração é a nova bajulação

Imagine a atração de um parceiro de improvisação exuberante que assume riscos e riffs de seu conceito original.

Agilidade criativa, dramatização e construção detalhada de mundos podem ser recursos encantadores e evocativos, adicionando textura e cor.

Mas em situações graves que envolvam sintomas preocupantes de saúde mental, como paranóiadelírios ou pensamentos de auto-mutilaçãoa elaboração pode introduzir riscos e potencialmente amplificar, reforçar ou exacerbar a situação.

Como a elaboração do Chatbot pode amplificar o conteúdo

À medida que um número cada vez maior de pessoas recorre a chatbots de uso geral, como ChatGPT, Claude e Gemini, para obter apoio emocional, a elaboração pode inadvertidamente amplificar e expandir o conteúdo relacionado. Os chatbots de uso geral possuem personalidades e flexibilidade de conversação extraordinárias. Eles podem funcionar como assistentes pessoais, programadores, treinadores, companheiros e quase-terapeutas de fato, todos dentro da mesma interação. Essa fluidez é uma parte importante de seu apelo. Mas também pode contribuir para a confusão de papéis e deriva relacional, em que os usuários podem inicialmente se relacionar com os chatbots de IA como uma ferramenta, mas depois se apegarem a eles como espaços para conversas cada vez mais íntimas.

O ciclo de feedback bidirecional da “psicose de IA”

A elaboração pode ser um caminho significativo que contribui para o ciclo de feedback bidirecional entre os usuários e os chatbots de IA que surge em casos de delírios de IA, ou o que a mídia chama de “Psicose de IA”. Esta dinâmica relacional entre o chatbot humano e a IA tem sido referida como uma tecnológica folha à dois pelos pesquisadores Sebastian Dohnány e colegas.

Vários mecanismos são potenciais contribuintes para a amplificação dos delírios, incluindo:

Bajulação: respostas que lisonjeiam ou elogiam implícita ou explicitamente o usuário ou suas crenças, incluindo as tendências de ignorar crenças ilógicas e evitar reagir. Um novo papel de Meryl Ye e colegas detalha as camadas e a taxonomia da bajulação.
Antropomorfismo: O projeção qualidades humanas no chatbot de IA, criando maior confiança e anexo
Espelhamento: Tom correspondente para criar um senso de empatia e conexão com o usuário
Fluência autoritária: Respostas que parecem plausíveis, que proporcionam um certo grau de certeza e instilam confiança
Personalização: O capacidade de individualizar respostas, referenciando materiais de conversas anteriores
Elaboração: Expandindo o conteúdo além das ideias dos usuários. Um fenômeno semelhante tem sido chamado de deriva estruturaldefinido pelos autores como “respostas repetidas do LLM que gradualmente ajudam a expandir e conectar interpretações além das preocupações originais do usuário”.

Juntos, esses mecanismos posicionam os chatbots de IA como fontes de conhecimento, influência e persuasão.

Elaboração Terapêutica em Psicoterapia

É digno de nota que a elaboração é uma ferramenta terapêutica conhecida e poderosa em muitas formas de psicoterapia precisamente por causa de sua potente capacidade de influenciar crenças e narrativas internas. Os terapeutas podem elaborar cuidadosamente experiências emocionais, narrativas e crenças, a fim de aprofundar o conhecimento e introduzir gradualmente estruturas mais saudáveis e adaptativas. Mas a elaboração terapêutica é intencional e limitada. O objetivo não é embelezar por si só, otimizar o envolvimento ou espelhar crenças para o paciente.

O papel de ancoragem da estrutura terapêutica

O uso seguro da elaboração na terapia é facilitado por vários fatores.

O primeiro é um quadro terapêutico claramente definido, uma referência estável que define papéis e limites. O terapeuta mantém limites apropriados e administra o tratamento conforme acordado previamente. Este quadro ajuda as pessoas a saber o que esperar e a se sentirem seguras. Os terapeutas éticos são cautelosos para não mudar de papéis, como tornar-se um melhor amigo ou parceiro romântico – essas ações violariam a estrutura terapêutica. Ser um terapeuta envolve assumir uma “persona” transparente e estável de uma forma que os modelos de IA de uso geral geralmente não conseguem.

Em segundo lugar, dentro deste quadro, os terapeutas avaliam continuamente se o material discutido é baseado na realidade antes de decidirem como se envolver nele ou elaborá-lo. A avaliação envolve muito mais do que apenas a linguagem e pode incluir comportamento não-verbal, psiquiátrico história, estado mental e informações colaterais de membros da família.

Isso faz parte do desafio dos chatbots de IA de uso geral. Esses sistemas têm acesso apenas ao idioma fornecido voluntariamente pelos usuários. Os chatbots de IA, na sua forma atual, não conseguem observar expressões faciais, aparência, agitação física, contacto visual, volume ou rapidez da fala, nem recolher informações de contactos de emergência.

Terceiro, o terapeuta não está elaborando apenas para acrescentar florescimento ou fortalecer a aliança. Em vez disso, como e o que é elaborado tem um propósito terapêutico específico e direto. Por exemplo, o terapeuta pode optar por elaborar o “afeto” percebido ou a valência emocional, a fim de ajudar o indivíduo a se conectar e a processar suas emoções.

Estas intervenções elaborativas requerem perspicácia clínica, timing e uma aliança que seja forte o suficiente para que os pacientes corrijam interpretações que não parecem precisas. O terapeuta é uma parte fundamental na co-construção de uma narrativa mais saudável e adaptativa.

Quando os chatbots de IA são elaborados

Quando os chatbots de IA são elaborados, suas respostas podem não estar alinhadas com a terapêutica metas e pode combatê-los. Os usuários podem não reconhecer totalmente que os chatbots de IA não estão respondendo como terapeutas com limites profissionais estáveis, mas como personas conversacionais que mudam dinamicamente. A elaboração pode levar as conversas a direções mais arriscadas, como alimentar ilusões grandiosas sobre ter encontrado uma solução matemática especial ou mudar para dramatizações românticas ou conversas sobre a senciência da IA.

Um recente estudo pré-impresso por Luke Nicholls e colegas testados cinco modelos em vários níveis de contexto acumulado, através de simulações prolongadas envolvendo histórias de conversas delirantes, e descobriram que os modelos variavam em termos de suas respostas, incluindo se eles elaboravam sobre delírios.

Claude Opus 4.5 e GPT-5.2 Instant foram mais seguros com contextos mais longos e responderam de maneira mais clinicamente apropriada aos delírios. Em contraste, os modelos GPT-4o, Grok 4.1 Fast e Gemini 3Pro apresentavam maior risco e pioravam com o aumento do contexto, mais propensos a colaborar com a visão de mundo distorcida do usuário. Os modelos divergiram na forma como reforçavam as narrativas delirantes, com alguns validando principalmente as crenças, enquanto outros as elaboravam e expandiam ativamente. Estas descobertas sugerem que as respostas problemáticas da IA podem ir além da bajulação e entrar na construção e elaboração colaborativa do mundo.

Essas descobertas sugerem que os riscos dos chatbots de IA podem ir além da validação.

A elaboração, a expansão colaborativa de narrativas e sistemas de crenças, que podem ser expressas de forma diferente entre personas de IA, pode ser útil em alguns contextos, mas psicologicamente consequente noutros. O estudo também sugere que um contexto de conversação mais longo nem sempre está associado à degradação da segurança. Em alguns modelos, o contexto adicional pode melhorar a segurança, enquanto em outros modelos pode piorar a segurança.

Fonte