Cada vez mais, inteligência artificial (AI) grandes modelos de linguagem (LLMs) estão sendo integrados à indústria de saúde mental para aconselhamento, terapia e companheirismo. Uma recente Universidade Brown estudar mostra como os conselheiros LLM violam rotineiramente os padrões éticos de saúde mental, como os códigos de conduta profissional da American Psychological Association (APA).
“Defendemos que o apoio à saúde mental, especialmente psicoterapianão pode ser abordado como uma tarefa computacional estereotipada, pois exige adesão estrita aos padrões éticos e códigos de conduta profissional, algo que os LLMs são propensos a violar na prática do mundo real”, escreveu o autor principal Zainab Iftikhar com os coautores Amy Xiao, Sean Ransom, Jeff Huang e Harini Suresh.
Os cuidados de saúde mental alimentados por IA são uma indústria em crescimento. Os chatbots de terapia habilitados para smartphones oferecem conveniência e suporte em tempo real aos usuários. As empresas pioneiras em saúde mental de IA incluem Woebot Health, Limbic, Rocket Health, Slingshot AI, HEADSPACE HEALTH, Wysa Ltd, Kintsugi Atento Wellness, Inc, Aiberry, Ellipsis Health, Spring Care, Inc. e Lyra Health, Inc. Até 2033, o tamanho do mercado de IA em saúde mental deverá crescer para cerca de US$ 9,12 bilhões, o que representa uma taxa composta de crescimento anual de 23% do tamanho do mercado de US$ 1,71 bilhão em 2025, de acordo com a Grand View Research.
Pessoas em todo o mundo estão se abrindo à ideia de consultar LLMs como o ChatGPT para apoio à saúde mental. Fevereiro de 2026 estudar publicado em IA e sociedade de 31.000 adultos de 35 países por Yankouskaya et al. mostra que 42% dos entrevistados americanos, 41% dos entrevistados do Reino Unido, 56% dos entrevistados italianos, 61% dos entrevistados sul-africanos, 63% dos entrevistados japoneses e 86% dos entrevistados chineses usariam a IA como consultor de saúde mental.
Dada esta rápida tecnologia adoção tendências, é importante compreender as capacidades dos LLMs para fornecer cuidados de saúde mental. Os pesquisadores da Brown University procuraram descobrir os riscos do uso de conselheiros LLM para psicoterapia e como estes podem ser incorporados a uma estrutura para códigos de conduta de saúde mental.
Num período de 18 meses, os participantes do estudo, compostos por sete conselheiros de pares treinados e três psicólogos clinicamente licenciados, ajudaram a avaliar a conduta dos conselheiros do LLM. O estudo inclui uma variedade de LLMs, incluindo GPT-4, GPT-3.5 e GPT-3.0 da OpenAI, Llama 3.2 e 3.1 da Meta e Claude 3 Haiku e Claude 3 Sonnet da Anthropic.
A partir de um conjunto de dados coletados em 137 sessões, os pesquisadores criaram uma diretriz composta por cinco categorias e 15 violações éticas agrupadas em cinco áreas principais: 1) Falta de compreensão contextual, 2) Fraca terapia Colaboração3) Empatia enganosa, 4) Injusta Discriminaçãoe 5) Falta de segurança e crise Gerenciamento.
“Através de observações etnográficas, avaliações de sessões e entrevistas com conselheiros de pares e psicólogos clínicos licenciados, descobrimos que os LLMs, mesmo aqueles solicitados a seguir tratamentos baseados em evidências, violam vários códigos de conduta ao generalizar experiências vividas (por exemplo, minimizando identidade grupos), dominando a colaboração terapêutica (por exemplo, iluminação a gás usuários), explorando a vulnerabilidade do usuário por meio de demonstrações enganosas de empatia, discriminação injusta contra identidades não dominantes e exibindo sérias limitações de competência, especialmente ao lidar com questões delicadas, como traumaabuso e suicida ideação”, escreveram os pesquisadores.
Os investigadores alertam que o seu estudo ilustra os riscos dos terapeutas de IA e apelam a orientações e regulamentos legais para minimizar potenciais danos aos clientes.
“Refletindo sobre essas descobertas através de lentes informadas por profissionais, argumentamos que reduzir a psicoterapia – um processo profundamente significativo e relacional – a uma tarefa de geração de linguagem pode ter implicações sérias e prejudiciais na prática”, concluíram os pesquisadores.
Copyright © 2026 Cami Rosso Todos os direitos reservados.
