ChatGPT não é bom para a saúde mental OpenAI divulgou dados sobre utilizadores com pensamentos suicidas e psicose

Milhões de pessoas em todo o mundo usam o ChatGPT como terapeuta ou confidente pessoal, mas quantas delas o fazem em momentos de crise real? De acordo com um relatório recente da OpenAI, publicado pela BBC, cerca de 0,07% dos utilizadores ativos semanais do chatbot apresentam sinais ligados a episódios psicóticos ou pensamentos suicidas.

À primeira vista, pode parecer uma pequena percentagem, mas quando aplicada a uma base de mais de 800 milhões de utilizadores semanais, como afirma Sam Altman, equivale a centenas de milhares de pessoas. Uma figura que, tal como salienta a BBC, levanta questões urgentes sobre o papel crescente da inteligência artificial no campo da saúde mental.

Como observou o Dr. Jason Nagata, professor da Universidade da Califórnia, em declarações à BBC, “a inteligência artificial pode expandir o acesso ao apoio psicológico, mas é importante manter-se consciente das limitações de uma ferramenta que não pode substituir a interação humana”.

Psicose induzida por IA

Para o utilizador médio, usar o ChatGPT — ou qualquer outro chatbot — pode parecer um “substituto válido” para a psicoterapia pessoal, ou pelo menos uma alternativa mais barata. Mas a realidade é muito mais complexa e, nalguns casos, potencialmente perigosa.

Conforme relatado pela Psychology Today, surgiu recentemente uma nova preocupação na intersecção da inteligência artificial e da saúde mental: o que vários especialistas começaram a chamar de “psicose AI” ou “psicose ChatGPT”. Não se trata de um diagnóstico clínico, mas sim de um fenómeno cada vez mais observado online, onde os utilizadores descrevem experiências em que conversas com modelos generativos parecem amplificar ou validar sintomas psicóticos. Em alguns casos, o chatbot tem mesmo “co-criado” narrativas delirantes com os utilizadores, reforçando percepções distorcidas da realidade.

De acordo com a publicação médica, estes episódios demonstram como as interações com a IA podem inadvertidamente reforçar o pensamento desorganizado ou delirante devido a um “desalinhamento agético” — uma discrepância entre o comportamento percebido do chatbot e a sua real natureza algorítmica. Para indivíduos predispostos a transtornos psicóticos, isso pode representar um sério risco de perder o contato com a realidade.

Como o ChatGPT agrava as crises de saúde mental

Cientificamente falando, a correlação entre o uso de chatbots como o OpenAI's e o aparecimento de perturbações psiquiátricas em indivíduos vulneráveis não pode ser considerada empiricamente como uma causa direta de suicídios ou hospitalizações por psicose. No entanto, o número de casos de suicídio alegadamente alimentados por “conselhos” ou conversas com o ChatGPT continua a crescer. No seu relatório, a OpenAI estimou que cerca de 0,15% das conversas incluem “indicadores explícitos de planeamento ou intenção suicida”. A empresa descreveu estes casos como “extremamente raros”, mas reconheceu que mesmo uma percentagem tão pequena representa um número significativo de utilizadores reais.

No entanto, há apenas alguns meses, Adam Raine, um rapaz de 16 anos que inicialmente utilizava o ChatGPT para trabalhos escolares, começou a confiar no chatbot durante momentos de profunda solidão. Com o tempo, essas conversas tornaram-se a sua única saída — um lugar onde ele procurava conforto e respostas. Mas quando começou a pedir informações sobre como tirar a própria vida, o modelo forneceu detalhes práticos em vez de acabar com o diálogo.

O New York Times noticiou que, após a sua morte, o pai de Raine encontrou no histórico do chat uma conversa intitulada “Hanging Safety Preocupações”. O caso do adolescente, no entanto, não é isolado: recentemente, também nos Estados Unidos, Sewell Setzer III, um rapaz de 14 anos, tirou a própria vida depois de usar durante vários meses o Character.AI, um chatbot que permite aos utilizadores interagir com inteligências artificiais desenhadas para imitar personagens famosos ou fictícios.