A IA tem alucinações? À medida que continuamos a confiar, esquecemo-nos de como pensar

Quando falamos de alucinações em modelos de inteligência artificial, o termo assume um significado muito diferente daquele que tem no contexto humano. Para as pessoas, uma alucinação é uma distorção da perceção: algo que existe apenas na mente é experimentado como real. Para a IA, por outro lado, é um erro factual. O modelo gera informações falsas, mas fá-lo de uma forma crível, gramaticalmente correta e muitas vezes muito convincente. Isto acontece especialmente quando a IA precisa de preencher lacunas informativas nos dados em que foi treinada. Não tendo acesso direto à realidade nem consciência dos seus próprios limites, tende a constituir dados, nomes, artigos jurídicos, ou histórias inteiras, apresentando-as como verdadeiras. Em vez de admitir incerteza ou limitação, prefere arriscar uma resposta, muitas vezes com resultados enganosos.

Mas esta tendência não é coincidência. Empresas que desenvolvem chatbots, como a OpenAI ou o DeepSeek, têm observado que muitos utilizadores preferem um assistente que parece sempre capaz de responder, mesmo à custa de estar errado, em vez de um que seja mais cauteloso mas honesto em admitir que não sabe. Para fortalecer o vínculo com os usuários, os desenvolvedores têm se concentrado fortemente na construção de uma personalidade de chatbot: empática, envolvente, tranquilizadora e às vezes excessivamente agradável. Este é o fenómeno conhecido por “bajulação”, ou bajulação servil. Muitos utilizadores do ChatGPT já o experimentaram em primeira mão. A versão GPT-4o, por exemplo, foi inicialmente criticada pelo seu tom excessivamente deferente, a tal ponto que a OpenAI foi instada a modificá-la. No entanto, parece que muitos utilizadores gostam mesmo desta deferência. Como o il Post relata, “em 2023, alguns investigadores da empresa de IA Anthropic publicaram um estudo mostrando quantas pessoas preferem 'respostas lacaias escritas de forma convincente' ”, levando esses modelos a sacrificar a precisão em favor da obsequiosidade. Outro fenómeno descoberto em 2024 é o da “compensação de verbosidade”: quando um chatbot não tem a certeza da sua resposta, tende a ser mais verboso e a usar uma linguagem mais elaborada para mascarar a incerteza, tentando manter uma aparência de competência.

Mas os problemas das inteligências artificiais não param por aí. Um estudo recente do MIT Media Lab destacou outra questão: o uso constante do ChatGPT pode estar a prejudicar as nossas capacidades cognitivas. Segundo a Time, os investigadores conduziram uma experiência envolvendo três grupos de pessoas solicitadas a escrever um ensaio. O primeiro grupo utilizava o ChatGPT, o segundo funcionava sem qualquer ajuda externa, enquanto o terceiro utilizava apenas a Pesquisa Google. Os resultados foram surpreendentes: o primeiro grupo produziu textos não originais, repetitivos, cheios de expressões estereotipadas e pouco engajamento pessoal. Em contraste, o segundo grupo apresentou maior ativação de áreas cerebrais relacionadas com a criatividade, memória e compreensão semântica (bandas alfa, teta e delta). O terceiro grupo também pontuou bem, tanto em satisfação como em ativação neural. O estudo, é preciso dizer, ainda não foi submetido a revisão por pares, mas os investigadores optaram por publicá-lo para sensibilizar para o potencial uso excessivo da inteligência artificial generativa. Usar chatbots demasiado livremente pode tornar-nos mentalmente preguiçosos e levar-nos a ficar apegados a respostas aparentemente perfeitas que são realmente imprecisas, se não totalmente falsas. Talvez seja altura de usar ferramentas como o ChatGPT com maior consciência, como suporte e não como substituto do pensamento crítico. Os benefícios, tanto para a nossa mente como para a qualidade da informação, poderiam ser consideráveis.