Pode uma inteligência artificial ser nossa amiga? É um nicho preciso na indústria em crescimento, mas que também apresenta vários riscos

Nos últimos anos, o software baseado em IA concebido para manter as pessoas companhia tem vindo a espalhar-se cada vez mais amplamente. Estas ferramentas, que permitem a interação com chatbots capazes de replicar conversas muito semelhantes às que se teria com um ser humano, são utilizadas por milhões de pessoas em todo o mundo. Entre as empresas líderes do setor estão a Replika, que conta com cerca de 25 milhões de utilizadores, o MyAI by Snapchat, com uma base de utilizadores de 150 milhões de subscritores, o Xiaoice da Microsoft, que atinge mais de 600 milhões de pessoas, e o Character.AI, utilizado por cerca de 20 milhões de indivíduos. O que torna estes chatbots particularmente apreciados é a sua capacidade de se adaptarem às necessidades dos utilizadores, oferecendo conversas menos frias e mais “empáticas”. Ao contrário de outras ferramentas de IA, estes programas de software são concebidos, entre outras coisas, para exibir maior personalidade, lembrar melhor as informações fornecidas pelo utilizador e, em alguns casos, permitir a seleção de avatares específicos. Por exemplo, os utilizadores podem optar por interagir com uma personagem de um filme ou série de televisão de que gostam particularmente, o que — se pensarmos bem — aumenta o envolvimento emocional. Um dos aspetos mais interessantes dos sistemas concebidos para fazer companhia às pessoas é a sua disponibilidade constante: a qualquer hora do dia ou da noite, os utilizadores podem encontrar alguém pronto a ouvi-los, sem medo de julgamento — algo que pode ser útil para quem sofre de solidão ou tem dificuldade com interações sociais.

Os riscos de ter uma IA como amiga

Embora possam fornecer apoio psicológico temporário, produtos como o Replika e outros também apresentam perigos, que são frequentemente subestimados pelos utilizadores mais jovens. Uma das questões principais é que, uma vez que são desenvolvidos por empresas privadas, estes serviços têm sempre uma natureza comercial. Por exemplo, as interações com os utilizadores podem ser utilizadas para recolher dados valiosos e personalizar a experiência para incentivar o uso contínuo, transformando o chatbot numa presença quase indispensável no quotidiano dos subscritores. Além disso, os efeitos a longo prazo da interação constante com estas ferramentas ainda não foram exaustivamente estudados e podem ter consequências imprevistas — especialmente para os indivíduos mais vulneráveis. Outro risco prende-se com a potencial alienação dos utilizadores mais jovens, que podem desenvolver uma preferência pelo companheirismo virtual em detrimento das relações da vida real. Se um adolescente passa a maior parte do tempo a interagir com um chatbot em vez de com a sua família ou colegas, pode mais tarde lutar para construir relações interpessoais saudáveis e autênticas.

Este perigo é agravado pelo facto de os chatbots tenderem a ser programados para responder de forma compreensiva e acomodatória, oferecendo interações livres de conflitos ou mal-entendidos. O problema é que, na vida real, as relações humanas são muitas vezes mais complexas do que isso e podem incluir momentos de desacordo e tensão, entre outras coisas — todos os aspetos que são, no entanto, fundamentais para o desenvolvimento emocional e social. Outra preocupação passa pelas responsabilidades legais das empresas que desenvolvem estes programas de software. Muitos provedores de chatbot tentam evitar a responsabilidade direta pelos conteúdos gerados pela sua IA, deixando aos utilizadores definir os limites das conversas. Além disso, estas ferramentas carecem frequentemente de salvaguardas eficazes para detectar e prevenir comportamentos potencialmente perigosos — tais como sinais de depressão ou tendências suicidas. Apesar dos riscos óbvios, os sistemas de IA concebidos para manter as pessoas companhia continuam a crescer, e muitos empresários do setor opõem-se fortemente à ideia de introduzir regulamentos éticos. Segundo os críticos, impor limitações aos chatbots pode equivaler a censura, sufocar a inovação e reduzir a liberdade dos utilizadores para escolherem com quem e como interagir. Resta saber como os governos vão enfrentar os desafios colocados pelo uso cada vez mais generalizado da inteligência artificial nas interações humanas.