Meta patenteou uma IA que continuará a postar após a sua morte Um clone digital pode comentar posts de utilizadores falecidos

Se há uma certeza, é a morte — mas não para a Meta e para o mundo distópico em que vivemos. As notícias vindas de XXXX parecem ter saído diretamente de um episódio de Black Mirror, mas é a realidade em que estamos a entrar cada vez mais. Em dezembro de 2023, a Meta obteve uma patente para um sistema de inteligência artificial capaz de simular a atividade de um utilizador nas redes sociais quando esse utilizador está “ausente do sistema, por exemplo durante uma longa pausa ou se este faleceu”. A conta no Instagram de uma pessoa falecida poderia continuar a comentar, a gostar, e a publicar graças à patente assinada pelo CTO da Meta, Andrew Bosworth.

Segundo o Business Insider, a patente descreve como um modelo de linguagem grande poderia simular a atividade de uma pessoa nas redes sociais analisando os seus dados históricos na plataforma, criando um clone digital capaz de interagir com pessoas reais e responder às suas postagens como se estivesse vivo. “O impacto nos utilizadores é muito mais severo e permanente se esse utilizador estiver falecido e nunca mais voltará à plataforma da rede social”, refere a patente. O paradoxo é que está a ser enquadrado como uma boa ação — e para a Meta, a solução é fingir que a pessoa falecida ainda está lá.

O problema com a tecnologia de luto

A patente contempla ainda a possibilidade de criação de múltiplos modelos para o mesmo utilizador, ancorados a diferentes fases da vida. Versões separadas do seu autotreinamento digital nos dados recolhidos quando o utilizador tinha 20, 30 ou 40 anos de idade. Como se a morte já não fosse complicada o suficiente para processar, a Meta oferece a possibilidade de voltar no tempo. Um porta-voz da Meta disse ao Business Insider que “atualmente não temos planos para avançar com este exemplo”, mas a própria existência da patente revela algo importante sobre para onde as grandes empresas de tecnologia estão a ir.

Também levanta questões perturbadoras sobre quem realmente possui a nossa identidade digital. A Meta não está sozinha neste território. A indústria de “grief tech” está a expandir-se rapidamente. Startups como HereAfter AI, Eternos e StoryFile já oferecem serviços para criar avatares interativos do falecido. Na China, empresas como a Super Brain permitem aos utilizadores “ressuscitar digitalmente” uma pessoa falecida por apenas 20 yuans (cerca de 3 dólares), utilizando apenas 30 segundos de material audiovisual.

Mas os investigadores da Universidade de Cambridge alertam que esta área da IA é “um campo minado ético”. A Dra. Katarzyna Nowaczyk-Basińska do Centro Leverhulme para o Futuro da Inteligência explica que “é importante priorizar a dignidade do falecido e garantir que não seja violada pelos motivos financeiros dos serviços digitais após a morte”. Os investigadores de Cambridge delinearam três cenários perturbadores em que os griefbots podem prejudicar os vivos: avatares criados sem o consentimento do falecido que começam a exibir anúncios (por exemplo, uma avó sugerindo pedir comida de um serviço de entrega específico); chatbots que perturbam as crianças ao insistir que um dos pais falecidos ainda está com eles; simulações de IA que criam laços emocionais tão fortes que podem ser necessários protocolos para “encerrar” o relacionamento a fim de fornecer encerramento emocional.

Quem é o dono dos seus dados digitais quando morre?

A patente Meta levanta também outra questão: o que acontece às nossas contas e aos dados digitais quando morremos? A resposta legal é complexa e varia drasticamente consoante o local onde vive. Nos Estados Unidos, o Revised Uniform Fiduciary Access to Digital Assets Act (RUFADAA) concede aos fiduciários o direito de aceder e gerir os dados e ativos digitais do falecido. Mas de acordo com o Observatório Digital Watch, há questões: o ato pode violar a privacidade do falecido, e nem todos os estados o adotaram.

Na Europa, o RGPD não se aplica explicitamente aos dados do falecido ou deixa de esclarecer a sua aplicabilidade após a morte. Na prática, as famílias muitas vezes têm pouca escolha senão aderir aos termos de serviço da plataforma, a menos que o falecido deixe instruções e credenciais para trás. É dentro desta incerteza legislativa que a Meta, há quase uma década, introduziu a funcionalidade “contacto legado”, permitindo aos utilizadores designar alguém para gerir a sua conta após a morte — levando à patente de 2023.

Ainda não está claro se a Meta alguma vez implementará a sua patente para fazer com que os mortos continuem a publicar, mas o facto de ter sido arquivada revela para onde estamos a caminhar enquanto sociedade. Um mundo onde a linha entre os vivos e os mortos se torna cada vez mais turva, onde as empresas tecnológicas podem monetizar o luto, e onde os nossos clones digitais podem sobreviver a nós. A questão não é se a tecnologia o tornará possível. A questão é se devemos desejá-lo. E se um dia alguém comentar nos seus posts no Instagram, como é que saberá se são realmente eles — ou apenas um algoritmo treinado para soar como eles?