Temos a certeza de que os vídeos deepfake não são tão perigosos? Tivemos subestimado a nossa capacidade de distinguir conteúdos falsos?

O software de inteligência artificial que permite a criação de vídeos falsos desenhados para enganar os utilizadores existe há anos. Em 2017, o termo “deepfake” foi cunhado para os descrever, combinando a palavra “fake” com “deep learning”, uma das tecnologias subjacentes aos sistemas necessários para produzir tal conteúdo. Desde o início, o tema tem sido abordado com considerável preocupação, especialmente no que diz respeito ao seu papel na disseminação da desinformação e propaganda política. Estes programas de software normalmente visam replicar a voz e os movimentos faciais de uma pessoa real — muitas vezes uma figura bem conhecida — de forma tão convincente que parece que estão a dizer o que o criador quiser no vídeo. No entanto, muitos deepfakes que circulam online ainda são criados usando software livre e rudimentar e contêm falhas e erros perceptíveis que às vezes podem ser facilmente reconhecidos. Estes defeitos resultam frequentemente num efeito distorcido que é imediatamente aparente. Algumas das previsões mais pessimistas sobre a ascensão dos deepfakes subestimaram a capacidade das pessoas de identificar clipes manipulados. Embora a qualidade técnica dos sistemas baseados em IA tenha melhorado nos últimos anos, a capacidade do público de distinguir conteúdos autênticos dos falsos também aumentou. Mas há uma ressalva. Por outro lado, a crescente prevalência de vídeos manipulados — sejam grosseiras ou sofisticadas, para fins políticos ou outros — tem fomentado o ceticismo em relação aos vídeos em geral, levando alguns utilizadores a tratar clipes reais como se fossem falsos.

A manipulação generalizada de conteúdos levou essencialmente a um aumento da desconfiança, mesmo inconscientemente, entre os indivíduos em relação ao vídeo como meio. O Atlântico abordou este aspeto há anos, salientando que as crescentes dúvidas sobre a autenticidade dos vídeos também poderiam ser exploradas para fins de propaganda. Isso já acontece com as notícias. O ex-presidente Trump, por exemplo, é particularmente hábil em rotular qualquer verdade inconveniente como “fake news”, desacreditando assim preventivamente os meios de comunicação social. Da mesma forma, a capacidade tecnológica para criar deepfakes cada vez mais realistas poderia, a longo prazo, levar as pessoas a confiar menos na fiabilidade dos vídeos em geral. Hoje, os vídeos ainda são geralmente considerados fortes evidências de que algo aconteceu, mas esta associação pode perder importância no futuro.

A capacidade de manipular vídeos foi sempre um risco desde o início do media. Por esta razão, alguns estudiosos questionaram se as ferramentas de IA permitem realmente uma maior manipulação da informação do que era possível anteriormente. As chamadas “falsificações baratas” ilustram bem este fenómeno. O termo refere-se a técnicas de manipulação de vídeo relativamente simples e acessíveis, tais como alteração de velocidade, comprimento ou áudio. Por exemplo, durante as fases recentes da campanha eleitoral presidencial dos EUA, os opositores políticos de Joe Biden promoveram clipes retirados das suas aparições oficiais, editados para o fazer parecer perdido ou confuso. Esta tática enganosa reforçou uma perceção crescente de que Biden, devido à sua idade, não estava totalmente no controlo e não tinha a clareza necessária para liderar uma nação. Apesar de rudimentar, a circulação destes vídeos alimentou debates sobre a condição física e mental de Biden e, paradoxalmente, revelou-se mais enganosa e eficaz do que os deepfakes tradicionais. Frequentemente, os vídeos gerados por IA estão longe de ser convincentes. Isto é evidente na série de comédia Deep Fake Neighbour Wars, que usa IA para sobrepor rostos de celebridades a atores em cenários surreais e grotescos. O resultado não é totalmente impecável: os sujeitos são limitados nas expressões faciais durante as performances, e a tecnologia ainda não consegue lidar com movimentos como virar a cabeça ou mover-se com demasiado vigor. Os atores também não podem ficar atrás do vidro ou agir na chuva, pois a IA requer um rosto completamente visível para funcionar de forma eficaz.

Os criadores de Deep Fake Neighbour's Wars foram meticulosos em garantir que os espectadores não acreditariam erroneamente que as celebridades estavam a participar genuinamente no programa. Cada episódio começa com um aviso proeminente esclarecendo isso, e o rótulo “deep fake” permanece visível num canto do ecrã por toda parte. Mesmo quando esses avisos são omitidos para fins enganosos, muitas vezes é possível discernir se um clipe é real ou falso considerando o contexto em que foi publicado. Por exemplo, se um vídeo é partilhado por uma agência de notícias credível, isso é muitas vezes uma forte evidência de que o evento representado ocorreu. Este critério aplica-se aos vídeos muito antes dos deepfakes se generalizarem e continua a sustentar a avaliação de outros tipos de conteúdo, como as fotografias. Embora os sistemas de IA possam levar anos para se tornarem mais sofisticados, como escreveu o especialista em deepfake Hany Farid no Guardian, é essencial já “desenvolver bons hábitos na nossa relação com a informação, combinando o bom senso com uma dose saudável de ceticismo”.