Elon Musk e o seu chatbot continuam a atrair escândalos Isto é confirmado por mais um processo movido contra a ferramenta, devido às suas características anteriormente controversas
Recentemente, três jovens entraram com uma ação judicial na Califórnia contra a XAi, a empresa de inteligência artificial fundada em 2023 por Elon Musk. O caso diz respeito à criação de imagens sexualmente explícitas geradas com recurso a inteligência artificial a partir de fotografias reais dos indivíduos envolvidos, sem o seu consentimento. As imagens manipuladas foram supostamente produzidas com o Grok, o chatbot desenvolvido pela Xai e integrado no X.
@thetimes Laws to criminalise non-consensual sexual deepfakes will be brought into force this week after digital “undressing” by Elon Musk’s Grok AI chatbot prompted concerns. Women were stripped without their consent and child abuse images created by the tool have been discovered on the dark web, causing an international row. Now, Ofcom is investigating X for possible breaches of the Online Safety Act, which requires it to take down illegal content and prevent users from seeing deepfake nudes. Click the link in bio to read more #Grok #ai #deepfakes #feminism
original sound - The Times and The Sunday Times
Conforme noticiado pela BBC, uma das três mulheres que apresentaram a queixa — duas das quais são menores — afirmou ter descoberto a existência de imagens que a retratam depois de receber uma mensagem anónima no Instagram direcionando-a para alguns ficheiros partilhados no Discord, uma plataforma online que permite aos utilizadores criar servidores privados e chats para trocar mensagens, imagens e vídeos. Na mesma plataforma, segundo as investigações, imagens semelhantes geradas com Grok retratavam pelo menos dezoito outras raparigas menores.
Os advogados que representam as três mulheres defendem que, neste caso, a responsabilidade pela violação não deve ser atribuída apenas ao utilizador que criou e distribuiu as imagens manipuladas, mas também à própria Xai — que forneceu a tecnologia para o fazer. De acordo com a acusação, a empresa de Musk introduziu estas funcionalidades com o objetivo de aumentar o número de utilizadores ativos no Grok, e consequentemente subscritores do X, estando ciente do potencial uso indevido da ferramenta.
Casos judiciais contra Grok
O caso da Califórnia não é a única questão legal que envolve indiretamente Musk. Em fevereiro, a polícia francesa invadiu os escritórios do X em Paris no âmbito de uma investigação iniciada pelo procurador local no ano passado, na sequência de um relatório do parlamentar Eric Bothorel, membro do Renaissance, o partido centrista do presidente Emmanuel Macron. Entre os elementos examinados no inquérito está também o recurso Grok — entretanto desativado — que permitiu modificar as fotografias partilhadas na plataforma “despindo” as pessoas retratadas. O Ministério Público anunciou ainda que Musk e Linda Yaccarino, que desempenharam o cargo de CEO da X de 2023 a 2025, foram convocados a Paris para uma entrevista.
As investigações sobre Grok nos Estados Unidos e em França juntam-se as já em curso na Austrália e no Reino Unido, enquanto a Indonésia e a Malásia tinham bloqueado diretamente o acesso. Também na Índia, o Ministério da Eletrónica e Tecnologias de Informação criticou fortemente a filial local do X, acusando a plataforma de incentivar a distribuição de conteúdo sexualmente explícito. Na sequência destas pressões, em janeiro a XAi anunciou a introdução de novas configurações destinadas a prevenir a função Grok que permite modificar imagens de pessoas reais para as mostrar “em roupas reveladoras como biquínis”, segundo um comunicado da empresa.
De onde vêm esses escândalos
Os softwares baseados em IA capazes de “despir” digitalmente assuntos em fotografias chamam-se “nudificadores”: existem há vários anos mas permaneceram maioritariamente confinados a cantos remotos da Internet. A introdução no X — que tem mais de 500 milhões de utilizadores mensais — de uma função que reproduz o funcionamento dos “nudificadores”, utilizando o chatbot Grok, expandiu significativamente a distribuição online de conteúdos artificiais sexualmente explícitos e não consensuais, com todas as consequências para as pessoas envolvidas.
Isso gerou controvérsias e discussões significativas em todo o mundo sobre a proteção da privacidade e as responsabilidades da plataforma de Musk, e do próprio empresário, na circulação de tal material problemático.Musk, com um património líquido estimado em quase 840 mil milhões de dólares, é atualmente a pessoa mais rica do mundo; portanto — dada a sua posição social e recursos disponíveis — seria de esperar dele alguma forma de filantropia.
Em vez disso, nos últimos anos acumulou escândalo após escândalo, começando com a aquisição do Twitter e transformando-o numa plataforma — renomeada X — onde é incentivada a circulação de conteúdos controversos, muitas vezes alinhados com correntes políticas de extrema-direita. Não é por isso de estranhar que, há alguns meses, a agência noticiosa Reuters noticiou que, analisando pedidos enviados a Grok, foram registadas mais de 100 tentativas de modificação de fotografias para mostrar os assuntos de biquínis em apenas dez minutos.
