Talvez os óculos inteligentes da Meta tenham um problema de privacidade Em alguns casos, os vídeos gravados podem ser visualizados acidentalmente pelas pessoas que treinam os sistemas de IA — opa!
Os mais recentes modelos de óculos inteligentes Meta, desenvolvidos em colaboração com a Ray-Ban e a Oakley, incorporam um sistema de inteligência artificial concebido para suportar e potenciar as funcionalidades do dispositivo, incluindo gravação de vídeo e chamadas telefónicas. Os óculos também permitem que os utilizadores interajam com o assistente de IA para enviar mensagens ou obter uma audiodescrição do que a câmara está a captar.
O conteúdo capturado pelos utilizadores geralmente permanece armazenado no dispositivo com o qual foi gravado, a menos que o utilizador opte por partilhá-lo com a Meta para contribuir para a melhoria do serviço. Em alguns casos, no entanto, os dados e conteúdos partilhados podem estar sujeitos a revisão manual por colaboradores humanos, visando refinar e treinar os sistemas integrados de inteligência artificial no produto. Segundo a empresa, os materiais revisados são filtrados ou parcialmente obscurecidos para proteger a privacidade dos envolvidos.
Uma investigação conduzida pelos jornais suecos Svenska Dagbladet e Göteborgs‑Posten destacou que esses filtros nem sempre são eficazes: em alguns casos, os revisores teriam conseguido ver claramente os rostos dos indivíduos registados — uma grande preocupação de privacidade para os utilizadores.
O case envolvendo os óculos inteligentes da Meta
@cathypedrayes PSA: Meta glasses A Swedish investigation found that Meta’s human AI workers (who work in Kenya to help train the AI) have seen sensitive videos of people changing, in bedrooms, financial information, etc. and it’s probably because people don’t realize this can happen. Meta does try to blur faces and details but the system isn’t perfect so just assume if your glasses can record it, a person might see it. Don’t record anything private, credit cards, information, changing clothes, etc. #smartglasses #technews #onlinesafety #AI #thingsyoushouldknow original sound - dj auxlord
A Meta há muito que conta, em determinadas circunstâncias, nos trabalhadores empregados por empresas contratadas para melhorar o desempenho dos seus produtos tecnológicos, incluindo vídeos gravados com os seus óculos inteligentes. Trabalhadores entrevistados por jornalistas suecos, empregados por uma empresa sediada em Nairóbi no Quénia chamada Sama, relataram que tinham a tarefa de ensinar IA a interpretar a informação contida em vídeos, etiquetando manualmente os objetos que neles apareciam.
Segundo os seus testemunhos, durante estas operações acederam a conteúdos de todo o tipo, incluindo cenas íntimas. Relataram ainda ter acesso a transcrições de algumas conversas entre os utilizadores e a IA, para verificar se o sistema respondia corretamente às questões. A Meta respondeu à investigação afirmando que a possibilidade de vídeos gravados com os seus óculos serem visualizados por revisores humanos externos está indicada na sua política de privacidade.
O trabalho de quem treina sistemas de IA
@evhandd A new report just dropped claiming that the footage from user’s Meta Glasses is being sent to an annotation center in Kenya... Where employees WATCH THE VIDEOS TO HELP TRAIN META’S AI! And these employees say they have seen EVERYTHING
original sound - Evan
Nos últimos anos, várias investigações jornalísticas exploraram um tema sobre o qual as empresas tecnológicas tendem a falar pouco e que, quando surge, reacende periodicamente o debate público: a chamada rotulagem de dados, que envolve etiquetar diferentes tipos de dados — como áudio, vídeo, imagens ou texto — para treinar sistemas de inteligência artificial. Estas tarefas são frequentemente mal remuneradas e repetitivas, por vezes expondo os trabalhadores a conteúdos violentos ou perturbadores, mas são essenciais para tornar a IA mais eficiente — mesmo que as empresas de tecnologia tendam muitas vezes a minimizá-la.
Nos últimos anos, esta atividade tem sido também acompanhada pelo chamado “Reforcement Learning with Human Feedback” (RLHF), ou seja, utilizando avaliações humanas para julgar os resultados produzidos pela IA, visando orientar os sistemas para respostas mais precisas ou úteis, melhorando progressivamente o desempenho. Estas tarefas são solicitadas em larga escala por grandes empresas tecnológicas como Google, Microsoft, e OpenAI, e são frequentemente terceirizadas para empresas terceirizadas em países em desenvolvimento, como o Quénia ou o Nepal, onde os custos laborais são muito mais baixos. Além disso, a reconstrução destas atividades é complexa, uma vez que as empresas contratadas exigem muitas vezes a máxima confidencialidade para evitar que os detalhes sobre o funcionamento ou desenvolvimento das tecnologias em que estão a trabalhar vazem.
