O rótulo “Criado com IA” ainda faz sentido? Mais e mais empresas estão a introduzi-lo, mesmo que isso não limite a propagação de deepfakes
Recentemente, a Anthropic anunciou que vai introduzir um sistema de aplicação de uma espécie de rótulo — legível por máquinas por sistemas informáticos — que torna identificáveis os conteúdos e ficheiros processados pelo seu chatbot Claude, bem como os produzidos pelo Claude Code, a sua ferramenta muito popular entre os web developers.
A Anthropic explicou que para as imagens, a marca d'água será aplicada dentro dos respetivos metadados — ou seja, a informação associada ao ficheiro que descreve as suas características — onde será indicado que foi utilizada inteligência artificial generativa.
A medida segue uma abordagem cada vez mais popular entre as empresas do setor, que estão a experimentar novas soluções para tornar estas marcas d'água mais eficazes. Tais ferramentas, no entanto, não impedem a disseminação de imagens e vídeos deepfake utilizados para fins de propaganda: é também por isso que alguns especialistas questionam a real utilidade da rotulagem de conteúdos gerados pela inteligência artificial.
Como vai funcionar a marca d'água da Anthropic
@willfrancis24 Claude will soon be watermarking all texts that it generates. Anthropic's popular AI will use a clever watermarking system which uses its choice of words to create patterns that are recognisable by an AI detector. This means that the usual methods of evading AI detection, such as prompts to humanise text or even some editing of AI-generated text, won't remove these signs of AI writing. Here's everything we know so far about when Claude models such as Fable, Opus, and Sonnet will start to use these patterns in its output. #claude #anthropic #llm #ai #aitools #artificialintelligence #tech #technology #learnontiktok original sound - Will Francis - AI + Marketing
A empresa de Dario Amodei afirmou que o sistema de rotulagem em questão será imperceptível para os utilizadores e não afetará a renderização do conteúdo de forma alguma — seja visual ou não. Além disso, a marca d'água permanecerá presente mesmo quando os arquivos individuais forem posteriormente modificados.
O facto é que o rótulo da Anthropic não consegue indicar em que ponto Claude foi utilizado ou com que intenção. A própria empresa explicou em comunicado que a “marca d'água só pode determinar que Claude provavelmente esteve envolvido na criação do conteúdo em algum momento. Não pode distinguir entre “Claude escreveu isto” e “Claude editou fortemente esta outra coisa””. Todas estas características dão aos observadores mais críticos motivos para serem cépticos.
De onde vem este sistema de rotulagem
Um sistema de detecção semelhante ao Anthropic também foi introduzido pela plataforma Substack, em colaboração com o Pangram (uma ferramenta conhecida para identificar textos gerados por chatbots): neste caso, no entanto, o método baseia-se na análise de padrões linguísticos, estruturas sintáticas e estilos de escrita típicos de textos produzidos por inteligência artificial.
Outras grandes empresas tecnológicas, incluindo a Microsoft e a OpenAI, também implementaram os seus próprios sistemas de etiquetagem. A medida foi tornada obrigatória pela Lei da IA, a lei europeia que regula o desenvolvimento e utilização de sistemas de inteligência artificial, aprovada em 2024 e que entra em vigor a 2 de agosto — embora as empresas individuais tenham um prazo de 4 meses para cumprir as várias disposições.
Apesar das regras da AI Act se aplicarem apenas ao mercado europeu, a Anthropic optou por estender o seu sistema de marcação de resultados de Claude globalmente — de acordo com a imagem de uma empresa particularmente cautelosa que construiu para si própria dentro da indústria.
