A IA facilitará o cibercrime? E a disseminação gradual de “agentes de IA” certamente não ajuda

Há muito que um número crescente de setores económicos está altamente digitalizado e faz parte de um complexo sistema internacional em que as infraestruturas, os serviços e os atores públicos e privados são fortemente interdependentes. Dentro deste cenário, qualquer potencial vulnerabilidade tecnológica pode ser explorada para a realização de ataques cibernéticos. No entanto, as consequências destes acontecimentos já não se limitam ao mero roubo de dados; colocam agora em risco o funcionamento de serviços essenciais dos quais as pessoas confiam no quotidiano. Por isso, os governos e as instituições levam cada vez mais a sério o cibercrime. Hoje, os ciberataques podem ter como alvo hospitais, empresas de transporte, redes de energia, ou o setor do retalho, entre outros. Por exemplo, conforme noticiado pelo Financial Times, a infra-estrutura tecnológica da empresa britânica Synnovis — que fornece serviços de análises de sangue ao sistema de saúde do Reino Unido — foi alvo no ano passado. Em consequência do ataque, milhares de exames médicos e cirurgias agendadas foram cancelados ou adiados. Em pelo menos dois casos, o acontecimento teve consequências diretas na saúde dos doentes. Isto também acontece porque muitas grandes empresas tendem a externalizar a sua gestão de TI — isto é, o controlo e administração dos seus ativos digitais — para fornecedores externos. A cadeia de abastecimento, portanto, pode ser relativamente longa e distribuída. Neste contexto, as ligações entre diferentes infraestruturas digitais podem apresentar pontos fracos, que as equipas de hackers exploram frequentemente com relativa facilidade para contornar sistemas de segurança e realizar ataques cibernéticos direcionados.

Há outro fator a considerar: a crescente disponibilidade de ferramentas baseadas em inteligência artificial reduziu drasticamente as competências técnicas necessárias para a realização de crimes cibernéticos. Um exemplo é o WormGPT, um modelo de linguagem lançado em 2023 que foi explicitamente desenvolvido para fins criminosos. Ao contrário de sistemas semelhantes como o ChatGPT, que incluem salvaguardas para prevenir o uso indevido, o WormGPT não possui filtros éticos ou de segurança: foi concebido para não bloquear pedidos maliciosos, como gerar malware, e-mails de phishing, ou instruções para ataques cibernéticos. O objetivo declarado dos seus desenvolvedores era fornecer uma ferramenta para os utilizadores com o objetivo de explorar a inteligência artificial para automatizar o cibercrime. Ainda mais preocupante é a disseminação dos chamados agentes de IA — sistemas capazes de realizar ações complexas de forma autónoma em nome dos utilizadores. Enquanto os chatbots tradicionais se limitam a responder a comandos ou completar tarefas específicas, os agentes de IA são projetados para agir de forma independente, adaptar-se ao ambiente digital em que operam e perseguir objetivos continuamente. O seu potencial de utilização ilícita é, portanto, enorme.

Conforme relatado pelo Financial Times, a própria Microsoft afirma que a disseminação de agentes de IA aumentará significativamente nos próximos dois anos, passando de uma fase experimental para um uso mais deliberado pelos utilizadores — com implicações significativas para a cibersegurança. A crescente circulação de agentes de IA e os riscos ligados ao seu uso ilícito fazem da governação destas tecnologias uma questão crítica. À luz deste cenário, os atrasos e o provável adiamento da Lei da IA — a proposta de regulamento europeu que regerá o desenvolvimento e a utilização de sistemas de IA no continente — não ajudam, como aponta a Wired Italia. “A velocidade da inovação na inteligência artificial atingiu níveis extraordinários. No entanto, o impacto destes avanços na segurança global dependerá em grande parte das dinâmicas geopolíticas. As crescentes tensões entre os Estados Unidos e a China, a capacidade da UE de afirmar a verdadeira 'soberania digital' face ao domínio tecnológico americano e chinês, e a vontade da Rússia em continuar a tolerar grupos criminosos e de espionagem no seu território: estes são os principais desafios que moldam o futuro da segurança online”, alerta o Financial Times.