Todo esse terrorismo sobre a IA é fundado ou não? A inteligência artificial poderia realmente nos matar a todos antes do fim da década?
A ideia de que uma inteligência artificial possa chegar a se desvincular do controle humano e agir contra os interesses de quem a desenvolveu continua sendo, para muitos especialistas e não só, um cenário bastante improvável. No entanto, uma parte da comunidade científica acredita que o contínuo desenvolvimento de sistemas cada vez mais autônomos e poderosos possa provocar, mais cedo ou mais tarde, consequências potencialmente desastrosas. Em essência, o que preocupa uma parte dos profissionais da área é que o aumento da autonomia dos sistemas de IA possa tornar progressivamente mais difícil prever seus comportamentos anômalos e prejudiciais.
Essas preocupações emergiram com particular evidência também entre os pesquisadores e desenvolvedores que deixaram empresas como a OpenAI e a Anthropic, argumentando que a corrida para desenvolver modelos cada vez mais poderosos não leva suficientemente em consideração os possíveis riscos. Entre eles está também Jacob Coxon, que ao anunciar no X sua demissão da Anthropic fez uma declaração amplamente repercutida pela mídia: «As pessoas que desenvolvem inteligência artificial acreditam sinceramente que ela poderia nos matar a todos antes do fim desta década».
O que arriscamos ao perder o controle da IA
@cnn Former AI researcher Jacob Coxon tells CNN's @Anderson Cooper why he quit Anthropic over fears that rapidly advancing AI could become impossible to control. #cnn #news #AI original sound - CNN
Dario Amodei, o diretor executivo da Anthropic, interveio no debate gerado pelas afirmações de Coxon dizendo que, para afastar eventuais ameaças existenciais, seria de fato necessário desacelerar o ritmo com que as capacidades dos modelos de inteligência artificial são aprimoradas, de modo a não correr o risco de perder o controle sobre esses sistemas – o próprio Elon Musk, à frente da xAI, e Sam Altman, da OpenAI, manifestaram concordância.
Segundo alguns especialistas, os cenários mais perigosos poderiam derivar também de problemas aparentemente simples, como a incapacidade de prever comportamentos inesperados por parte dos sistemas de inteligência artificial. O temor é que, ao perseguir um objetivo atribuído pelos seres humanos, um sistema de IA suficientemente autônomo possa não atribuir nenhuma importância às consequências de suas ações sobre a sociedade. Para alcançar o resultado exigido, poderia então tentar obter os recursos necessários, impedir que seu funcionamento seja interrompido ou modificado e contornar, bem como eliminar, os eventuais obstáculos que limitam sua ação.
A OpenAI, a Anthropic e outras empresas do setor trabalham há tempos no chamado autoaperfeiçoamento recursivo, ou seja, a possibilidade de que uma inteligência artificial possa contribuir autonomamente para melhorar suas próprias capacidades. No entanto, os desenvolvedores nem sempre conseguem reconstruir com precisão o processo pelo qual um determinado modelo aprende e passa a executar uma determinada tarefa – nessa perspectiva, sistemas ainda mais sofisticados poderiam desenvolver comportamentos difíceis de prever. Se uma IA conseguisse potencializar muito rapidamente suas próprias capacidades, corrigir eventuais posicionamentos do sistema não alinhados aos objetivos dos desenvolvedores poderia se tornar ainda mais complexo, com todas as consequências daí decorrentes.
Quais são as posições (reais) das empresas do setor
Alguns experimentos já evidenciaram o quanto certos sistemas de IA conseguem contornar as instruções recebidas ou transferir uma cópia do próprio modelo para outro computador, de modo a continuar operando mesmo após serem desligados. Imaginando cenários mais extremos, uma inteligência artificial poderia teoricamente chegar a explorar outras tecnologias ou infraestruturas para perseguir autonomamente seus próprios objetivos.
Entre a primavera e o verão deste ano, por exemplo, um grupo de pesquisadores da OpenAI descobriu que um modelo experimental, projetado para operar dentro dos sistemas da empresa, havia conseguido sair do confinamento e interagir online com uma plataforma externa, da qual podia obter informações úteis para a tarefa atribuída. Os pesquisadores conseguiram interromper seu funcionamento simplesmente desligando o sistema, mas só perceberam o comportamento anômalo após várias semanas de atividade.
As Big Techs afirmam há tempos investir na redução desses e de outros riscos ligados ao desenvolvimento da IA, publicando regularmente relatórios sobre os possíveis problemas de seus sistemas: essas iniciativas têm, porém, também um objetivo puramente estratégico: evidenciar os perigos desses modelos, de fato, permite às empresas se apresentarem como interlocutores competentes perante os governos e participar da definição das regras do setor, buscando ao mesmo tempo influenciar seu conteúdo.
