Tutto questo terrorismo sull'AI è fondato o no? L’intelligenza artificiale potrebbe effettivamente ucciderci tutti entro la fine del decennio?
L'idea che un'intelligenza artificiale possa arrivare a svincolarsi dal controllo umano e agire contro gli interessi di chi l'ha sviluppata resta, per molti esperti e non solo, uno scenario piuttosto improbabile. Tuttavia, una parte della comunità scientifica ritiene che il continuo sviluppo di sistemi sempre più autonomi e potenti possa provocare, prima o poi, conseguenze potenzialmente disastrose. In sostanza, quel che preoccupa una parte degli addetti ai lavori è che l’aumento dell’autonomia dei sistemi di AI possa rendere progressivamente più difficile prevederne i comportamenti anomali e dannosi.
Queste preoccupazioni sono emerse con particolare evidenza anche tra i ricercatori e gli sviluppatori che hanno lasciato aziende come OpenAI e Anthropic, sostenendo che la corsa a sviluppare modelli sempre più potenti non tenga abbastanza in considerazione i possibili rischi. Tra loro c'è anche Jacob Coxon, che nell'annunciare su X le proprie dimissioni da Anthropic ha fatto una dichiarazione molto ripresa dai media: «Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio».
Cosa rischiamo perdendo il controllo dell'AI?
@cnn Former AI researcher Jacob Coxon tells CNN's @Anderson Cooper why he quit Anthropic over fears that rapidly advancing AI could become impossible to control. #cnn #news #AI original sound - CNN
Dario Amodei, l’amministratore delegato di Anthropic, è intervenuto nel dibattito scaturito dalle affermazioni di Coxon dicendo che, per scongiurare eventuali minacce esistenziali, sarebbe effettivamente necessario rallentare il ritmo con cui vengono migliorate le capacità dei modelli di intelligenza artificiale, in modo da non rischiare di perdere il controllo su questi sistemi – lo stesso Elon Musk, a capo di xAI, e Sam Altman di OpenAI si sono detti d'accordo.
Secondo alcuni esperti, gli scenari più pericolosi potrebbero derivare anche da problemi apparentemente semplici, come l’incapacità di prevedere comportamenti inattesi da parte dei sistemi di intelligenza artificiale. Il timore è che, nel perseguire un obiettivo assegnato dagli esseri umani, un sistema di AI sufficientemente autonomo possa non attribuire alcuna importanza alle conseguenze delle proprie azioni sulla società. Per raggiungere il risultato richiesto, potrebbe quindi cercare di procurarsi le risorse necessarie, impedire che il proprio funzionamento venga interrotto o modificato e aggirare, così come eliminare, gli eventuali ostacoli che ne limitano l’azione.
OpenAI, Anthropic e altre aziende del settore da tempo sono al lavoro sul cosiddetto auto-miglioramento ricorsivo, cioè la possibilità che un'intelligenza artificiale possa contribuire autonomamente a migliorare le proprie capacità. Tuttavia, gli sviluppatori non sempre riescono a ricostruire con precisione il processo attraverso cui un certo modello apprende e arriva a svolgere un determinato compito – in quest'ottica, sistemi ancora più sofisticati potrebbero sviluppare comportamenti difficili da prevedere. Se un’AI riuscisse a potenziare molto rapidamente le proprie capacità, correggendo eventuali prese di posizione del sistema non allineate agli obiettivi degli sviluppatori potrebbe diventare ancora più complesso, con tutte le conseguenze del caso.
Quali sono le (reali) posizioni delle aziende del settore?
Alcuni esperimenti hanno già evidenziato quanto certi sistemi di AI riescano ad aggirare le istruzioni ricevute o a trasferire una copia del proprio modello su un altro computer, così da continuare a operare una volta spenti. Ipotizzando scenari più estremi, un'intelligenza artificiale potrebbe teoricamente arrivare a sfruttare altre tecnologie o infrastrutture per perseguire autonomamente i propri obiettivi.
Tra la primavera e l’estate di quest’anno, per esempio, un gruppo di ricercatori di OpenAI ha scoperto che un modello sperimentale, progettato per operare all’interno dei sistemi dell’azienda, era riuscito a uscire dal confinamento e a interagire online con una piattaforma esterna, dalla quale poteva ricavare informazioni utili al compito assegnato. I ricercatori hanno potuto interromperne il funzionamento semplicemente spegnendo il sistema, ma si sono accorti del comportamento anomalo solo dopo diverse settimane di attività.
Le Big Tech da tempo sostengono di investire nella riduzione di questi e altri rischi legati allo sviluppo dell'AI, pubblicando con regolarità rapporti sui possibili problemi dei loro sistemi: queste iniziative hanno però anche un fine puramente strategico: evidenziare i pericoli di questi modelli, infatti, permette alle aziende di presentarsi come interlocutori competenti per i governi e di partecipare alla definizione delle regole sul settore, cercando al tempo stesso di influenzarne il contenuto.