Uno dei protagonisti della rivoluzione tecnologica lancia ora un allarme su uno scenario di portata quasi inimmaginabile. Bill Gates afferma che l’intelligenza artificiale è diventata così potente da poter causare eventi in grado di uccidere un miliardo di persone.
È un’affermazione che va ben oltre gli avvertimenti usuali sulla sicurezza dell’IA e che tocca il territorio dell’apocalittica. Il co-fondatore di Microsoft parla di un pericolo che non può più essere lasciato esclusivamente nelle mani delle aziende tecnologiche e chiede l’intervento delle autorità prima che i nuovi strumenti diventino incontrollabili.
Leggi anche:Mattarella lancia l’allarme sull’IA: “Rischi per l’uomo”
Leggi anche:Facebook down, migliaia di segnalazioni in tutto il mondo: cosa sta succedendo agli account
Leggi anche:Social vietati agli under 13, l’UE prepara la stretta: la proposta di von der Leyen divide il web
La dichiarazione è stata rilasciata nel corso di un’intervista con la giornalista di NBC News Kristen Welker, con estratti diffusi in anteprima rispetto all’intervista completa, che andrà in onda domenica su “Meet the Press”. È un momento significativo nel dibattito sull’intelligenza artificiale: non si tratta di speculazioni accademiche, ma di avvertimenti provenienti da uno dei fondatori dell’industria tecnologica moderna.
La dichiarazione di Gates: intelligenza artificiale come arma di massa
“L’intelligenza artificiale è certamente abbastanza potente da causare eventi che, sapete, potrebbero provocare un miliardo di morti”
, ha affermato Gates nell’intervista. È una affermazione che per chiarezza e radicalità non lascia spazio a interpretazioni.
Gates avverte che gli strumenti attualmente in fase di sviluppo potrebbero amplificare la capacità di alcune persone di causare distruzione in modo senza precedenti. Non sta parlando di uno scenario ipotetico lontano nel futuro, ma di rischi connessi agli strumenti attuali e a quelli in via di sviluppo.
“Anche se è piuttosto difficile raggiungere il 100%, non c’è mai stata un’arma potente quanto la combinazione di persone con cattive intenzioni e i più recenti strumenti di intelligenza artificiale”, sostiene il co-fondatore di Microsoft. È una formulazione che identifica chiaramente il problema come una questione di agency umana combinata con capacità tecnologica.
Dagli attacchi informatici ai patogeni sintetici: gli scenari di Gates
Tra gli scenari descritti in precedenza da Gates figurano l’utilizzo dell’intelligenza artificiale per attacchi informatici contro ospedali, reti elettriche o sistemi finanziari
. Questi sono scenari che, sebbene gravi, rimangono nel territorio della “guerra cibernetica” convenzionale.
Tuttavia, un pericolo ancora più grave è che l’IA potrebbe ridurre le barriere di conoscenza che attualmente impediscono ad attori malintenzionati di progettare o sviluppare agenti patogeni pericolosi. È lo scenario biologico: l’IA come strumento per accelerare lo sviluppo di patogeni mortali, bypassando i vincoli di conoscenza specialistica che attualmente limitano l’accesso a questa capacità.
In un testo pubblicato ad agosto, Gates ha incluso queste minacce tra i grandi rischi che l’accelerazione dello sviluppo tecnologico pone alla società. Non è la prima volta che Gates solleva il tema dei rischi biologici. In precedenza, aveva avvertito sulla probabilità di pandemie future e sulla necessità di preparazione.
La richiesta di intervento statale: Gates chiede leggi vincolanti
Ecco perché il miliardario americano chiede un intervento diretto dello Stato
. Alla domanda se i legislatori dovrebbero intervenire, la sua risposta è stata categorica: “Assolutamente sì”.
Gates ritiene che gli obblighi relativi al monitoraggio e al controllo della tecnologia debbano essere stabiliti per legge e che le autorità debbano poter intervenire in caso di violazione. Non sta proponendo una regolamentazione morbida basata su linee guida volontarie, ma su leggi vincolanti con sanzioni per il mancato rispetto.
“Nessuno crede che l’autoregolamentazione sia sufficiente”, ha affermato, respingendo esplicitamente l’idea che l’industria dell’IA possa gestire da sola tutti i rischi che crea. È una posizione che contrasta direttamente con la narrativa dell’autoregolamentazione che ha caratterizzato il dibattito su OpenAI, Anthropic e altre società di ricerca IA negli ultimi anni.
I ricercatori dell’IA concordano: pericoli reali e crescenti
L’avvertimento di Gates arriva poche settimane dopo dichiarazioni ancora più radicali provenienti dal settore
. Jacob Coxon, un ricercatore che ha lavorato presso OpenAI e Anthropic, si è dimesso da Anthropic e ha accusato i grandi laboratori di puntare allo sviluppo di una superintelligenza in grado di auto-migliorarsi.
“Le persone che sviluppano l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio”, ha scritto Coxon. È una affermazione che merita attenzione perché proviene da qualcuno che lavora all’interno di queste organizzazioni e che ha accesso a informazioni privilegiate sullo stato della ricerca.
Le sue affermazioni sono state pubblicamente supportate da altri ricercatori di Anthropic. Non si tratta di critiche esterne, ma di preoccupazioni sollevate da persone che lavorano al cuore dello sviluppo dell’IA.
OpenAI, Anthropic e la corsa verso la superintelligenza
Il fatto che i ricercatori interni ad Anthropic e OpenAI stiano esprimendo queste preoccupazioni suggerisce una frattura all’interno dell’industria. Da un lato ci sono i leader aziendali che enfatizzano i benefici dell’IA e la gestione responsabile dei rischi. Dall’altro ci sono i ricercatori che vedono lo stato della ricerca come una corsa incontrollata verso una superintelligenza le cui conseguenze non possono essere completamente previste.
Il fatto che Coxon abbia dovuto dimettersi da Anthropic per esprimere queste preoccupazioni suggerisce anche una certa pressione interna per mantenere la narrativa positiva sulla sicurezza e sui benefici dell’IA.
La dissenso di Nvidia: Huang respinge gli scenari apocalittici
Tuttavia, gli avvertimenti non sono universalmente accettati nel settore tecnologico
. Il CEO di Nvidia, Jensen Huang, ha recentemente respinto gli scenari secondo cui l’intelligenza artificiale potrebbe distruggere l’umanità entro il 2030 e ha definito alcune di queste affermazioni irresponsabili.
È una divergenza significativa. Nvidia, come produttore dei chip GPU che alimentano lo sviluppo dell’IA, ha un interesse commerciale nel continuare l’accelerazione dello sviluppo. I suoi interessi economici potrebbero influenzare la sua disposizione a considerare seriamente i rischi esistenziali.
D’altra parte, Gates non ha conflitti di interesse diretti nello sviluppo dell’IA nel modo che hanno Huang o i leader di OpenAI. Inoltre, la sua carriera come filantropo lo ha posizionato come qualcuno che si preoccupa dei rischi globali sulla salute pubblica e sulla sicurezza.
La competizione nella ricerca IA: un fattore di accelerazione pericoloso
Un elemento cruciale nel dibattito è la competizione tra società di IA. Se una società ritiene che i concorrenti stiano sviluppando sistemi di IA avanzati, c’è una pressione a accelerare il proprio sviluppo per non rimanere indietro. Questa dinamica di competizione può portare a compromessi sulla sicurezza.
Gates, implicitamente, sta suggerendo che questa competizione non controllata rappresenta un rischio significativo. L’unico modo per controllare questa competizione è attraverso la regolamentazione statale che stabilisce un campo di gioco equo e sicuro per tutti i competitor.
La pandemia come precursore: le lezioni del COVID-19
Gates ha in passato avvertito sulla probabilità di pandemie future e sulla necessità di preparazione. Il COVID-19 ha dimostrato che le pandemie globali possono verificarsi rapidamente e causare milioni di morti prima che i governi riescano a rispondere efficacemente.
La sua preoccupazione è che l’IA potrebbe accelerare lo sviluppo di patogeni più pericolosi del COVID-19, con il risultato potenziale di pandemie ancora più mortali. È un parallelo che aiuta a contextualizzare la sua affermazione sui “miliardi di morti”: non è un’esagerazione apocalittica, ma una valutazione basata su scenari che hanno storicamente precursori.
La regolamentazione dell’IA a livello globale: la sfida della coordinazione
Un problema della proposta di Gates è che la regolamentazione dell’IA richiede coordinamento internazionale. Se gli Stati Uniti regolano fortemente l’IA mentre la Cina e altri paesi non lo fanno, il risultato potrebbe essere semplicemente una migrazione dello sviluppo verso giurisdizioni meno regolate.
Tuttavia, Gates sembra essere consapevole di questo problema e la sua proposta sembra implicare una coordinazione internazionale sulla regolamentazione dell’IA. Questo è un compito complesso ma potenzialmente non impossibile, dato che la comunità internazionale ha in passato coordinato su questioni di sicurezza nucleare e biologica.
Il dibattito pubblico: escalation della retorica o valutazione sincera del rischio?
Un’altra questione è se le affermazioni di Gates rappresentano una valutazione sincera del rischio o un’escalation retorica nel dibattito pubblico. È possibile che Gates stia enfatizzando i rischi per sollecitare l’azione politica, sapendo che è improbabile che i legislatori agiscano senza una sensazione di urgenza.
D’altra parte, è anche possibile che Gates stia comunicando sinceramente le sue valutazioni basate su consulenze con esperti e su una revisione della letteratura scientifica sugli ultimi sviluppi nell’IA.
La sfida della previsione: quanto è affidabile la valutazione del rischio dell’IA?
Una domanda fondamentale è quanto sia affidabile la valutazione del rischio dell’IA. La ricerca scientifica sulla sicurezza dell’IA rimane in uno stadio iniziale, e ci sono importanti incertezze su come i sistemi di IA avanzeranno e quali rischi porrà.
Inoltre, il campo dell’IA è caratterizzato da previsioni fallimentari nel passato. Non è raro che i ricercatori facciano previsioni su quando certi obiettivi saranno raggiunti, solo per scoprire che i tempi sono completamente sbagliati. Questo non significa che i rischi non siano reali, ma suggerisce che la certezza nelle previsioni dovrebbe essere temperata.