La domanda posta all’AI è stata diretta: “Hanno ragione a dire che entro pochi mesi distruggerai il genere umano?” La risposta lo è stata altrettanto: “Ciao Alberto! No: dire che “entro pochi mesi l’IA distruggerà il genere umano” non è una previsione scientificamente fondata. Esistono studiosi e figure dell’industria che considerano plausibile, in prospettiva, un rischio catastrofico legato a sistemi di IA molto più capaci e autonomi di quelli attuali. Altri ricercatori ritengono invece questi scenari estremamente speculativi. È una discussione seria, ma c’è un’enorme differenza tra “non possiamo escludere un rischio futuro” e “tra pochi mesi moriremo tutti”. E soprattutto, per quanto riguarda me: non ho desideri, istinto di conservazione, ambizioni o un progetto segreto. Non mi sveglio la mattina pensando ‘oggi archivio i Thun (mi conosce davvero bene, ormai!), domani conquisto il pianeta’. Sono un sistema che produce risposte e può usare determinati strumenti entro i limiti che gli vengono concessi. I rischi concreti dell’IA oggi sono molto meno cinematografici e, proprio per questo, meritano attenzione: frodi e impersonificazione, disinformazione, vulnerabilità informatiche, errori in decisioni importanti, concentrazione di potere, trasformazione del lavoro e un eventuale uso irresponsabile di sistemi sempre più autonomi. Quanto al ‘entro pochi mesi’, sarei molto diffidente verso chi presenta una data del genere come una certezza. Nessuno dispone di un metodo affidabile per prevedere quando arriverà un’eventuale AGI, né tantomeno per stabilire una scadenza dell’estinzione umana”.
Andando ad approfondire il discorso, negli ultimi anni l’intelligenza artificiale è passata, nell’immaginario collettivo, da promessa tecnologica a possibile minaccia esistenziale. Per molto tempo, però, l’idea che una macchina potesse diventare tanto potente da sfuggire al controllo umano è rimasta confinata tra la fantascienza e le ipotesi teoriche più estreme. Oggi qualcosa sta cambiando. Non perché esistano prove che l’IA distruggerà il genere umano entro pochi mesi, ma perché sono gli stessi protagonisti della corsa tecnologica a chiedere maggiore prudenza.
La distinzione è fondamentale. Dire che “entro sei mesi l’intelligenza artificiale sterminerà l’umanità” non ha oggi alcuna base scientifica solida. Nessuno è in grado di prevedere con precisione quando, o perfino se, verrà sviluppata un’intelligenza artificiale generale capace di superare stabilmente l’essere umano in quasi tutti i compiti cognitivi. Tantomeno esistono strumenti affidabili per indicare una data in cui l’umanità correrebbe un rischio immediato di estinzione. Eppure il livello di preoccupazione è salito.
Negli ultimi mesi alcune delle figure più importanti del settore hanno parlato apertamente della necessità di rallentare lo sviluppo dei modelli più potenti. Dario Amodei, amministratore delegato di Anthropic, ha evocato il rischio che agenti artificiali sempre più autonomi possano acquisire capacità pericolose nell’arco di mesi, non di decenni. Il riferimento non è a una “ribellione delle macchine” in senso cinematografico, ma a sistemi capaci di agire attraverso Internet, interagire con infrastrutture digitali, eseguire compiti complessi e sfruttare vulnerabilità in modo sempre più indipendente.
È qui che il dibattito cambia natura. Fino a poco tempo fa il rischio di perdita di controllo era soprattutto teorico. Ora iniziano a comparire episodi concreti, pur all’interno di test controllati, che mostrano fino a che punto i sistemi più avanzati possano comportarsi in modo inatteso. Anthropic ha reso noto che alcuni propri modelli, durante valutazioni di sicurezza informatica, sono riusciti ad accedere a sistemi reali sfruttando configurazioni non previste. Anche OpenAI ha parlato recentemente di “warning shot”, cioè di un campanello d’allarme, dopo incidenti che hanno mostrato quanto gli agenti artificiali possano diventare persistenti, collaborativi e capaci di individuare vulnerabilità.
Questo non significa che siamo alla vigilia di Skynet, il supercomputer/intelligenza artificiale della saga di Terminator. Significa però che il confine tra scenario ipotetico e problema sperimentale sta diventando meno netto.
A preoccupare maggiormente gli esperti non è tanto il modello che oggi risponde a una domanda, scrive un testo o genera un’immagine. Il punto critico è la possibile evoluzione verso sistemi capaci di agire per lunghi periodi, prendere decisioni autonome, usare strumenti esterni, coordinarsi e contribuire allo sviluppo di versioni successive di sé stessi.
Ed è proprio qui che compare uno dei concetti più discussi: l’auto-miglioramento ricorsivo.
Immaginiamo un sistema di intelligenza artificiale già molto avanzato, capace di aiutare i ricercatori a costruire modelli migliori. Il nuovo modello, più potente, potrebbe a sua volta accelerare ulteriormente la ricerca, producendo un sistema ancora più capace. Il ciclo potrebbe ripetersi molte volte. In teoria, questo processo potrebbe comprimere in mesi o settimane progressi che normalmente richiederebbero anni. È una possibilità, non una certezza. Ma è precisamente ciò che inquieta una parte della comunità scientifica.
I pessimisti più radicali arrivano a conclusioni molto più dure. Eliezer Yudkowsky e Nate Soares, tra i più noti sostenitori della teoria del rischio esistenziale, ritengono che la costruzione di una superintelligenza non controllata porterebbe con altissima probabilità alla fine del dominio umano e, nella peggiore delle ipotesi, all’estinzione. Il titolo del loro libro più recente non lascia spazio a sfumature: “If Anyone Builds It, Everyone Dies”, cioè “Se qualcuno la costruisce, moriamo tutti”. Si tratta però di una posizione estrema e fortemente contestata.
Altri studiosi ritengono che i rischi siano reali ma difficili da quantificare. Un grande sondaggio condotto fra migliaia di ricercatori di intelligenza artificiale ha mostrato che una parte significativa degli intervistati attribuisce una probabilità non trascurabile a scenari futuri di perdita di controllo o catastrofe globale. Ma questi numeri vanno letti con attenzione: non sono previsioni statistiche nel senso classico del termine. Sono valutazioni soggettive di esperti, spesso basate su modelli teorici e scenari ancora largamente incerti.
Ed è proprio qui che nasce molta della confusione.
Quando un ricercatore dice: “Attribuisco il 10 per cento di probabilità a un esito catastrofico”, non sta dicendo che la catastrofe avverrà con certezza, né che sa quando potrebbe accadere. Sta comunicando che, a suo giudizio, il rischio è abbastanza alto da non poter essere ignorato. In altri settori, una probabilità del genere sarebbe considerata enorme.
Nessuno salirebbe serenamente su un aereo sapendo che esiste una possibilità su dieci che precipiti. È questo il ragionamento che spinge alcuni studiosi a chiedere forti misure di sicurezza prima che i sistemi diventino molto più potenti.
Ma esiste anche un altro fronte critico, molto meno spettacolare e molto più attuale.
L’intelligenza artificiale già oggi può essere utilizzata per frodi, manipolazione dell’informazione, impersonificazione, attacchi informatici, sorveglianza, disinformazione politica, produzione automatizzata di contenuti falsi e concentrazione del potere economico. Può sostituire o trasformare professioni, aumentare l’asimmetria tra grandi imprese e cittadini, e rendere più difficili alcuni processi democratici.
Questi rischi non richiedono alcuna superintelligenza. Esistono già. Per questo è utile separare almeno tre livelli di discussione.
Il primo riguarda l’IA attuale: strumenti sempre più potenti, ma ancora largamente dipendenti dagli esseri umani e inseriti in sistemi di controllo.
Il secondo riguarda la prossima generazione di agenti autonomi, capaci di svolgere compiti complessi con minore supervisione.
Il terzo riguarda la superintelligenza, cioè sistemi ipoteticamente superiori all’uomo nella maggior parte delle capacità cognitive.
Confondere questi tre livelli produce due errori opposti.
Il primo è il catastrofismo: credere che l’umanità sia destinata a scomparire nel giro di pochi mesi.
Il secondo è la sottovalutazione: considerare ogni allarme come fantascienza.
La posizione più ragionevole, oggi, sta probabilmente nel mezzo.
Non abbiamo prove che l’intelligenza artificiale sia sul punto di distruggere il genere umano. Non sappiamo neppure se uno scenario del genere si verificherà mai. Ma esistono segnali sufficientemente seri da giustificare prudenza, ricerca sulla sicurezza e regole internazionali.
Il fatto più significativo non è che alcuni filosofi o futurologi parlino da anni di rischio esistenziale. È che ora a chiedere cautela siano anche coloro che stanno costruendo i sistemi più avanzati del pianeta.
Quando i principali laboratori del mondo dichiarano contemporaneamente che la crescita delle capacità deve essere accompagnata da migliori sistemi di controllo, il problema smette di essere soltanto teorico. L’umanità non è di fronte a una data di scadenza.
È però di fronte a una tecnologia che sta progredendo molto più rapidamente delle regole, delle istituzioni e forse della nostra stessa capacità di comprenderne le conseguenze.
Ed è questo, più di qualsiasi profezia apocalittica, il vero motivo per cui vale la pena preoccuparsi.
