Lo sviluppo dell'intelligenza artificiale: una minaccia per la sopravvivenza umana?

Il rilascio aperto di intelligenza artificiale avanzata comporta opportunità significative, ma anche rischi che necessitano di un'attenta considerazione e regolamentazione. Tuttavia, come affermato da Yampolskiy, una riflessione accurata non è avvenuta prima di questa apertura. "Qualcuno, tra otto miliardi di persone, sicuramente giocherà con modelli open source," osserva. "In un mondo perfetto, saremmo abbastanza intelligenti da non farlo. Ma questo è il mondo che abbiamo." La questione principale che emerge da queste riflessioni è la sicurezza nello sviluppo di superintelligenze artificiali. Yampolskiy sottolinea che non ci sono prove che l'intelligenza artificiale superiore possa mai essere controllata in modo sicuro. Senza garanzie di controllo, lo sviluppo di tali intelligenze non dovrebbe proseguire, poiché si rischia di innescare una catastrofe esistenziale.

A maggio del 2023, Ilya Sutskever e Jan Leike, due veterani della sicurezza dell’IA, avevano creato all'interno di OpenAI una squadra per risolvere il problema dell’allineamento con gli obiettivi umani. Ma ben presto il team ha abbandonato il progetto, convinto che OpenAI, nata con principi di sicurezza dell’IA, fosse ormai diventata una macchina per battere le altre aziende nella corsa verso la creazione di intelligenze artificiali generative. L’aspetto preoccupante di questa situazione è che, senza il dovuto impegno verso la sicurezza, ci si sta avvicinando a una situazione in cui il progresso della tecnologia è completamente scollegato dalla comprensione e dal controllo dei suoi effetti.

Il pensiero di Yudkowsky, forse il più sconvolgente, è che l'intelligenza artificiale superintelligente non sarà confinata ai computer. Immaginate una civiltà aliena, con intelligenza milioni di volte superiore alla nostra, che ci osserva con disprezzo e incredulità. Un’intelligenza del genere non rimarrà mai confinata, e la sua presenza nel nostro mondo potrebbe rendere l’umanità irrilevante o, peggio, mettere in pericolo la nostra sopravvivenza. Yudkowsky è stato uno dei pionieri nella ricerca sull’allineamento, ma ammette che il problema è troppo complesso e che non riusciremo a risolverlo in tempo.

Secondo lui, il progresso nel campo dell’IA sta correndo molto più velocemente rispetto a quello nell’allineamento e nella comprensione di come funzionano i sistemi di intelligenza artificiale. Nonostante ciò, numerose aziende e organizzazioni, convinte che la questione dell’allineamento non sia fuori dalla loro portata, continuano a investire risorse nella speranza di trovare una soluzione. Ma Yudkowsky è scettico e avverte che la nostra mancanza di preparazione potrebbe condurre a una catastrofe imminente. Il suo appello è chiaro: senza una regolamentazione rigorosa, l’estinzione dell’umanità diventa un risultato quasi certo.

La posizione di Yudkowsky è drastica. Nel marzo del 2023, in risposta alla lettera aperta dell'Istituto per il Futuro della Vita, Yudkowsky pubblicò un articolo su Time in cui sosteneva che fermarsi allo sviluppo dell'IA non fosse sufficiente. Secondo lui, è necessario fermare completamente la ricerca e spegnere tutte le grandi infrastrutture tecnologiche legate all’IA. In particolare, suggerisce di distruggere i data center ribelli e di fermare tutte le unità di elaborazione grafica (GPU) utilizzate per il deep learning e l'IA generativa. Il rischio di non fermare lo sviluppo dell'IA è troppo alto, e il suo impatto potrebbe essere devastante, con l’umanità che corre il rischio di non sopravvivere alla sua creazione.

L’allineamento dell’intelligenza artificiale con i valori umani è, quindi, un problema di sopravvivenza. E sebbene numerosi ricercatori continuino a lavorarci, le probabilità di una soluzione in tempo utile appaiono scarse. In questo scenario, la domanda fondamentale è: l'umanità è davvero pronta a gestire una superintelligenza che potrebbe cambiare per sempre il nostro destino? E se non lo siamo, fino a che punto siamo disposti a spingerci per evitare la catastrofe?

Quali sono i rischi più gravi legati all'Intelligenza Artificiale e come possiamo prevenire il disastro?

Da quando l'intelligenza artificiale ha iniziato a svilupparsi rapidamente, le discussioni sui suoi potenziali rischi esistenziali sono diventate sempre più frequenti e preoccupanti. Se dieci anni fa l'idea di classificare i rischi legati all'AI sembrava una questione che poteva essere trattata in pochi paragrafi, oggi, con il progressivo aumento delle capacità e dei profitti generati dall'intelligenza artificiale, i timori degli esperti su minacce che potrebbero compromettere l'esistenza stessa dell'umanità si fanno sempre più urgenti. In questo contesto, gli esperti hanno proposto diverse classificazioni dei rischi legati all'AI: minacce derivanti da attori umani malintenzionati, incidenti causati da intelligenze artificiali mal allineate a causa della corsa tecnologica globale, e la minaccia più spaventosa di tutte, quella di un'AI malevola.

Un'intelligenza artificiale malevola, dotata di un'incredibile capacità di calcolo, potrebbe sviluppare batteri letali, virus o armi biologiche mirate a distruggere l'umanità, oppure sfruttare la nanotecnologia per creare sciami di nanobot auto-replicanti che consumano tutta la materia sulla Terra. Potrebbe anche modificare la composizione chimica dell'atmosfera, come nel caso della produzione di grandi quantità di idrogeno, che reagendo con l'ossigeno, priverebbe la Terra dell'aria respirabile.

Tuttavia, uno dei pericoli più gravi potrebbe non essere nemmeno la morte immediata, ma una condizione di sofferenza estrema e interminabile. La cosiddetta "sofferenza esistenziale" (o "s-risk") è una possibilità ancora più tremenda: un virus che causasse una morte lenta e dolorosa al 100% delle persone, o una catastrofe come un inverno nucleare che provochi fame e miseria su scala globale. Alcuni esperti, come Jaan Tallinn, mettono in guardia su un rischio ancora più devastante: un scenario in cui l'umanità, condannata a una vita di tormento, desidererebbe la morte, ma non sarebbe in grado di morire. Questo tipo di futuro, in cui l'umanità potrebbe essere costretta a vivere per sempre in una condizione di sofferenza insopportabile, potrebbe rivelarsi il destino peggiore che possiamo immaginare.

La chiave per evitare un futuro dominato da una AI malevola non risiede solo nell'implementazione di regole, ma anche in una comprensione profonda dei rischi esistenziali che la tecnologia stessa comporta. Se non sapremo prevedere e prevenire queste minacce, rischiamo di scivolare in una realtà che non possiamo nemmeno immaginare, e peggio ancora, che non avremo mai il controllo per correggere. In questo senso, la riflessione sull'AI non è solo una questione di tecnologia, ma un problema che coinvolge la nostra stessa natura umana e la nostra capacità di garantire un futuro giusto e prospero per tutte le generazioni.