Tre eventi recenti fanno riflettere in ambito di intelligenza artificiale (IA). È di questi giorni l’annuncio, non senza controversie, che un team di OpenAI, l’azienda produttrice di ChatGPT, è riuscito a risolvere uno dei problemi matematici del millennio sull’esistenza di particolari soluzioni dell’equazione di Navier-Stokes usando un sistema di agenti basati su un modello di linguaggio interno all’azienda (non accessibile al pubblico). In agosto, agenti IA della stessa OpenAI sono riusciti a evadere le misure di sicurezza dell’azienda compiendo in autonomia seri atti di pirateria informatica ai danni di un’altra azienda informatica. Quest’ultimo incidente segue di pochi giorni la pubblicazione di una lettera aperta firmata da oltre mille scienziati e tecnici che lavorano alla frontiera dell’IA, tra cui l’amministratore delegato di Anthropic, Dario Amodei, che sollecitano aziende e governi a fermare lo sviluppo dell’IA prima che si inneschi una spirale incontrollabile e potenzialmente distruttiva.

L’allarme lanciato dagli scienziati statunitensi è diretto soprattutto alle azioni di una futuribile AGI (Artificial General Intelligence), ossia un’intelligenza artificiale con capacità di livello umano in ogni compito intellettuale, e soprattutto di una Superintelligenza che supererebbe le capacità intellettive umane in ogni ambito. L’esistenza e la raggiungibilità dell’AGI e della superintelligenza è, da ormai quasi due decenni, in parte articolo di fede, in parte strumento di marketing per la Silicon Valley. Risultati come la dimostrazione di Navier-Stokes sono le prime avvisaglie di superintelligenza? È difficile dare una risposta, ma, indipendentemente dalla superintelligenza, ci sono fondati motivi per pensare che l’IA possa porre dei gravi pericoli già allo stato attuale.

Facciamo un breve excursus. I progressi più clamorosi dell’IA attuale si sono avuti nell’ambito del linguaggio, e dal linguaggio (sia naturale, sia di programmazione) dipendono tutti i successi e gli incidenti menzionati prima. Come funziona la modellizzazione del linguaggio dell’IA? Essenzialmente, una frase o un testo vengono prima trasformati in una sequenza di numeri; dopodiché, algoritmi di machine learning vengono utilizzati per identificare regolarità statistiche all’interno di queste sequenze. La generazione di nuove frasi avviene campionando da una distribuzione elementare (come una Gaussiana) nello spazio delle sequenze numeriche e trasformando inversamente il risultato in un testo, così da soddisfare le relazioni statistiche presenti all’interno dei testi usati per l’allenamento. Sorprendentemente, con quantità di testi di allenamento sufficientemente grandi, la qualità del linguaggio generato con questo “stratagemma” risulta essenzialmente indistinguibile dal linguaggio umano. Prove empiriche e in parte teoriche suggeriscono che la qualità dei testi generati aumenta all’aumentare di tre fattori: quantità di dati di allenamento, risorse computazionali e numero di parametri del modello. Non solo: è stato dimostrato che è possibile prevedere di quanto aumenti la qualità dei testi aumentando i tre fattori. Queste considerazioni sono alla base dell’enorme sforzo in corso per costruire modelli IA sempre più potenti, uno sforzo che ormai ha connotazioni geopolitiche, dove paesi e aziende sono disponibili a ignorare i vasti impatti negativi di questa tecnologia sull’ambiente e sul mondo del lavoro pur di raggiungere per primi l’agognata meta dell’AGI.

La rivoluzione “agentica”

Questo era lo stato dell’arte fino allo scorso anno: la corsa allo sviluppo di un’IA con capacità simili a quelle umane (essendo addestrata su dati umani), ma non superiori. Allora perché l’allarme attuale?

La preoccupazione deriva dalla possibilità del cosiddetto “miglioramento ricorsivo automatico” (in inglese recursive self-improvement): introducendo meccanismi per cui le macchine possono imparare l’una dall’altra, si pensa che questo possa innescare una spirale di miglioramenti incontrollabili. L’ingrediente chiave è una tecnica nota come reinforcement learning, o apprendimento per rinforzo: i parametri dell’algoritmo vengono modificati per massimizzare una “ricompensa” fornita da un ente esterno. Questo meccanismo è già da tempo utilizzato per rimuovere gli eccessi dell’IA (che viene addestrata su dati non filtrati e spesso contenenti le brutture più recondite del web); lavoratori sottopagati in paesi in via di sviluppo sono impiegati da aziende quali Meta per valutare i contenuti prodotti, in effetti costituendo l’ente esterno che fornisce la ricompensa. La chiave del “miglioramento ricorsivo automatico” sta nell’avere diverse intelligenze artificiali (agenti) che interagiscono tra di loro per fornire le ricompense dell’apprendimento per rinforzo. Questo tipo di IA viene chiamata “agentica” proprio perché di norma coinvolge la collaborazione di diversi agenti di IA.

L’IA agentica può raggiungere la superintelligenza? Difficile a dirsi, anche perché non abbiamo realmente criteri oggettivi per definire l’intelligenza, figuriamoci la superintelligenza. In molti campi, la validazione umana resta imprescindibile, per cui risulta difficile immaginare un IA agentica che sorpassa significativamente le capacità umane (anche se è assolutamente possibile immaginarsi che le eguagli, con evidenti implicazioni per la società).

Esistono però campi in cui la ricompensa dell’apprendimento per rinforzo può essere ottenuta in modo relativamente facile. L’esempio principe è la matematica: esistono linguaggi di programmazione formale (l’esempio più conosciuto è LEAN) che trascrivono dimostrazioni matematiche in una serie di passaggi logici che possono essere verificati automaticamente. Recentemente, l’IA ha appreso LEAN e pertanto quello che era uno sforzo tecnico immane per un umano è diventato un compito ripetitivo e meccanico per l’IA.

Questo approccio è alla base del risultato che ha risolto il problema del millennio delle equazioni di Navier-Stokes. Peraltro, non si può nemmeno dire che questo risultato contribuisca significativamente al sapere umano: sappiamo che una certa proprietà matematica è verificata, ma non abbiamo una comprensione profonda del perché, che è lo scopo vero della ricerca matematica.

Un altro campo in cui le ricompense del reinforcement learning sono relativamente facili da ottenere è la programmazione informatica: se il programma non funziona, la ricompensa è negativa, mentre se funziona è positiva. Questo spiega l’innegabile utilità dell’IA come supporto per la programmazione, ma anche il fatto che per gli attacchi informatici l’IA rappresenta un supporto formidabile.

In quest’ottica, la soluzione di uno dei problemi matematici del millennio e l’attacco informatico avvenuto ad agosto, che abbiamo menzionato all’inizio, sono tutti spiegati da campi dove la validazione automatica permette un rapidissimo progresso ad IA agentica. E l’episodio di pirateria informatica commesso da agenti OpenAI in autonomia è un chiaro avviso: l’IA agentica non controllata, o nelle mani sbagliate, può essere un pirata informatico temibilissimo. Situazioni in cui infrastrutture critiche, come ospedali, aziende energetiche, o altro, viene compromessa da un attacco informatico sono fin troppo facili da immaginare, con conseguenze devastanti.

Gli eventi degli ultimi mesi, e le preoccupazioni degli scienziati, sono fondate. L’IA attuale rappresenta già un’arma formidabile nelle mani sbagliate, e lo sviluppo incontrollato di una simile tecnologia, dettato solo da una logica di profitto e preminenza geopolitica, dovrebbe suonare un campanello d’allarme fortissimo per tutti coloro che hanno a cuore il bene dell’umanità. Speriamo che qualcuno lo senta.