Come gruppo indipendente di monitoraggio e ricerca sull’intelligenza artificiale, sentiamo il dovere di commentare il recente manifesto di Mark Zuckerberg, The Future is for Everyone: The Path to a Positive AI Future, perché tocca direttamente molte delle tematiche che hanno portato alla nostra stessa nascita. Amiamo il progresso autentico, ma temiamo un futuro distopico: il nostro compito è promuovere un monitoraggio continuo dei limiti tecnologici, degli annunci iperbolici e delle possibili conseguenze indesiderate. Qui presentiamo una valutazione preliminare; l’analisi integrale, più tecnica e specialistica, è disponibile in allegato.

Dietro la retorica dell’“oltre umano”

Il manifesto di Meta può in larga misura essere letto come una mossa per tenere il passo con gli altri leader dell’IA “di frontiera”, da Anthropic a OpenAI, da Google DeepMind ai principali attori cinesi. Ma mostra anche i segni di quello che potremmo chiamare un “transumanesimo di livello 1”. Zuckerberg scrive: “Il futuro è per tutti. Le persone potranno utilizzare una superintelligenza oltre la capacità umana.” È un tono impostato fin dall’inizio come eccessivamente positivo, quasi propagandistico. E la domanda che ci poniamo è preliminare a tutto il resto: l’intelligenza artificiale è davvero comparabile all’intelligenza umana (per non parlare della “mente” umana, concetto ben più ampio) al punto da poter essere misurata sulla stessa scala, giustificando l’uso della parola “oltre”?

Per anni abbiamo vissuto in un ecosistema digitale in cui gli algoritmi raccolgono dati, apprendono dalle nostre preferenze, costruiscono profili, influenzano ciò che vediamo e scegliamo. Non è una dinamica nuova né esclusiva di Meta. Anche l’idea di “agente intelligente” non nasce oggi: era già oggetto di studio nel secolo scorso, mancava solo l’infrastruttura computazionale e una base di utenti adeguata. La vera discontinuità non è quindi il concetto, ma la combinazione di scala, infrastruttura e sostenibilità economica che oggi la rende possibile, e che permette il passaggio dal chatbot che risponde all’agente che ricorda, pianifica ed esegue azioni per nostro conto.

Condividiamo l’obiettivo dichiarato di “empowerment” individuale. Ma essere più capaci grazie alla tecnologia non significa automaticamente essere più autonomi. Un’IA che ci conosce sempre meglio può anticipare i nostri bisogni, orientare le nostre scelte e, nel tempo, influenzare il nostro comportamento. Il problema, per noi, non riguarda quindi solo cosa succede ai nostri dati, ma il confine tra assistenza e influenza, tra delegare un compito e delegare una decisione. Con l’IA agentica dovremmo porci domande molto concrete: cosa dovrebbe sapere un sistema su di noi? Cosa dovrebbe poter inferire? Cosa dovrebbe poter fare in autonomia, e dove dovrebbe fermarsi?

Occhiali IA e privacy nelle relazioni personali

Uno dei passaggi che ci ha colpito di più riguarda la promessa di interagire con il proprio agente «attraverso qualsiasi dispositivo, compresi gli occhiali, per restare presenti nel momento con le persone a cui teniamo». Ma si è davvero “presenti” in una stanza, con le persone a cui si tiene, mentre si interagisce contemporaneamente con un agente tramite un dispositivo indossabile?

A differenza di un laptop o di uno smartphone, un paio di occhiali con IA può mediare, registrare o elaborare una conversazione senza rendere questa mediazione visibile agli altri. Quando siamo con le persone a cui teniamo, ci sentiamo in un ambiente protetto in cui ciò che diciamo liberamente non verrà usato contro di noi. Cosa succede se quello che diciamo viene invece catturato dall’agente incorporato negli occhiali di un amico, ed eventualmente condiviso con altri, magari senza che chi li indossa ne sia pienamente consapevole? È un problema di privacy e fiducia che rischia di incidere in profondità sui rapporti tra le persone, e che il manifesto non affronta.

Più avanti Zuckerberg promette che le persone avranno «una modalità completamente privata per gli agenti personali, nella quale nemmeno Meta o qualsiasi altro fornitore possa vedere o concedere accesso alle informazioni». È uno dei pochi punti in cui il tema cruciale della privacy viene affrontato esplicitamente, e lo apprezziamo. Ma restano aperte le domande operative: come verrà garantita questa modalità, chi la verificherà, e come potrà una superintelligenza operare su dati privati mentre interagisce con migliaia di altri sistemi e agenti?

I limiti del tutor IA rispetto alla relazione docente-discente

Zuckerberg immagina che «tutti avranno un tutor e un coach personalizzati con un PhD in ogni disciplina». Questi sistemi possono essere utili in alcuni contesti, ma non sono indispensabili, e possono diventare dannosi se incoraggiano una dipendenza crescente dall’IA. Non è un dettaglio che un buon insegnante non debba necessariamente avere “pazienza illimitata”: un membro del nostro gruppo ricorda che fu proprio l’impazienza del proprio relatore di dottorato, in attesa della bozza del capitolo successivo, a fornire uno stimolo intellettuale decisivo per completare il lavoro.

Equiparare un agente IA a un tutor o a un insegnante umano è, a nostro avviso, una distorsione pericolosa: significa sostituire figure che, pur non essendo onniscienti, condividono la propria esperienza vissuta, con intelligenze prive di un fondamento cognitivo diretto nel mondo reale. Ed è un’equiparazione che incoraggia implicitamente l’idea, scientificamente e filosoficamente fuorviante, che l’IA funzioni in modi paragonabili al cervello umano.

Accesso gratuito e divario digitale globale

Il manifesto promette che tutti avranno accesso libero o economico a questi strumenti. Non ci facciamo illusioni: l’accesso gratuito sarà disponibile solo in modalità ridotta, utile a catturare l’attenzione del grande pubblico; i sistemi più capaci resteranno probabilmente a pagamento. Meta, in fondo, è un’azienda, non un ente di beneficenza. La formula scelta, «per chi desidera pagare per usare più capacità di calcolo ci sarà un meccanismo di asta dinamica», non maschera l’asimmetria di potere di mercato tra chi produce e chi consuma questi servizi.

Qui si intrecciano due divari distinti. Il primo è geografico: nei paesi ad alto reddito l’uso di internet è vicino alla copertura universale (94% della popolazione online), mentre nei paesi a basso reddito la quota scende al 23%. Il secondo è interno a ciascun paese: il divario tra chi può permettersi l’accesso a servizi IA potenti e costosi e chi resta confinato a modelli gratuiti più semplici rischia di diventare sempre più marcato.

Occupazione e impatto energetico dei data center

Zuckerberg si dice ottimista sul fatto che in futuro ci sarà «abbondanza di posti di lavoro». Riteniamo che questa affermazione non sia sostenuta da evidenze empiriche sufficienti. Proprio perché l’IA è una rivoluzione dal ritmo di crescita senza precedenti, con sviluppi persino imprevedibili, i rischi occupazionali, sia in termini di numero di posti di lavoro sia di qualità del lavoro, ci sembrano elevati. Non si può inoltre ragionare solo a partire dal contesto della Silicon Valley: basti guardare alla Cina, che sta diventando essa stessa un leader tecnologico nell’IA, per capire quanto il quadro globale sia più complesso di come viene presentato.

Anche sul fronte dei data center, le “intenzioni eccellenti” dichiarate da Meta (costruire l’infrastruttura IA “con le comunità”) vanno lette insieme ai dati più recenti. Studi aggregati sugli Stati Uniti mostrano che fino al periodo 2019-2023 la crescita dei data center era associata a tariffe elettriche medie più basse, perché l’alto volume di vendite aiutava a distribuire i costi fissi della rete su una base più ampia. I dati del 2025-2026, però, mostrano che questa dinamica si sta frammentando nelle aree ad alta concentrazione, dove i vincoli locali di capacità stanno iniziando a far salire i prezzi.

L’equilibrio di potere come sostituto dell’allineamento tecnico

Zuckerberg respinge l’idea di poter “perfezionare o allineare la tecnologia per produrre una singola superintelligenza benevola”, proponendo invece di affidarsi a un “giusto equilibrio di potere” tra persone e istituzioni con interessi concorrenti. È un approccio che ci convince solo in parte, anche se relativamente originale.

Crediamo davvero che persone e istituzioni con interessi diversi si controllino e bilancino naturalmente in modi che portano a esiti positivi? Notiamo, tra l’altro, che dall’elenco dei soggetti in gioco manca proprio un attore cruciale: le aziende. E più in profondità, questa impostazione sembra trascurare la condizione minima perché i controlli reciproci funzionino, cioè che gli attori coinvolti dispongano di forme di potere sufficientemente bilanciate. Possiamo seriamente assumere che le grandi aziende hi-tech, i singoli governi nazionali e i singoli utenti abbiano un potere comparabile?

C’è poi un aspetto che riguarda più da vicino la nostra competenza. Se, come prevede lo stesso Zuckerberg, diversi “allineamenti” saranno in competizione tra loro, siamo sicuri che gli agenti più eticamente rigorosi (quelli che, per usare il suo esempio, “rifiutano di aiutare a redigere una lettera ai futuri genitori in una scuola”) prevarranno su quelli meno scrupolosi? La teoria evolutiva dei giochi mostra che, all’interno di una popolazione, l’evoluzione di comportamenti altruistici rispetto a quelli egoistici può produrre esiti molto diversi, e spesso non ottimali dal punto di vista sociale. Affidarsi al solo bilanciamento spontaneo di interessi concorrenti, senza un monitoraggio costante e una funzione pubblica indipendente di informazione, ci sembra quindi una scommessa rischiosa.

Da qui nasce, a nostro avviso, l’urgenza per l’Europa, e per chiunque voglia mantenere la possibilità di decisioni basate sul pensiero critico, di sviluppare una propria infrastruttura digitale pubblica indipendente, senza affidarsi interamente alle aziende Big Tech.

Cosa manca: progresso umano prima della superintelligenza

Non siamo né contro l’innovazione né contro l’IA agentica. Ma una trasformazione di questa portata non dovrebbe essere definita esclusivamente da chi sviluppa la tecnologia. Condividiamo in pieno le parole di Alberto Carrara, presidente dell’International Institute of Bioethics, in una sua lettera aperta a Zuckerberg: una persona può diventare più informata senza diventare più saggia, più produttiva senza sentirsi realizzata, più connessa senza diventare capace di relazioni più profonde, più potente senza diventare più responsabile.
E condividiamo anche l’intuizione di Federico Faggin: se siamo soltanto macchine, una macchina può superarci; ma se siamo qualcosa di più, con proprietà che non coincidono con quelle di una macchina, allora possiamo trovare un modo per lavorare insieme. Come Faggin, non critichiamo la ricerca della superintelligenza in sé, ma riteniamo che non debba essere l’obiettivo finale. È più urgente fare prima progressi sul lato umano, un compito che riguarda l’etica non meno della tecnologia.

Se l’IA deve servire l’umanità, il dibattito non può essere lasciato soltanto a prestazioni, scalabilità e competizione di mercato. Deve includere autonomia, responsabilità, e una riflessione seria su cosa significhi davvero il progresso umano. Questi temi sono ampi, e ci riserviamo il diritto di tornarvi con analisi più approfondite.

L’analisi integrale di AlgoRadar è disponibile in allegato.