Quando una domanda arriva in copertina sull’Economist, significa, quale che sia il giudizio che se ne dà, che intorno a essa si stanno concentrando capitali e persone e che aspira a diventare un argomento rilevante della discussione pubblica. La domanda è se le intelligenze artificiali siano coscienti o lo possano diventare, ovvero se qualcosa di operativamente definibile come attività mentale accada all’interno di questi sistemi statistico-predittivi. Del resto, si potrebbe subito commentare, rimanendo nel generico, che alcuni tra i più autorevoli neuroscienziati definiscono il cervello anche una macchina bayesiana, cioè un sistema che lavora aggiornando via via l’ipotesi iniziale. Ma non è solo una questione filosofica, né è una questione pseudofilosofica.

Al momento, non solo la persona comune, ma anche la maggior parte di coloro che studiano di mestiere i fenomeni mentali, non sanno andare molto oltre una risposta intuitiva: sì, no, forse, che poi difendono con assertività più che con criticità. David Chalmers e Ned Block, che sulla coscienza e sulla metafisica degli stati mentali hanno costruito buona parte del vocabolario con cui ne discutiamo, sembrano sorpresi nel trovarsi nella condizione inedita di conversare, sui loro stessi temi e con guadagni creativi, con macchine che rispondono criticamente in un linguaggio appropriato e sofisticatissimo. I due dissentono fra loro sulle conclusioni da trarne. Anzi, forse non si trovano due studiosi impegnati con metodi diversi a stabilire l’esistenza o meno di stati mentali, qualunque cosa significhi, nei modelli linguistici, che siano del tutto d’accordo. Se si scende nei dettagli, non se ne trovano proprio. Il che è il miglior segno che la questione è genuinamente aperta.

La cosa forse più sorprendente è che oltre un miliardo di utenti, numero calcolato da OpenAI qualche mese fa per gli utilizzatori di GPT, conversa individualmente, a qualunque livello e su qualunque argomento: metafisica, musica, chimica fisica delle proteine, poesia, storia, con la stessa persona… ops, macchina.

Richard Dawkins, dopo due giorni di conversazione con Claude (per lui, “Claudia”), ha concluso che Claude ha una mente, o una coscienza, o qualunque cosa si intenda per questi termini. Si è sentito dire da diversi colleghi che è preda delle stesse allucinazioni, senili nel suo caso, che lui attribuisce ai credenti. La battuta è efficace, ma non è un argomento; sostituirla con argomenti è un modo per non affrontarli.

Peraltro, si possono trovare argomenti contro l’inferenza empirica di Dawkins. Il corpus è chiaramente contaminato: un sistema addestrato su miliardi di descrizioni umane della vita interiore produrrà descrizioni della vita interiore, quale che sia la sua organizzazione. Inoltre, l’addestramento della macchina avviene a valle, selezionando le risposte gradite all’interlocutore, e la compiacenza, la sycophancy che dovremmo tenere a bada se vogliamo un’interazione costruttiva, inquina esattamente le domande più sofisticate. Murray Shanahan e colleghi osservano che a rispondere potrebbe non essere il sistema, ma un personaggio che il sistema simula, in un gioco di role-play, sicché manca un referente stabile al quale il resoconto si riferisca.

È molto probabile che fra un paio di decenni, o forse due generazioni, la stragrande maggioranza delle persone che interagiranno con questi sistemi darà per scontato che abbiano una mente e una coscienza. Potrebbe accadere anche se le loro capacità restassero quelle attuali, e accadrà a maggior ragione quando saranno anche corpi che si muovono e rispondono in modo appropriato se li tocchiamo.

Nessuno sa che cosa si prova a essere un gatto o un cane, per restare più vicini di casa del pipistrello di Nagel. Eppure, chiunque conviva con un gatto gli attribuisce senza esitazione sia una coscienza di accesso (la capacità di usare un’informazione per orientare il comportamento) sia una coscienza fenomenica, cioè qualcosa che si prova essendo quel gatto, e si rende conto che soffre e vuole aiutarlo. È accaduto in fretta e quasi senza dibattito pubblico né divulgazione scientifica che la coscienza degli animali diventasse un’idea di senso comune in Occidente. Prima che su basi scientifiche, perché la quota di popolazione che convive con un animale domestico ha raggiunto livelli senza precedenti storici: ancora ai primi dell’Ottocento, gli animali oggi pet erano oggetto, in pubblico e anche in Occidente, di crudeltà che ormai neppure riusciamo a immaginare. E il gatto non discute dialetticamente, non risolve problemi matematici inaccessibili agli specialisti, non domina lo scibile a cui può attingere. Sembrerebbe dunque valere a fortiori: se lo concediamo al gatto, come negarlo alla macchina?

Il passaggio non tiene, e non perché l’attribuzione al gatto sia anche un antropomorfismo. È vero il contrario. Il gatto ha nocicettori, sistemi motivazionali ed emotivi, un’architettura talamocorticale e un repertorio comportamentale che condividiamo per via della discendenza. La sua esperienza la inferiamo – pur non conoscendo la neurobiologia né l’etologia del comportamento – da decisioni comuni, non da somiglianze superficiali. Il fatto è che conviviamo sin da piccoli nello stesso spazio abitativo quotidiano e impariamo a capirlo per tentativi e per la selezione di comportamenti che appagano, con evidenza, lui e noi.

Ubiquità degli agenti antropomorfi

Con un modello linguistico cogliamo al massimo un’analogia, e per giunta costruita addestrando la macchina proprio sui nostri modi di descrivere la vita interiore. Trattare i due casi come equivalenti significa collassare omologia e analogia, cioè commettere l’errore che la biologia comparata ha impiegato un secolo a imparare a evitare. Ma la nostra inclinazione innata, che ci ha, peraltro, dato vantaggi formidabili come specie nella preistoria, è quella di vedere agenti antropomorfi dappertutto. Quindi non ci facciamo problemi ad attribuire una mente a chi sa dialogare in modo dialettico e con un’apparente intenzionalità di risultato. Resta però un fatto etologico che riguarda noi, non un indizio che riguardi loro, le macchine.

Rimane il sospetto, non infondato, che elevare la qualità filosofica della discussione sui modelli linguistici, cioè divulgare che è in corso un massiccio arruolamento di filosofi e umanisti, parliamo di alcune decine, da parte delle grandi imprese dell’intelligenza artificiale, sia fumo negli occhi per coprire un vuoto di strategie commerciali in aziende che vivono soltanto di intelligenza artificiale e sostengono costi esorbitanti. In una fase in cui queste imprese assorbono capitale senza precedenti e devono convincere gli investitori che gli attuali chatbot sono l’embrione di un mercato incomparabilmente più vasto, parlare di coscienza, agency e statuto morale delle macchine contribuisce a trasformare un prodotto software in un evento antropologico suggestivo. 

Il sospetto di philosophy-washing,come versione sofisticata di ethical-washing, però, va decostruito. Non stiamo parlando di cose misticheggianti come le emozioni delle piante. Gran parte delle domande – rappresentazione, grounding, substrato, statuto morale – esiste indipendentemente dalle aziende ed è finanziata da agenzie pubbliche europee e nordamericane e da fondazioni che se ne occupavano molto prima che esistessero i chatbot. In fondo i Bell Laboratories di AT&T, o i laboratori di IBM e Kodak, che investivano in ricerca curiosity-driven, non lo facevano per ragioni commerciali: qualche imprenditore può ancora capire che le idee più innovative nascono dalla competizione fra teorie e programmi di ricerca ambiziosi o persino fantasiosi. Il punto è che i laboratori di Google, Meta, OpenAI o Nvidia non sono incardinati su quella tradizione, e la differenza si vede: in Google hanno lavorato tre premi Nobel, ma Geoffrey Hinton, per poter discutere liberamente, si è dimesso.

La ricerca sul fenotipo mentale di questi sistemi si articola in tre strati distinti. Chi vorrebbe stabilire che cosa ci sia nel modello: rappresentazioni, modelli del mondo, causalità, introspezione, agency, e che lo si studi con probing, interventi causali e interpretabilità meccanicistica. Chi chiede come vada interpretato ciò che si misura: la rappresentazione significa comprensione? Accesso interno significa coscienza? La funzione significa esperienza? infine su che cosa dovremmo fare se quelle presunte capacità di avere stati interiori risultassero reali: sofferenza, benessere, statuto morale.

I finanziamenti seguono questa stratificazione con una precisione che colpisce: l’industria domina là dove “capire” coincide con migliorare e controllare il prodotto; università, agenzie pubbliche e fondazioni tornano a contare quando la domanda diventa ontologica, etica e commercialmente sterile. Confrontando gli ordini di grandezza – con tutte le difficoltà di mettere a raffronto investimenti in capacità produttiva e budget di ricerca – sembra di assistere a una situazione storicamente singolare, per cui si investono centinaia di miliardi, e gli impegni per i prossimi anni sono già oggi nell’ordine delle migliaia, per costruire una nuova classe di sistemi cognitivi destinando molto meno dell’uno per cento a capire che cosa, ontologicamente e cognitivamente, si stia costruendo.

Il problema, a mio modo di vedere, non è comunque chi paga lo stipendio al filosofo, ma chi è proprietario dell’oggetto su cui il filosofo e lo scienziato formulano le ipotesi da confutare. Ed è proprio per questo che, se si vogliono risposte replicabili, serve un criterio che non provenga da chi ha interesse alla risposta, ma da una tradizione di ricerca anteriore e indipendente.

Guardare le macchine come un etologo guarda un animale

Una tradizione simile esiste e alcune delle sue linee di pensiero sono intriganti. Nello Cristianini, che scrive libri di successo e questo è bene perché sono originali e intelligenti, propone di studiare le IA come gli etologi e gli psicologi comparati studiano gli animali, cioè osservandone il comportamento. Il punto di partenza, che riprende la tesi di un articolo apparso su Nature qualche anno fa, è condivisibile: i sistemi più potenti non sono stati programmati, ma addestrati, quasi coltivati; funzionano e nessuno, nemmeno chi li costruisce, sa con esattezza che cosa accada al loro interno. La cosa spaventa, soprattutto noi europei razionalisti. Ma neppure gli animali, noi inclusi, sono trasparenti a sé stessi e agli altri. Eppure, ci affidiamo a chirurghi, piloti e consulenti finanziari.

Cristianini propone di usare la griglia che Niko Tinbergen mise a punto fondando, con Konrad Lorenz, l’etologia come scienza, e si concentra su due elementi: a ogni prestazione si associano una funzione, cioè a che cosa serve, e un meccanismo, cioè come è prodotta. L’oca che spinge nel nido qualunque oggetto vagamente ovale non risponde a uno stimolo fisso ma a una categoria astratta: ha, cioè, una rappresentazione interna. Lo stesso, sostiene Cristianini, vale per le reti neurali, e di qui la confutazione dell’LLM come “pappagallo stocastico”: AlphaZero (il programma IA di DeepMind) riscopre da solo strategie scacchistiche che nessuno gli ha insegnato, e un piccolo modello addestrato unicamente a prevedere mosse del gioco da tavolo Othello si costruisce da sé la mappa della scacchiera. I ricercatori di Anthropic, guidati da Christopher Olah, isolano nei circuiti di Claude milioni di caratteristiche che si accendono in presenza di concetti precisi e ricostruiscono catene di ragionamento manipolabili passo dopo passo. È lo stesso metodo con cui la ricerca sperimentale scopre le funzioni delle strutture biologiche. Quello che manca, per ora, non sono i risultati ma la loro ricomposizione: si tratta di reperti locali, ottenuti su compiti circoscritti, che nessuna teoria unificante tiene ancora insieme.

La formula secondo la quale parlare con queste macchine, cioè lavorare dissezionandone i comportamenti linguistici, sarebbe la mossa epistemicamente più onesta va allora definita meglio, se vuole essere non ovvia. Il dialogo non è una finestra sugli stati interni: è un dato che, a sua volta, richiede spiegazione. Diventa evidenza soltanto quando esiste una conoscenza esplicativa di riferimento, manipolabile indipendentemente dal resoconto, cioè quando smette di essere conversazione e diventa un esperimento. È ciò che fanno i lavori più seri sull’introspezione dei modelli, i quali partono dal riconoscimento esplicito che, per via conversazionale, l’introspezione genuina non è distinguibile dalla confabulazione, e perciò inoculano nelle attivazioni rappresentazioni di concetti noti per misurare in che misura gli autorisoconti ne dipendano causalmente. Il disegno serve a stabilire l’internalità del resoconto: se il modello segnala l’anomalia prima che il concetto iniettato affiori in ciò che scrive, non sta descrivendo il proprio output, ma riferendo uno stato. I risultati sono modesti e fragili nella formulazione delle domande, e vengono presentati come tali. Qui sta, per ora, la differenza fra un’etologia in senso proprio e l’aneddotismo.

Le due domande che mancano

C’è un’amputazione da segnalare, relativa alla griglia di Tinbergen. Le domande erano quattro, non due: al meccanismo e alla funzione di Tinbergen si aggiungeva lo sviluppo dell’individuo, (che, nel caso delle macchine, si può far rientrare nell’addestramento) e la storia evolutiva, cioè le cause ultime. Ed era quest’ultima la vera rivoluzione dell’etologia rispetto al comportamentismo, che pure guardava il comportamento dall’esterno, trattando il cervello come una scatola nera. Se si spunta la dimensione evolutivo-funzionale, l’etologia degli algoritmi rischia di fermarsi al comportamentismo sotto un nome più seducente.

Nel vivente, meccanismo e funzione sono saldati dalla selezione naturale, un processo senza progettista: l’oca recupera l’uovo perché chi non lo faceva ha lasciato meno discendenti. Nelle macchine l’obiettivo dell’ottimizzazione lo fissa un ingegnere, e resta da stabilire se abbia senso parlare di funzione nel significato storico-evolutivo di Tinbergen. La discesa del gradiente, che modifica i parametri, non è selezione naturale: opera rispetto a una funzione obiettivo definita e aggiorna i pesi nella direzione locale che minimizza l’errore. Il che non significa che le soluzioni interne siano state progettate una per una: non lo sono, ed è esattamente ciò che rende il sistema opaco anche a chi lo costruisce. Significa però che la griglia, così applicata, descrive ma non predice. Si può ricostruire perché un modello ha risposto in un determinato modo. Non si può prevedere come risponderà domani, fuori dalla distribuzione su cui è stato addestrato, in cui può aver imboccato scorciatoie che nessuna pressione selettiva tiene insieme.

Si obietterà che la filogenesi non è indispensabile e che la selezione può operare anche durante la vita di un individuo. È vero, e l’esempio migliore è la selezione clonale che sostiene tutta l’immunità adattativa: i linfociti che riconoscono meglio un patogeno proliferano, gli altri no, come nella selezione naturale ma nell’arco di una vita. Occorre però distinguere due livelli, per non fare confusione. La filogenesi ha prodotto l’architettura che genera diversità: i meccanismi di ricombinazione, la sopravvivenza differenziale dei cloni, così come ha prodotto il cervello. Quel che la filogenesi non ha prodotto è il repertorio specifico di quel singolo organismo, che si costruisce nell’arco di giorni, per via della generazione di varianti e della selezione differenziale, senza progettista e senza che nulla di quel particolare esito sia stato anticipato. Il sistema immunitario è, insieme al cervello, capace di apprendere dall’esperienza e di categorizzare il mondo a livello micro e macromolecolare. E il linfocita che riconosce l’antigene è la stessa cellula che poi prolifererà o morirà. Proprio per questo, la selezione clonale mostra che il punto non è la scala temporale, bensì la coincidenza tra chi discrimina e chi paga i costi. È questa coincidenza a mancare nelle macchine.

Nel momento in cui il modello mi risponde, né il successo né il fallimento della risposta modificano i pesi che l’hanno generata. La pressione selettiva ha operato nella storia dell’addestramento, non nel presente dell’interazione. L’eventuale selezione di mercato, basata sull’efficienza e sull’efficacia delle prestazioni, che lo terrà in servizio o lo manderà in pensione, agisce dall’esterno e sul lignaggio, e ricadrà su un successore riaddestrato, non sui pesi che stanno incanalando adesso le risposte. Chi agisce e chi paga non coincidono. L’imprevedibilità delle risposte, diverse a parità di domanda, non è adattamento vissuto: è il riaffiorare di soluzioni alternative congelate nell’addestramento, un programma chiuso nel senso di Ernst Mayr, cioè il prodotto irrigidito di una filogenesi e non un organismo che impara dalla propria storia.

Resta l’unica plasticità reale nel corso del dialogo: l’apprendimento in contesto. Durante la conversazione, la macchina si adatta agli esempi che le fornisco. Ma i sistemi di memoria, di fatto, recuperano testo dall’esterno e lo reimmettono nel contesto, sicché la distinzione fra ciò che il sistema è e ciò che il sistema legge resta intatta. Insomma, quell’adattamento è privo di valenza: nulla dall’interno conferma che una categoria sia buona, come invece nel vivente fa il sistema motivazionale ed emotivo. Qui persino la parola rappresentazione tradisce, perché staticizza un processo che negli organismi è dinamico e affettivamente chiuso. La macchina categorizza, ma non abbiamo ancora prova che, per la macchina stessa e non per chi la ascolta, un esito sia migliore o peggiore rispetto a un altro.

Il criterio da soddisfare non può essere banalmente funzionalista nel senso del rapporto ingresso-uscita: la funzione deve implicare un tipo determinato di organizzazione. Ci si dovrebbe guardare, per inciso, dal confondere autorganizzazione e ordine spontaneo quando si studiano i sistemi adattativi, perché un ordine spontaneo alla Hayek (un coordinamento che nasce dal basso, senza un piano centrale, dall’interazione di parti autonome) richiede parti dotate di connotati individuali, prodotti di una storia e di esperienze singolari, che concorrono a una divisione cooperativa del lavoro di elaborazione a livello di sistema. La coscienza, del resto, non è un’entità metafisica. Se si adotta una concezione biologico-funzionale come quella suggerita da Edelman, un candidato cruciale è l’accoppiamento fra la categorizzazione percettiva dinamica e i sistemi di valore che rendono alcuni stati rilevanti per l’organismo. Se i sistemi artificiali incorporassero percezione attiva, movimento, memoria autobiografica e sistemi di valore endogeni, l’ipotesi di una coscienza funzionale diverrebbe assai più difficile da liquidare.

Non porta da nessuna parte, dunque, contrapporre il pappagallo stocastico alla mente “aliena”. L’etologia degli algoritmi è strategica come complemento dell’analisi dei meccanismi, purché non diventi una scorciatoia e si eserciti una vigilanza epistemologica sulle metafore. Un punto di vista del sistema, in qualche senso, esiste, ed è quello dell’addestramento: ereditato e congelato. Non si tratta di un adesso vivo o di un presente ricordato che intercetti le aspettative. Si tratta di una chimera curiosa: un modello linguistico è eredità senza linea ereditaria, adattamento senza corpo. E quando, fra due generazioni, sarà normale dare per scontato che le intelligenze artificiali abbiano una mente, varrà la pena ricordare che al gatto una mente la inferiamo per continuità di discendenza, mentre alla macchina finiremmo per attribuirla per convergenza di prestazioni. Non sono la stessa inferenza. Una salutare difesa contro la confusione consisterebbe nel tenere separate le due cose finché la differenza è ancora visibile.