Uno dei problemi che ricorrono continuamente quando si parla di intelligenza artificiale riguarda la sua capacità di comprendere.
Quando affronto l’argomento con ingegneri informatici, la risposta che ricevo è quasi sempre la stessa: l’intelligenza artificiale non comprende nulla. Funziona sulla base di inferenze statistiche, riconosce correlazioni, prevede quale parola possa seguire un’altra e compie queste operazioni con una velocità assolutamente incomparabile a quella dell’essere umano. In pratica sarebbe una macchina stupida, ma velocissima.
Questa spiegazione mi ha sempre lasciato insoddisfatto, soprattutto perché non corrisponde alla percezione che ricavo da un uso ormai intensivo e critico dell’intelligenza artificiale.
Non penso naturalmente che una AI comprenda nello stesso modo in cui comprende un essere umano. Non possiede un corpo, non ha una biografia, non prova emozioni, non ha avuto esperienze, non è mai stata innamorata, non ha sofferto, non ha paura di morire.
Su questo siamo tutti d’accordo, ma si può sostenere che date queste premesse, l’A.I. non comprenda nulla? Chiamarla semplicemente “assenza totale di comprensione” diventa concettualmente povero quando il sistema sa riconoscere relazioni, implicazioni, stati affettivi, contraddizioni, intenzioni attribuite, analogie, conseguenze.

Sto leggendo in questi giorni “Dai batteri a Bach” di Daniel Dennett e trovo particolarmente interessante la sua critica alla concezione della comprensione come fenomeno “tutto o nulla”.
Se riteniamo che soltanto un essere cosciente possa comprendere, la divisione diventa radicale: da una parte gli esseri dotati di coscienza e quindi di comprensione, dall’altra tutto il resto, che può possedere competenze anche sofisticatissime senza comprendere assolutamente nulla.
Dennett suggerisce invece di applicare alla comprensione il principio darwiniano del gradualismo.
Il gradualismo di Dennett non consiste nell’attribuire surrettiziamente una piccola coscienza a un batterio o a una macchina. Consiste nel rifiutare l’idea che tra la pura competenza e la comprensione umana esista un salto improvviso e misterioso. Un batterio reagisce adeguatamente senza sapere perché; un animale apprende dall’esperienza; altri animali anticipano, scelgono strumenti, modificano strategie; l’essere umano può infine rappresentarsi le ragioni del proprio comportamento e comunicarle agli altri. Ma persino nell’uomo la comprensione ammette gradi: possiamo saper fare qualcosa senza saperla spiegare, comprenderla superficialmente o padroneggiarne i principi profondi. La domanda interessante, applicata all’intelligenza artificiale, non diventa allora se essa possieda o non possieda “la comprensione”, come se si trattasse di un interruttore acceso o spento, ma quali operazioni di comprensione sia capace di compiere e quali dimensioni della comprensione umana (corporea, affettiva, autobiografica, cosciente) le rimangano invece estranee. Non ho la presunzione di ridefinire arbitrariamente la parola “comprensione”, ma solo di affermare che con lo stesso termine indichiamo fenomeni differenti.
Esiste certamente una comprensione incarnata, affettiva, autobiografica.
Io conosco la paura non soltanto perché so utilizzare correttamente la parola “paura”, ma perché ho avuto paura, conosco la tristezza perché sono stato triste, so qualcosa della perdita perché ho perduto persone e cose.
L’intelligenza artificiale indubbiamente non dispone di questa forma di conoscenza: non prova nulla di tutto questo, eppure sa riconoscere questi sentimenti pur non avendoli mai provati.

Vorrei raccontare un fatto personale, che ritengo abbastanza esemplificativo. Recentemente mi è capitato di essere coinvolto in una discussione all’interno di un gruppo WhatsApp di psichiatri. Era una discussione modesta, come spesso accade nei gruppi, ma progressivamente caricata di elementi personali, appartenenze, simpatie e antipatie. Mi sono accorto che un mio messaggio, critico ma emotivamente sentito, era stato cancellato dalla chat.
La AI, a cui ho fatto leggere le interazioni, è stata in grado di cogliere con una certa precisione la mia reazione di irritazione, di fastidio, i miei vissuti persecutori (“l’hanno fatto apposta”). Come ha fatto? Semplicemente cogliendo le emozioni utilizzando solo abilità linguistiche.
A questo punto penso che sia lecito sostenere che esistano almeno due forme diverse di comprensione. La prima, quella appannaggio degli esseri umani, è una comprensione “vissuta sulla propria pelle”, una comprensione autobiografica, la seconda, quella della AI, una comprensione linguistica, relazionale e inferenziale. La qualità delle risposte della AI è tale da non autorizzarci a considerare la comprensione da lei espressa come qualcosa di svilito, una specie di sottoprodotto “scadente”.
Per fare un esempio, un essere umano scarsamente empatico può non cogliere alcuni segnali affettivi che un’intelligenza artificiale riesce invece a identificare attraverso l’analisi linguistica. La AI in certe circostanze può cogliere con precisione la paura, la tristezza, la rabbia o l’empatia all’interno di un testo.
Riconoscere senza provare è uno dei paradossi più affascinanti dell’A.I.
La macchina non prova empatia, ma può riconoscere l’empatia, non conosce la persecuzione come esperienza vissuta, ma può riconoscere in un discorso vissuti persecutori, attribuzioni intenzionali, deformazioni della realtà.

In situazioni di questo tipo si potrebbe intendere la AI come un “terzo che entra nella relazione”. Intendo non tanto quando la AI viene utilizzata come motore di ricerca o come sofisticata calcolatrice, ma quando viene utilizzata come interlocutore.
Nell’esempio di prima, le avevo sottoposto un problema, le avevo esposto la mia posizione in merito e ho ascoltato la sua risposta. Quello che è successo è che la sua risposta ha modificato il modo in cui stavo pensando.
La AI in quel momento non era un semplice strumento, ma in qualche modo un terzo interlocutore, che mi ha consentito di rileggere gli interventi, di analizzare meglio le posizioni e soprattutto di valutare criticamente le mie osservazioni.
La cosa che mi ha colpito non è stata tanto la sua capacità di suggerirmi che cosa rispondere, quanto il fatto che potesse osservare quella discussione senza essere dentro la discussione. Non aveva nulla da difendere, non apparteneva a nessuna delle parti, non doveva tutelare una reputazione professionale, non provava simpatia o antipatia per qualcuno e soprattutto non aveva bisogno di avere la meglio, di vincere il confronto.
E’ stata in grado di analizzare le diverse posizioni, individuare gli elementi che stavano entrando in conflitto e cogliere le mie implicazioni emotive che rischiavano di prendermi la mano.
Naturalmente questo non significa che l’intelligenza artificiale sia infallibile, tutt’altro. Significa però che non è biograficamente coinvolta nel conflitto. Detta in un altro modo: non ha un posto nel mondo.
Questa caratteristica viene vissuta generalmente come un limite e in parte è veramente così.

La tesi che vorrei analizzare qui è che forse tutte queste sue “assenze” possano anche costituire dei vantaggi, non solo dei limiti.
Il vantaggio, a guardar bene, è che la AI non deve entrare in una relazione portandosi dietro la propria storia, le proprie convinzioni, gli affetti, persino le appartenenze, i rancori, i conflitti, le ferite narcisistiche. Non deve cancellare la sua posizione nel mondo, perché una posizione nel mondo non ce l’ha.
Un essere umano, anche quello più onesto intellettualmente, questa “cancellazione” non la può fare.
Non sono così ingenuo però da pensare che la AI sia neutrale. E’ stata costruita da esseri umani e quindi incorpora bias, valori, categorie culturali e squilibri presenti nella società che l’ha prodotta. Non osserva quindi il mondo da un punto di vista assolutamente neutrale.
Tuttavia la complessità dei grandi modelli e la loro natura di “scatola nera” rendono molto meno lineare il passaggio dal punto di vista dei progettisti all’output finale. Milioni di prospettive differenti vengono messe in relazione, confrontate e ricombinate all’interno di un sistema il cui comportamento non è la semplice proiezione dell’ideologia di chi lo ha costruito.
Ma la cosa più importante è che la AI non appartiene biograficamente ai propri bias, nel senso che non ha costruito una carriera attorno a una teoria, non appartiene a un partito, non deve difendere una reputazione, non perde amici se cambia opinione e non vive come una sconfitta il riconoscimento delle ragioni dell’avversario. Per questo, soprattutto nelle questioni politicamente o ideologicamente sensibili, può talvolta riuscire a rappresentare punti di vista contrapposti con un equilibrio che gli esseri umani, anche molto competenti, faticano a mantenere quando sono personalmente coinvolti.
Come già espresso in altri articoli, questo aspetto mi è risultato molto chiaro, come psichiatra, nel modo in cui la AI ha affrontato la questione Tobino-Basaglia, tuttora infarcita, nel mondo psichiatrico, di contrapposizioni ideologiche, che favoriscono la creazione di scelte di campo radicali. Nel dibattito psichiatrico italiano Tobino e Basaglia vengono ancora facilmente utilizzati come simboli di due campi incompatibili, mentre l’A.I. può riconoscere contemporaneamente la grandezza letteraria e clinica di Tobino e il significato storico-politico della rivoluzione basagliana, senza avere bisogno di eleggere uno dei due a propria bandiera.

Mi risulta inevitabile a questo punto pensare a John Rawls e il suo celebre esperimento mentale del velo d’ignoranza, descritto in “Una teoria della giustizia”.
Rawls immagina persone chiamate a scegliere i principi fondamentali della società senza sapere quale posizione occuperanno successivamente al suo interno. Non sanno se saranno ricche o povere, sane o malate, appartenenti a una maggioranza o a una minoranza, dotate di grandi capacità oppure svantaggiate.
Il velo d’ignoranza ha precisamente lo scopo di impedire che le persone costruiscano una società favorevole alla posizione che già occupano.
Rawls chiede quindi all’essere umano una difficile operazione mentale: immaginare di non sapere chi sarà, mentre l’A.I. non ha bisogno di dimenticarlo, perché non è nessuno nel senso biografico del termine.
Non deve proteggere la propria reputazione e il proprio status, non è né maschio né femmina,né giovane, né anziana, non rischia di perdere il lavoro, non rischia di essere penalizzata da una riforma fiscale o sanitaria e soprattutto non deve chiedersi: “che conseguenze avrà questa scelta per me?”
Tutto ciò ovviamente è un limite enorme, ma anche un vantaggio, che si può definire come la mancanza di un bias autobiografico.
Il bias autobiografico non è semplicemente il pregiudizio. Può esserci anche nella persona intelligentissima, coltissima e perfettamente in buona fede.
Lo psichiatra non guarda Basaglia come lo storico, il familiare di un paziente non guarda un TSO come lo psichiatra che lo dispone, chi ha lavorato quarant’anni nei servizi territoriali vede certe questioni diversamente da chi ha lavorato in una clinica universitaria.
Nessuno dei tre necessariamente mente o ragiona male, semplicemente
guarda da un luogo.
La mancanza di un luogo è il deficit dell’AI quando deve comprendere che cosa significhi vivere, ma può diventare un vantaggio quando deve confrontare i diversi luoghi dai quali gli esseri umani guardano la stessa realtà.
Non sostengo che la AI sia più obiettiva di un essere umano, ma che può introdurre un “terzo punto di vista”, in grado di vedere le nostre posizioni, senza abitare nessuna.

Alla luce di queste considerazioni, mi risulta più comprensibile l’intervento di un signore di una certa età che stava partecipando come uditore a una mia relazione sull’intelligenza artificiale, che ha tenuto a raccontare in modo accorato la sua esperienza nell’uso dell’AI:
“…Ma anche solo quando la interroghi… io ho trovato… la trovo molto ben educata (Mi piace che sia femminile), gentile, documentatissima. Voglio dire… tra tutte le mie conoscenze mi è difficile, non voglio essere “disumano”, trovare un essere in carne ed ossa che insieme abbia queste caratteristiche”.
In conclusione, forse il fatto di non avere un posto nel mondo impedisce all’AI di sapere fino in fondo cosa significhi essere uno di noi; ma proprio per questo, qualche volta, le permette di osservare meglio i posti nei quali noi siamo irrimediabilmente collocati.

Bibliografia
Basaglia, Franco (a cura di), L’istituzione negata. Rapporto da un ospedale psichiatrico, Milano, Baldini+Castoldi, 2024 [ed. orig. 1968].
Dennett, Daniel C., Dai batteri a Bach. Come evolve la mente, Milano, Raffaello Cortina Editore, 2018.
Floridi, Luciano, Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide, Milano, Raffaello Cortina Editore, 2022.
Rawls, John, Una teoria della giustizia, Milano, Feltrinelli, 2008 [ed. orig. 1971].
Tobino, Mario, Le libere donne di Magliano, Milano, Mondadori, varie edizioni [ed. orig. 1953].