Abstract (Italiano)

Il saggio esamina la natura degli odierni sistemi di intelligenza artificiale generativa — in particolare i Large Language Models (LLM) fondati sull’architettura Transformer — con l’obiettivo di fornire al clinico e al ricercatore in ambito psichiatrico gli strumenti concettuali necessari per un uso consapevole e epistemicamente fondato di questi strumenti. L’analisi prende le mosse dalla trasformazione paradigmatica che ha condotto dalla programmazione deduttivo-deterministica al Machine Learning induttivo-probabilistico, illustrando attraverso analogie accessibili come i sistemi attuali apprendano per esposizione a esempi anziché per applicazione di regole esplicite, in modo strutturalmente analogo — ma ontologicamente distinto — all’apprendimento umano per esperienza. Si descrive l’architettura dei modelli linguistici di grande scala, con particolare attenzione al meccanismo di auto-attenzione (self-attention) dei Transformer, e si introduce una distinzione concettuale centrale: quella tra limiti tecnici contingenti — superabili con architetture più sofisticate o maggiore potenza computazionale — e limiti strutturali permanenti, che discendono dalla natura stessa di questi sistemi e non sono risolvibili per via ingegneristica. Tra questi ultimi, il symbol grounding problem formulato da Harnad occupa una posizione fondamentale: i token manipolati dagli LLM sono simboli privi di ancoraggio al mondo, definiti esclusivamente in termini di relazioni statistiche con altri simboli, senza mai incontrare le esperienze a cui il linguaggio si riferisce. Questa condizione viene confrontata con la tradizione filosofica e neuroscientifica dell’embodied cognition — da Merleau-Ponty a Varela, Thompson e Rosch, fino a Damasio e Friston — che mostra come la cognizione umana sia costitutivamente incarnata: radicata in un corpo che sente, agisce, soffre e sopravvive, e non separabile dall’affettività e dall’esperienza vissuta. Sul piano terminologico, si argomenta che il termine correntemente utilizzato di “allucinazione” per designare gli errori generativi degli LLM sia concettualmente improprio, in quanto presuppone un apparato percettivo e una soggettività che questi sistemi non possiedono. Si propone in sua sostituzione il termine “confabulazione” — fenomeno psicopatologico osservabile nelle sindromi amnesiche da lesione ippocampale e frontale — che descrive con maggiore precisione il processo di completamento probabilistico coerente in assenza di base fattuale. La proposta non è di ordine meramente lessicale: è un atto di igiene epistemologica con ricadute pratiche dirette sulla comprensione dei limiti di questi sistemi e sulla responsabilità clinica nel loro utilizzo.

Abstract (English)

This essay examines the nature of contemporary generative artificial intelligence systems — in particular Large Language Models (LLMs) based on the Transformer architecture — with the aim of providing clinicians and researchers in psychiatry with the conceptual tools required for an informed and epistemically grounded use of these technologies. The analysis begins with the paradigm shift from deductive-deterministic programming to inductive-probabilistic Machine Learning, illustrating through accessible analogies how current systems learn by exposure to examples rather than by applying explicit rules — a process structurally analogous to, yet ontologically distinct from, human experiential learning. The architecture of large-scale language models is described, with particular attention to the Transformer self-attention mechanism, and a central conceptual distinction is introduced: that between contingent technical limitations — which can be overcome through more sophisticated architectures or greater computational power — and permanent structural limitations, which follow from the very nature of these systems and cannot be resolved by engineering means. Among the latter, Harnad’s symbol grounding problem occupies a foundational position: the tokens manipulated by LLMs are ungrounded symbols, defined solely in terms of statistical relationships with other symbols, without ever encountering the experiences to which language refers. This condition is contrasted with the philosophical and neuroscientific tradition of embodied cognition — from Merleau-Ponty to Varela, Thompson and Rosch, through Damasio and Friston — which demonstrates that human cognition is constitutively embodied: rooted in a body that feels, acts, suffers and survives, and inseparable from affectivity and lived experience. On the terminological level, the essay argues that the term “hallucination”, currently used to designate generative errors in LLMs, is conceptually improper, as it presupposes a perceptual apparatus and a subjectivity that these systems do not possess. In its place, the term “confabulation” is proposed — a psychopathological phenomenon observable in amnesic syndromes following hippocampal and frontal lesions — which describes with greater precision the process of coherent probabilistic completion in the absence of factual grounding. This proposal is not merely lexical: it is an act of epistemic hygiene with direct practical implications for understanding the limits of these systems and for clinical responsibility in their use.

1. Il tramonto del determinismo: dalla regola all’inferenza

Per decenni l’informatica ha abitato un universo concettuale chiuso: quello delle regole esplicite. Il programmatore scriveva condizioni e istruzioni (i classici if‑then‑else) e il calcolatore le applicava in modo cieco ai dati d’ingresso. Si può pensare a questo tipo di software come a un cuoco che seguiva una ricetta: ogni passaggio era prescritto, e qualsiasi deviazione produceva un piatto sbagliato. Il cuoco non imparava a cucinare – eseguiva. In questo dominio la macchina non apprendeva: eseguiva. Ogni errore ricadeva sull’insufficienza o sull’errata specificazione della regola umana. Se il programma non sapeva gestire una situazione imprevista, era perché nessun programmatore aveva anticipato quella possibilità e tradotto in istruzioni la risposta corretta.

L’Apprendimento Automatico (Machine Learning) rovescia questo paradigma in modo analogo – e qui vale una parentesi chiarificatrice – a come impara un bambino. Un bambino non apprende il concetto di ‘cane’ perché qualcuno gli ha elencato le caratteristiche della specie: quattro zampe, pelo, abbaio, coda. Lo impara per esposizione ripetuta a esempi: questo è un cane, quello pure, quell’altro no. Nel tempo, il cervello del bambino estrae autonomamente i tratti comuni e costruisce una rappresentazione interna capace di classificare correttamente anche un cane mai visto prima. Il Machine Learning funziona in modo strutturalmente analogo, sebbene – come vedremo – il substrato e la natura profonda del processo siano radicalmente diversi. Non si codificano più regole: si forniscono esempi. L’algoritmo, esposto a un volume massivo di coppie input‑output, individua da sé i pattern ricorrenti che massimizzano la probabilità di una previsione corretta. Nell’esempio iconico del riconoscimento di immagini, non si descrivono baffi, orecchie e coda: si mostrano milioni di fotografie etichettate ‘gatto’ o ‘non gatto’. Il sistema apprende regole implicite a partire dai dati e le generalizza a casi nuovi. Nessun programmatore ha mai scritto la regola ‘se orecchie appuntite e occhi a mandorla, allora gatto’: quella regola è emersa statisticamente dalla massa degli esempi.

Questo passaggio comporta una trasformazione epistemica profonda: dalla certezza della deduzione alla fallibilità controllata dell’induzione. Il software tradizionale operava per deduzione – date le regole e i dati, il risultato era necessario e riproducibile; il Machine Learning opera per induzione – osserva i casi particolari e inferisce generalizzazioni che potrebbero non valere sempre. Il risultato che otteniamo non è più garantito dalla logica delle regole, ma dalla statistica della verosimiglianza. Il valore è nella capacità predittiva misurata su dati non visti, non nell’eleganza del codice. Questo significa accettare una quota fisiologica di errore in cambio di una capacità di generalizzazione e flessibilità inaccessibili alla programmazione tradizionale: la stessa flessibilità che caratterizza, almeno in apparenza, i processi cognitivi biologici.

2. Reti neurali e parametri: l’analogia che inganna

Le Reti Neurali Artificiali traggono ispirazione biologica dal cervello, ma restano macchine matematiche. Sono insiemi di strati (input, nascosti, output) collegati da pesi numerici, ovvero coefficienti che regolano quanto ogni segnale in ingresso contribuisce alla risposta finale. Si può pensare a questi pesi come alle manopole di un enorme mixer audio: all’inizio sono regolate in modo casuale; poi si aggiustano progressivamente fino a produrre un suono – una previsione – che si avvicina sempre più a quello desiderato. Durante l’addestramento la rete produce una previsione; la differenza tra previsione e verità (tecnicamente chiamata loss, ovvero ‘perdita’ o ‘errore’) viene retro‑propagata per aggiornare i pesi in direzione di una riduzione dell’errore. Questo processo – backpropagation – è paragonabile alla retroazione che sperimenta uno studente quando riceve una valutazione: l’errore viene segnalato, e lo studente rettifica le proprie strategie. Con la differenza cruciale che nella backpropagation la rettifica è un calcolo matematico automatico – un algoritmo di ottimizzazione – non una riflessione consapevole, non una plasticità sinaptica in senso biologico.

Quando parliamo di ‘parametri’ – nei modelli più grandi dell’ordine delle centinaia di miliardi – non ci riferiamo a sinapsi viventi, ma a coefficienti che pesano trasformazioni lineari e non lineari. Per dare un’idea della scala: il cervello umano conta circa 100 miliardi di neuroni e un numero di connessioni sinaptiche dell’ordine dei 100.000 miliardi; i modelli linguistici più avanzati si avvicinano a quella densità numerica, pur operando secondo principi completamente diversi. L’analogia con la neurofisiologia ha valore euristico, non ontologico: nessuna scarica neurale, nessuna interazione gliale, nessun metabolismo. La rete non ha un corpo, non ha bisogni, non sviluppa scopi. Ottimizza una funzione obiettivo: un numero che sintetizza quanto le sue previsioni si discostino dalla realtà nei dati di addestramento.

3. I Large Language Models: la topologia vettoriale del linguaggio

Gli LLM trattano il linguaggio come struttura geometrica. Per comprendere questo punto — fondamentale e non intuitivo — è utile una metafora. Immaginate di voler rappresentare ogni parola della lingua italiana come un punto nello spazio. Non uno spazio tridimensionale come quello che possiamo visualizzare, ma uno spazio con centinaia o migliaia di dimensioni matematiche. In questo spazio, le parole semanticamente affini si trovano vicine tra loro, come paesi confinanti su una mappa: “cane” e “gatto” saranno vicini, “ospedale” e “medico” pure, mentre “democrazia” si troverà lontana da entrambi. I testi vengono suddivisi in unità minime chiamate token — che possono corrispondere a parole intere o a frammenti di parola — e ogni token è associato a un vettore (embedding) in questo spazio ad alta dimensionalità. La prossimità tra vettori riflette le co-occorrenze statistiche osservate nei dati di addestramento: “cane” sarà vicino a “gatto” semplicemente perché, nei miliardi di testi su cui il modello è stato addestrato, queste due parole compaiono spesso in contesti simili.

Qui si annida un equivoco che vale la pena dissolvere con cura, perché è rilevante per chiunque usi questi strumenti in ambito clinico o educativo. La vicinanza nello spazio vettoriale non è vicinanza di significato nel senso in cui lo intendiamo noi. Non è che il modello “sa” cosa sia un cane: sa che la parola “cane” co-occorre frequentemente con “guinzaglio”, “abbaiare”, “pelo”, “cuccia”. La semantica che emerge è relazionale e distribuita — definita interamente in termini di relazioni tra parole, non in termini di riferimento al mondo. È come se qualcuno imparasse l’italiano studiando esclusivamente la posizione delle parole nei testi, senza mai aver visto, toccato o sentito nulla di ciò a cui quelle parole si riferiscono. Potrebbe usare la lingua in modo apparentemente corretto — rispettando le relazioni statistiche tra i termini — senza che nessuna parola fosse mai ancorata a un’esperienza. Questo problema — l’assenza di ancoraggio tra simbolo e mondo — ha un nome preciso nella filosofia del linguaggio: symbol grounding problem, formulato da Stevan Harnad nel 1990. Vi torneremo nel prossimo paragrafo, perché è il nucleo di tutto ciò che distingue la cognizione artificiale da quella umana.

Quando l’utente fornisce un prompt — ovvero una domanda o una richiesta in linguaggio naturale — il modello calcola la distribuzione di probabilità dei token successivi condizionata al contesto già generato. In termini accessibili: dati tutti i token ricevuti fino a quel momento, qual è il token che con maggiore probabilità seguirebbe in un testo coerente, secondo i miliardi di esempi osservati durante l’addestramento? La produzione testuale è un percorso stocastico — governato dalla probabilità, non dalla certezza — nello spazio vettoriale, guidato da funzioni di attenzione e proiezioni che riorganizzano dinamicamente le rappresentazioni. L’apparente “intelligenza” del risultato consiste interamente nella coerenza statistica appresa: nulla, in questo meccanismo, richiede che il modello possegga concetti, intenzioni o significati vissuti. Genera testi plausibili, non testi “pensati”. La distinzione non è sottile: è la distanza tra un sistema che ha letto tutto ciò che è stato scritto sulla sofferenza umana e un essere umano che ha sofferto.

4. Transformer e meccanismi di attenzione

I Transformer — la famiglia di architetture su cui si basano tutti i moderni modelli linguistici di grande scala, introdotta nel celebre articolo Attention is All You Need di Vaswani e colleghi nel 2017 — hanno risolto un problema tecnico importante che affliggeva i modelli precedenti, e vale la pena capire quale, perché la soluzione dice qualcosa di istruttivo sui limiti che invece rimangono.

I modelli sequenziali che precedevano i Transformer elaboravano il testo una parola alla volta, mantenendo una sorta di “memoria a breve termine” che tendeva a degradarsi man mano che la sequenza si allungava. Era come leggere un testo lunghissimo e cercare di ricordarne l’inizio quando si arriva alla fine: il contesto lontano diventava sempre più sfocato. I Transformer hanno superato questo limite con un meccanismo di auto-attenzione (self-attention): invece di elaborare il testo in sequenza, considerano simultaneamente le relazioni tra tutti i token presenti nella finestra di contesto, assegnando a ciascuno un peso che quantifica quanto debba influire sulla rappresentazione degli altri. È come se, anziché leggere una frase parola per parola, ci si potesse abbracciare l’intero testo in un colpo solo e decidere, per ogni parola, quanto peso assegnare a ciascuna delle altre ai fini della sua interpretazione. Attraverso operazioni matematiche su matrici — prodotti scalari, proiezioni lineari, una funzione di normalizzazione chiamata softmax — il modello costruisce rappresentazioni del contesto che enfatizzano ciò che risulta statisticamente pertinente per la previsione del token successivo.

L’esempio della parola “banco” rende l’idea. In italiano, “banco” può designare un mobile scolastico o un istituto di credito. Se la frase contiene quella parola, i token circostanti — “scuola”, “registro”, “gesso” oppure “denaro”, “rapina”, “sportello” — modulano i pesi di attenzione e spostano la rappresentazione verso una regione o l’altra dello spazio vettoriale. Questa è una disambiguazione statisticamente sofisticata, ma priva di esperienza: la macchina non “capisce” scuola o finanza nel senso in cui li comprendiamo noi; seleziona la configurazione che ha massimizzato la probabilità nei dati di addestramento. Non ha mai seduto a un banco di scuola, non ha mai aperto un conto corrente. Sa che certe parole compaiono insieme: non sa cosa significhi essere in quei luoghi.

Questo è il punto su cui vale la pena insistere, perché è qui che si separa ciò che i Transformer hanno risolto da ciò che non hanno risolto — e non possono risolvere con semplici aumenti di scala o di complessità archittetturale. Il problema del contesto a distanza era un limite tecnico contingente: è stato superato, e i modelli attuali gestiscono finestre di contesto enormi, dell’ordine di centinaia di migliaia di token. Ma il problema dell’ancoraggio al mondo — il fatto che nessun token sia mai riferito a un’esperienza reale, che nessuna parola abbia mai incontrato la cosa che designa — non è un limite tecnico contingente. È un limite strutturale che discende dalla natura stessa di questi sistemi: sono addestrati su testo, producono testo, e operano interamente all’interno del linguaggio senza mai uscirne verso il mondo. Aumentare i parametri da cento miliardi a mille miliardi non cambia questa condizione di principio, così come tradurre un dizionario in una lingua che non si conosce non permette di imparare quella lingua: si ottiene un dizionario più grande, non una comprensione.

È precisamente questo limite strutturale — e non un generico scetticismo verso la tecnologia — che giustifica la cautela epistemologica richiesta quando questi strumenti vengono impiegati in contesti dove il linguaggio non è solo veicolo di informazione ma strumento di incontro tra soggettività: la clinica, la psicoterapia, la relazione di cura.

5. Attenzione disincarnata vs. cognizione incarnata

Il confronto con l’umano illumina un discrimine decisivo, che non è soltanto tecnico ma tocca questioni fondamentali per chiunque lavori con la mente: che cosa significa comprendere qualcosa? E può un sistema che non ha mai avuto un’esperienza corporea comprendere il linguaggio con cui gli esseri umani descrivono la propria vita interiore?

Per rispondere, occorre introdurre un concetto che la filosofia della mente e le scienze cognitive hanno elaborato in modo approfondito: il grounding del linguaggio, ovvero il suo ancoraggio al mondo. Il filosofo Stevan Harnad ha formulato questo problema in modo emblematico nel 1990, parlando di symbol grounding problem: i simboli manipolati da un sistema formale — parole, token, sequenze di caratteri — non hanno significato intrinseco. Il significato non è dentro il simbolo; emerge dalla relazione tra il simbolo e l’esperienza di chi lo usa. Un dizionario definisce “dolore” con altre parole, le quali a loro volta rimandano ad altre parole ancora, in una catena potenzialmente infinita che non tocca mai la cosa. L’uomo sa cosa è il dolore non perché ha letto la voce del vocabolario, ma perché lo ha provato. I sistemi linguistici artificiali si trovano strutturalmente nella condizione del dizionario: manipolano simboli che rimandano ad altri simboli, senza che nessun anello della catena tocchi il mondo.

L’attenzione selettiva biologica non è un semplice meccanismo di pesatura statistica: è l’esito di circuiti neurali che integrano segnali sensoriali, interocettivi, memoria autobiografica, stati affettivi e scopi. La corteccia prefrontale, i lobi parietali, i gangli della base e i sistemi reticolari concorrono a modulare ciò che diventa saliente in vista dell’azione e della sopravvivenza. Ciò che cattura l’attenzione di un essere umano non è calcolato su un corpus di testi: è determinato da una storia evolutiva e da una storia individuale, entrambe incorporate nel corpo.

Questa idea — che la mente non sia separabile dal corpo che la ospita — è al centro di quella tradizione filosofica e scientifica nota come embodied cognition, cognizione incarnata. Le sue radici filosofiche risalgono a Maurice Merleau-Ponty, che nella metà del Novecento ha mostrato come la percezione e la comprensione del mondo non siano operazioni di un intelletto astratto, ma siano sempre mediate dalla postura, dal movimento, dalla carne. Noi non percepiamo il mondo e poi lo interpretiamo: lo percepiamo già interpretato da un corpo che ha una storia, bisogni, vulnerabilità. Questa intuizione è stata ripresa e formalizzata negli anni Novanta da Francisco Varela, Evan Thompson ed Eleanor Rosch nel volume The Embodied Mind, che ha posto le basi di un dialogo sistematico tra fenomenologia e scienze cognitive. La loro tesi centrale è che la cognizione non è rappresentazione di un mondo esterno, ma enazione: un modo di far emergere il mondo attraverso l’azione e l’esperienza di un organismo vivente.

Le neuroscienze contemporanee hanno fornito sostegno empirico a questa visione. Antonio Damasio ha mostrato, attraverso lo studio di pazienti con lesioni della corteccia prefrontale ventromediale, che le emozioni non sono rumore di fondo della cognizione razionale: sono parte costitutiva del ragionamento. Pazienti incapaci di provare risposte emotive normali si rivelavano incapaci di prendere decisioni adattive nella vita quotidiana, pur conservando intatta la capacità di ragionamento formale. Non esiste, nella neurofisiologia umana, una cognizione netta separata dall’affettività. Karl Friston, con la sua teoria del free energy principle, ha proposto una formalizzazione di questa idea: il cervello è un sistema che minimizza continuamente la discrepanza tra le previsioni che genera sul mondo e i segnali sensoriali che riceve dal proprio corpo e dall’ambiente. È un sistema predittivo incarnato, il cui funzionamento non è separabile dal fatto di avere un corpo che agisce, che subisce, che sopravvive.

La mente, insomma, è incarnata. La parola “angoscia” non è per l’umano una semplice vicinanza a “paura” e “tristezza” in una mappa vettoriale: è ritmo cardiaco accelerato, sudorazione, ricordi di perdite, valutazioni di possibilità, contrazione dello stomaco, un particolare modo in cui il tempo sembra rallentare o accelerare. Quando un paziente dice al proprio terapeuta “mi sento in gabbia”, quella metafora non è un ornamento retorico: è l’unico modo in cui il corpo riesce a dire qualcosa che le parole letterali non raggiungono. Il terapeuta capisce perché ha un corpo che sa cosa significa sentirsi costretti, anche se non è mai stato in una gabbia. Un LLM, privo di corpo e di storia, non conosce stati: manipola simboli. Può produrre una risposta staticamente plausibile a “mi sento in gabbia” — perché ha letto migliaia di testi in cui quella frase compare in contesti terapeutici — ma non può incontrare il paziente nel luogo in cui quella frase è nata.

Questa distinzione ha implicazioni pratiche dirette per chi considera l’uso degli strumenti di IA generativa in ambito clinico. Non si tratta di un limite contingente, superabile con modelli più grandi o più sofisticati: è un limite strutturale, che discende dall’architettura stessa di questi sistemi. Nessun aumento del numero di parametri può sostituire l’esperienza corporea, perché i parametri codificano co-occorrenze statistiche nel linguaggio, non relazioni tra simboli e mondo vissuto. Dire che un LLM “presta attenzione” è dunque una proiezione antropomorfica, non un attributo fenomenologico della macchina: l’attenzione computazionale è una funzione matematica di pesatura; l’attenzione umana è un atto intenzionale radicato in un corpo che ha una storia e degli scopi.

6. Fenomenologia dell’errore: perché l’AI confabula, non allucina

Il lessico conta. In psicopatologia, l’allucinazione è una percezione senza oggetto: implica un apparato sensoriale che segnala qualcosa che non c’è. I modelli linguistici non percepiscono: ricevono sequenze simboliche. Quando producono una bibliografia inesistente o attribuiscono una citazione a un autore sbagliato, non stanno ‘vedendo’ o ‘udendo’ il falso.

L’analogia corretta è con la confabulazione: fenomeno osservabile in condizioni come la sindrome di Korsakoff o alcune demenze, in cui il soggetto colma lacune mnestiche generando contenuti che preservano la coerenza narrativa. Allo stesso modo l’LLM, posto di fronte a una regione poco densa del suo spazio, non ammette ignoranza: continua a generare il token più probabile per mantenere continuità sintattica e stilistica, attingendo a frammenti vicini e componendoli in una risposta plausibile ma falsa. Non c’è malafede; c’è ottimizzazione statistica.

7. Conclusioni: strumenti, specchi e responsabilità epistemica

La svolta dal software a regole al software che apprende ha reso i sistemi di intelligenza artificiale capaci di imitare in modo sorprendente la morfologia del pensiero. Leggendo un testo generato da un Large Language Model è spesso difficile — a volte impossibile — distinguerlo da un testo scritto da un essere umano competente. Questa somiglianza formale è reale, è impressionante, e sarebbe disonesto minimizzarla. Ma la somiglianza formale non è identità ontologica, e confonderle è l’errore concettuale che questo saggio ha cercato di decostruire con sistematicità.

Il cervello umano genera significato radicandolo nell’esperienza vissuta: ogni parola che usiamo porta con sé il peso di tutto ciò che abbiamo sentito, temuto, desiderato, perduto. I modelli linguistici calcolano distribuzioni di probabilità su spazi vettoriali costruiti a partire da co-occorrenze statistiche nel testo. Sono due processi che producono output superficialmente simili attraverso meccanismi profondamente — strutturalmente — diversi. Riconoscere questa differenza non è un atto di svalutazione della tecnologia: è un atto di onestà intellettuale nei confronti di entrambi.

Nel corso dell’argomentazione è emersa una distinzione che vale la pena cristallizzare come principio generale, perché ha ricadute pratiche immediate: la distinzione tra limiti tecnici contingenti e limiti strutturali permanenti. I primi sono limiti di implementazione — problemi che l’ingegneria può risolvere con architetture più sofisticate, maggiore potenza computazionale, dataset più ampi. Il problema del contesto a distanza che affliggeva i modelli sequenziali era un limite di questo tipo: i Transformer lo hanno superato. I limiti strutturali sono di natura diversa: non dipendono dalla potenza del sistema ma dalla sua natura. L’assenza di ancoraggio tra simbolo e mondo — il symbol grounding problem — non è un problema ingegneristico in attesa di soluzione. È la conseguenza necessaria del fatto che questi sistemi sono addestrati su testo, operano su testo, e non escono mai dal testo verso il mondo che il testo descrive. Nessun aumento del numero di parametri, nessuna nuova architettura, nessun dataset più grande può colmare questa distanza, per la stessa ragione per cui leggere tutti i libri di medicina esistenti non trasforma nessuno in un paziente che ha vissuto la malattia. La competenza enciclopedica e l’esperienza vissuta non sono due gradi della stessa scala: sono piani ontologici distinti.

Questa distinzione è lo strumento concettuale più utile che un professionista della salute mentale può portare con sé nel confronto con l’intelligenza artificiale generativa. Perché il dibattito pubblico su questi sistemi oscilla cronicamente tra due posizioni speculari e ugualmente insufficienti: l’entusiasmo acritico, che tende a proiettare sulle macchine capacità che non hanno e non possono avere; e il rifiuto pregiudiziale, che non distingue tra ciò che i sistemi non sanno ancora fare e ciò che non potranno fare per ragioni di principio. Entrambe le posizioni nascono dalla stessa confusione: non distinguere tra limite contingente e limite strutturale. Chi dice “l’IA capirà presto davvero il linguaggio, basta aspettare il prossimo modello” sta trattando un limite strutturale come se fosse contingente. Chi dice “l’IA non sarà mai utile in nessun contesto clinico” sta ignorando i limiti contingenti che effettivamente si riducono. La postura epistemicamente corretta è più faticosa di entrambe: richiede di distinguere caso per caso, dominio per dominio, funzione per funzione.

È in questo quadro che la proposta terminologica avanzata nel paragrafo precedente acquista il suo pieno significato. Sostituire “allucinazione” con “confabulazione” per designare gli errori generativi dei modelli linguistici non è un dettaglio lessicale, né una questione di eleganza stilistica. È un atto di igiene epistemologica con conseguenze pratiche. Il termine “allucinazione” importa nel dominio dell’intelligenza artificiale un concetto psicopatologico preciso — la percezione senza oggetto — che presuppone un apparato sensoriale, una soggettività che percepisce, un confine tra reale e immaginato che viene attraversato. Nulla di tutto questo è presente in un sistema che non percepisce, non ha soggettività e non ha alcun confine interno tra vero e falso: genera semplicemente il token statisticamente più plausibile, anche quando quella plausibilità statistica produce un’affermazione fattualmente errata. “Confabulazione” descrive questo processo con precisione molto maggiore: è il completamento coerente di una lacuna, la generazione di contenuto narrativamente plausibile in assenza di base fattuale, esattamente ciò che osserviamo nelle sindromi amnesiche da lesione ippocampale o frontale. Non c’è inganno, non c’è malafede, non c’è percezione distorta: c’è ottimizzazione statistica che produce output formalmente coerenti ma fattualmente infondati. Usare il termine corretto non è pedanteria: aiuta il clinico a non attribuire al sistema proprietà che non ha, e quindi a usarlo in modo più sicuro e più consapevole.

Infine, una riflessione che va oltre la terminologia e tocca la responsabilità di chi scrive, forma e orienta professionisti della salute mentale. L’intelligenza artificiale generativa è già presente, in forme diverse, nella pratica clinica: come strumento di documentazione, come supporto alla diagnosi differenziale, come interfaccia per il paziente in contesti di primo contatto o di follow-up. Questa presenza crescerà, indipendentemente dalle posizioni che ciascuno assume. La domanda rilevante non è “usarla o non usarla” — è “usarla sapendo cosa è”. Un professionista che comprende la natura strutturale di questi sistemi — che sa che producono testo plausibile senza comprenderlo, che sa distinguere ciò che possono fare bene da ciò che non possono fare per ragioni di principio — è un professionista che può integrare lo strumento senza delegargli ciò che lo strumento non può sostenere. La relazione terapeutica, l’incontro con la soggettività del paziente, la capacità di stare dentro l’ambiguità di un’esperienza che non si lascia ridurre a pattern statistici: tutto questo rimane irriducibilmente umano non per sentimentalismo, ma per le ragioni filosofiche e neuroscientifiche che questo saggio ha cercato di articolare.

Conoscere lo strumento è la condizione per non esserne ingannati — né nella direzione dell’entusiasmo acritico, né in quella del rifiuto non fondato. È, in fondo, lo stesso principio che guida ogni buona pratica clinica: la diagnosi precisa come premessa di ogni intervento responsabile.

Bibliografia

Bender, E. M., Gebru, T., McMillan‑Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623.

Esquirol, J. E. D. (1838). Des maladies mentales considérées sous les rapports médical, hygiénique et médico‑légal. Baillière.

Friston, K. (2010). The free‑energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127–138.

Kopelman, M. D. (1987). Two types of confabulation. Journal of Neurology, Neurosurgery, and Psychiatry, 50(11), 1482–1487.

Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424.

Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433–460.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30.

Harnad, S. (1990). The symbol grounding problem. Physica D: Nonlinear Phenomena, 42(1–3), 335–346.

Merleau-Ponty, M. (1945). Phénoménologie de la perception. Gallimard.

Varela, F. J., Thompson, E., & Rosch, E. (1991). The Embodied Mind. MIT Press.

Damasio, A. (1994). Descartes’ Error. Putnam.