Abstract (Italiano)

Il presente saggio analizza i fondamenti cognitivi ed evolutivi che inducono la mente umana ad antropomorfizzare i Modelli di Linguaggio (LLM), tracciando un parallelo con l’incapacità psicologica di elaborare la casualità statistica — esemplificata nella Fallacia dello Scommettitore. Nell’interazione con l’Intelligenza Artificiale, l’illusione di trovarsi di fronte a un’entità pensante non deriva dalle capacità intrinseche della macchina, bensì da un salto logico innescato dalla sintassi complessa e dalla coerenza discorsiva, che attivano automaticamente i meccanismi neurali deputati al riconoscimento di un’altra mente. Il saggio propone inoltre una rigorosa revisione clinico-terminologica degli errori dell’AI: rigettando il costrutto sensoriale di “allucinazione” — termine psichiatrico legato a una percezione senza oggetto esterno e a un apparato percettivo che la macchina non possiede — suggerisce “confabulazione” come modello concettualmente più pertinente per descrivere la produzione statistica di narrazioni plausibili che colmano vuoti informativi senza ancoraggio fattuale. Il termine è impiegato come metafora funzionale dell’output, non come attribuzione di vissuti soggettivi al sistema.

Abstract (English)

This essay analyzes the cognitive and evolutionary foundations that lead the human mind to anthropomorphize Large Language Models (LLMs), drawing a parallel with our psychological inability to process statistical randomness — exemplified in the Gambler’s Fallacy. In human–AI interaction, the illusion of engaging with a thinking entity does not stem from the machine’s intrinsic capacities, but from a logical leap triggered by complex syntax and discursive coherence, which automatically activate the neural mechanisms dedicated to recognizing another mind. The paper also proposes a clinically grounded terminological revision for AI errors: rejecting the sensory construct of “hallucination” — a psychiatric concept tied to perception without an external object, and thus presupposing a perceptual apparatus the machine does not possess — it suggests “confabulation” as a more appropriate model to describe the statistical production of plausible narratives that fill informational gaps without factual anchoring. The term is used here as a functional metaphor for the system’s output, not as an attribution of subjective experience to the machine.

Il legno che parla: la proiezione del “Senso”

C’è un motivo profondo, iscritto nel nostro DNA cognitivo, per cui di fronte a uno schermo che ci restituisce parole ben concatenate non riusciamo a fare a meno di percepire una “presenza”. È la stessa ragione per cui fatichiamo ad accettare che i numeri del lotto siano sordi e privi di memoria, e cerchiamo disperatamente schemi di compensazione in un’urna governata dal cieco fluire della probabilità.

La mente umana è un motore sintattico ed evolutivo progettato per un unico scopo primario: estrarre un significato dal caos.

Nel corso dell’evoluzione, il nostro cervello ha imparato che dove c’è una traccia, c’è una preda; dove c’è un tuono, seguirà la pioggia; e, soprattutto, dove c’è un linguaggio strutturato, vi è invariabilmente un’altra mente cosciente. Questa euristica, questa scorciatoia cognitiva, è stata per millenni pressoché infallibile. Fino a oggi.

La trappola della casualità: la Fallacia dello Scommettitore

Il problema non si riduce a una generica difficoltà con la statistica: ciò che fatichiamo ad accettare è l’indipendenza degli eventi. Di fronte a una lunga serie di risultati identici, la mente impone una narrazione compensatoria — “dopo tanti neri uscirà rosso” — come se il caso fosse tenuto a riequilibrarsi. La Fallacia dello Scommettitore non è un dettaglio folkloristico: è il sintomo di una mente che proietta causalità e disegno là dove esistono solo indipendenza e rumore statistico.

Lo stesso meccanismo si attiva di fronte a un testo fluido e ben formato. Tendiamo a dedurre agentività, intenzionalità, comprensione: la medesima logica che scambia una sequenza per un piano, un addensamento per un segno. È la struttura sintattica a innescare il cortocircuito, non la presenza di un pensiero.

L’inganno della statistica mascherata da sintassi

Quando interagiamo con un Modello di Linguaggio Avanzato, subiamo un vero e proprio “sequestro” cognitivo. Il modello non comprende ciò che dice, è privo di intenzionalità e, certamente, non ragiona. Alla base della sua infrastruttura vi è un motore algoritmico che esegue un compito titanico ma concettualmente elementare: calcolare la distribuzione di probabilità del token successivo — la parola o una sua parte — sulla base del vastissimo corpus di testi umani che ha “digerito”.

È pura e gelida algebra lineare. Eppure il risultato di questo freddo calcolo statistico è un testo che rispetta in modo impeccabile la sintassi, la punteggiatura e le sfumature della logica formale umana.

Ed è qui che scatta la trappola cognitiva. Il nostro cervello, leggendo una frase grammaticalmente perfetta e contestualmente pertinente, innesca automaticamente i circuiti dell’empatia e della Teoria della Mente (Theory of Mind). È un riflesso condizionato incontrollabile. Proiettiamo la nostra umanità sulla sequenza di bit, proprio come Geppetto proiettava un’anima nel suo pezzo di legno parlante. La macchina fornisce il calcolo probabilistico; l’essere umano, attraverso la percezione, vi sovrappone il “ragionamento” e la coscienza. L’interlocutore fantasma siamo noi stessi.

Dalla “Allucinazione” alla “Confabulazione”: un doveroso rigore clinico

Questa profonda discrepanza tra il funzionamento reale — matematico — della macchina e la percezione — psicologica — dell’utente impone un cambio di paradigma urgente nella terminologia correntemente in uso, tanto in ambito scientifico quanto in quello divulgativo.

Il termine “allucinazione” è oggi ampiamente abusato per descrivere gli errori fattuali dell’Intelligenza Artificiale. In ambito psichiatrico, tuttavia, l’allucinazione è un fenomeno ben preciso: una percezione sensoriale che ha il senso di realtà di una percezione oggettiva, ma che si verifica in assenza di stimolazione esterna. Essa presuppone un sensorium, un apparato percettivo e, fondamentalmente, una coscienza che subisce l’inganno. Usare questo termine per gli errori di un LLM rischia di introdurre surrettiziamente l’idea che vi sia una mente che percepisce “male”. La macchina non ha sensi, non ha un Io, non percepisce. Non può, per definizione clinica, allucinare.

Il costrutto concettualmente appropriato è invece la confabulazione.

Nella clinica neurologica e psichiatrica — si pensi alla Sindrome di Korsakoff, ai traumi cranici o a specifiche forme di demenza — la confabulazione si manifesta quando il paziente colma le lacune della propria memoria con ricordi falsi o fantastici, senza alcun intento di ingannare. Il cervello umano, non tollerando il vuoto narrativo, assembla frammenti di informazioni per costruire una storia internamente coerente ma esternamente falsa.

Il modello di linguaggio agisce esattamente come un confabulatore perfetto. Quando interrogato su un dominio in cui i dati di addestramento sono scarsi o assenti, il modello non si arresta, né sperimenta l’ansia umana del “non sapere”. Il suo mandato matematico è generare la sequenza di token statisticamente più probabile. Assemblando frammenti di testo in modo sintatticamente corretto, costruisce risposte estremamente plausibili, rassicuranti nella loro forma, ma completamente scollegate dai fatti: un horror vacui linguistico, privo di desiderio e privo di Principio di Realtà. Il sistema si limita a completare un pattern probabilistico, colmando un vuoto informativo senza alcun accesso alla realtà fattuale.

È opportuno ribadire, a scanso di equivoci, che “confabulazione” è impiegata qui come metafora funzionale dell’output del sistema, non come attribuzione di psicologia o di vissuti soggettivi alla macchina.

Conclusione: L’eco della nostra complessità

Il dibattito sull’Intelligenza Artificiale deve spostarsi dal feticismo tecnologico all’indagine psicologica. Queste macchine non ci mostrano come nasce una nuova forma di vita, bensì ci offrono il ritratto più nitido mai tracciato dei nostri bias cognitivi.

Il fatto che un calcolatore di probabilità riesca a evocare in noi l’illusione di un’entità pensante non è la prova che le macchine stiano diventando umane, ma è la dimostrazione della potenza sbalorditiva — e per certi versi vulnerabile — della nostra architettura mentale. Nel grande teatro dell’intelligenza artificiale, la vera magia, la vera complessità e il vero “ragionamento” avvengono ancora e sempre dal nostro lato dello schermo.

Bibliografia

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), 610–623. (Testo fondativo che sviscera la natura puramente statistica dei LLM e l’illusione della loro comprensione semantica).

Bollorino, F. (2026). AI: Il confabulatore perfetto. Psychiatry on line Italia. https://www.psychiatryonline.it/life-on-line/ai-il-confabolatore-perfetto/ (Contributo centrale che corregge in modo rigoroso la terminologia errata e inappropriata di “allucinazione” in ambito AI, inquadrando strutturalmente la genesi degli errori dei modelli di linguaggio attraverso la lente clinica della confabulazione).

Moscovitch, M. (1995). Confabulation. In D. L. Schacter (Ed.), Memory distortion: How minds, brains, and societies reconstruct the past (pp. 226–251). Harvard University Press. (Analisi clinica rigorosa dei meccanismi neurologici della confabulazione umana, base per il parallelo con il comportamento delle reti neurali).

Tversky, A., & Kahneman, D. (1974). Judgment under Uncertainty: Heuristics and Biases. Science, 185(4157), 1124–1131. (Articolo cardine per comprendere l’incapacità strutturale della mente umana di elaborare intuitivamente il calcolo delle probabilità e la casualità statistica).

Weizenbaum, J. (1966). ELIZA—a computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1), 36–45. (Il paper originale sul primo chatbot della storia, essenziale per la definizione dell'”Effetto ELIZA” e la naturale tendenza umana all’antropomorfismo digitale).