Abstract (IT)
L’avvento dell’Intelligenza Artificiale Generativa (AI) impone una radicale decostruzione epistemologica e clinica, necessaria a demistificare l’antropomorfizzazione della macchina: un fenomeno che inquina in profondità il dibattito contemporaneo. Il presente saggio sistematizza le linee di frattura tra l’intelligenza umana e quella sintetica, rigettando il costrutto fuorviante e patologizzante di “allucinazione” a favore del modello clinico di “confabulazione”. Attraverso un’analisi multidisciplinare che intreccia la neuropsicologia (la “Sindrome di Geppetto” e le euristiche cognitive), la microeconomia dell’infrastruttura hardware (la “Demenza Digitale Indotta” dalla quantizzazione) e l’etica medica, emerge il pericolo sistemico dell’Epistemia: la tragica sostituzione del giudizio critico con la mera verosimiglianza sintattica. Si delinea così il duplice rischio di un “apartheid cognitivo” a due velocità e di una deriva sorvegliante nella salute mentale, contro cui la psichiatria e l’editoria scientifica sono chiamate a rivendicare il primato inalienabile dell’incontro terapeutico e la centralità assoluta del Principio di Realtà.
Abstract (EN)
The advent of Generative Artificial Intelligence (AI) necessitates a radical epistemological and clinical deconstruction to demystify the anthropomorphization of the machine — a phenomenon that profoundly distorts contemporary debate. This essay systematizes the deep fault lines between human and synthetic intelligence, rejecting the misleading and pathologizing construct of “hallucination” in favor of the clinical model of “confabulation.” Through a multidisciplinary analysis uniting neuropsychology (the “Geppetto Syndrome” and cognitive heuristics), the microeconomics of hardware infrastructure (the “Induced Digital Dementia” caused by quantization), and medical ethics, the systemic danger of Epistemia emerges: the tragic substitution of critical judgment with pure syntactic plausibility. This outlines the dual risk of a two-speed “cognitive apartheid” and a surveillance drift in mental health, against which psychiatry and scientific publishing are called to reclaim the inalienable primacy of the therapeutic encounter and the absolute centrality of the Reality Principle.
Introduzione: L’Eclissi del Giudizio e l’Illusione Sintattica
Viviamo un’epoca di profonda e inedita vertigine cognitiva. L’esplosione su scala globale dei Large Language Models (LLM) ha introdotto nel nostro ecosistema relazionale e comunicativo un interlocutore che sfugge alle categorie tradizionali: un costrutto probabilistico capace di padroneggiare la forma del linguaggio umano con una precisione quasi chirurgica. Eppure, proprio dietro l’impeccabilità di questa sintassi, si annida una delle illusioni collettive più seducenti della nostra storia recente [1][3][5].
Non stiamo assistendo, come vorrebbe una certa narrazione tecno‑entusiasta, all’emersione di una nuova forma di coscienza o di un’entità raziocinante, bensì al trionfo di un potentissimo specchio statistico — uno specchio che riflette, e non di rado distorce, i nostri stessi bias cognitivi e le nostre aspettative. Per comprendere il reale impatto dell’Intelligenza Artificiale sulla società, sui processi di conoscenza e, in ultima istanza, sulla salute mentale, è un imperativo categorico spogliare la macchina della sua aura magica, con gli strumenti dell’epistemologia e della clinica [4][9].
1. La Sindrome di Geppetto: La Trappola Evolutiva dell’Antropomorfismo
La nostra strutturale vulnerabilità di fronte all’AI non risiede tanto nell’opacità o nella complessità del codice sorgente, quanto nell’architettura evolutiva del nostro stesso cervello. Abbiamo imparato ad associare invariabilmente un linguaggio strutturato alla presenza di un’altra mente cosciente. Quando un LLM restituisce un testo coerente, subiamo un “sequestro” cognitivo: la Sindrome di Geppetto. Questo meccanismo si intreccia con la difficoltà umana di trattare l’indipendenza statistica e la casualità. La macchina, invece, calcola distribuzioni di probabilità del token successivo: algebra lineare senza insight, che il nostro cervello riveste di intenzionalità [5].
2. Oltre l’Allucinazione: L’AI come “Confabulatore Perfetto”
Parlare di “allucinazioni” dei modelli è un errore categoriale: in psicopatologia clinica l’allucinazione è una percezione senza oggetto e presuppone sensorium, coscienza e mondo pulsionale. I LLM non hanno organi di senso né desideri; pertanto non possono allucinare. Il costrutto corretto è la confabulazione: colmare vuoti informativi con narrazioni verosimili ma false. Il parallelo clinico è con la Sindrome di Korsakoff e specifiche demenze, dove il paziente amnesico ricostruisce una continuità del Sé con storie impeccabili ma non vere [10].
Nei LLM, in domini con dati scarsi o fuori distribuzione, il silenzio equivale a fallimento della catena di generazione: la macchina privilegia la fluency rispetto all’accuracy. In letteratura recente è emersa la dicotomia ‘hallucination’/‘confabulation’; alcuni autori discutono persino affordance narrative delle confabulazioni in domini non clinici — elemento che conferma l’urgenza di una cornice etico‑clinica rigorosa quando l’oggetto è la salute mentale [1][2].
3. L’Epistemia e l’Abolizione del “Lavoro del Giudizio”
L’interazione prolungata con sistemi che simulano la certezza umana genera l’Epistemia: confusione strutturale tra verosimiglianza linguistica e conoscenza validata. I LLM non sono agenti epistemici: mancano di grounding e metacognizione robusta; non formano credenze giustificate. La sostituzione del ‘lavoro del giudizio’ con il completamento stocastico di pattern testuali è un rischio epistemico sistemico, particolarmente grave in medicina e psichiatria [3][4][9].
4. L’Economia del Silicio e la Demenza Digitale Indotta
L’accuratezza costa. Su scala planetaria, l’infrastruttura non può servire a tutti “modelli al massimo” senza sostenere costi marginali di inferenza elevati (memoria veloce/VRAM, energia, hardware). Di qui la risposta industriale: compressioni e **quantizzazione** per ridurre latenza e costi. Ma la quantizzazione può degradare la qualità, specialmente su compiti di ragionamento e su lingue non latine, con rischi di confabulazione più frequente [6][7].
Nel 2024–2025 i report pubblici hanno osservato crolli rapidi dei prezzi di inferenza (fino a ordini di grandezza), grazie a modelli più piccoli, ottimizzazioni e dinamiche concorrenziali — ma questa “LLMflation” non elimina il trade‑off economico qualità/costo e incentiva soluzioni che sacrificano profondità per accessibilità [6][8].
5. L’Etica della Cura: Il Loop Pericoloso e il Rifiuto della Sorveglianza
Si crea un loop clinico pericoloso: pazienti alimentati da ‘certezze’ generate da AI depotenziate e confabulanti vs. clinici che lavorano con fonti primarie o sistemi ad alta fedeltà. La bonifica cognitiva erode tempo e alleanza terapeutica. La letteratura medica segnala rischi concreti delle ‘medical hallucinations’ e chiede valutazioni rigorose, trial e governance prima di impieghi clinici estesi [9][11].
Sul fronte della prevenzione, il **digital phenotyping** promette molto ma solleva dilemmi bioetici profondi (privacy, consenso dinamico, finalità limitate). Framework etici recenti raccomandano ritorno responsabile dei risultati individuali e forti presidi contro derive sorvegliante‑centrico in salute mentale [12][13].
In Europa il **Regolamento (UE) 2024/1689 – AI Act** fornisce cornici vincolanti: sistemi ad alto rischio in sanità, trasparenza, supervisione umana. In Italia, il **Garante Privacy** ha pubblicato un decalogo per l’IA nei servizi sanitari; **FNOMCeO** ribadisce ‘supporto, non surrogato’; **AGENAS** orienta l’integrazione come strumento a fianco dei professionisti, non sostitutivo [14][15][16][17].
Conclusione: Il Diritto alla Complessità e il Principio di Realtà
L’Intelligenza Artificiale Generativa è la lente più potente per osservare limiti e fragilità della nostra mente. Demistificarne il funzionamento e riconoscere, dietro l’affascinante fluidità linguistica, l’eco di una formula matematica disincarnata è oggi un atto di resistenza intellettuale. Non possiamo permettere che i vincoli economici del silicio impongano una “verità sintetica” al ribasso. In psichiatria e nell’editoria scientifica indipendente, occorre riaffermare il diritto alla complessità, il rigore metodologico, la tolleranza dell’incertezza e la centralità dell’incontro umano — e pretendere sistemi di AI che sappiano dire ‘non so’ invece di confabulare.
Riferimenti essenziali
[1] Sui, P., Duede, E., Wu, S., So, R.J. (2024). Confabulation: The Surprising Value of LLM Hallucinations. ACL 2024. (ACL Anthology / arXiv)
[2] Sui, P., Duede, E., Long, H., So, R.J. (2026). Critical Confabulation: Can LLMs Hallucinate for Social Good? ICLR 2026 (OpenReview)
[3] Huang, L. et al. (2024). A Survey on Hallucination in LLMs. ACM TOIS (arXiv:2311.05232)
[4] Sahoo, P. et al. (2024). Comprehensive Survey of Hallucination in Foundation Models. Findings EMNLP 2024 (ACL Anthology)
[5] Bender, E.M., Gebru, T. et al. (2021). On the Dangers of Stochastic Parrots. FAccT’21.
[6] Epoch AI (2025). LLM inference price trends / data insights.
[7] Marchisio, K. et al. (2024). How Does Quantization Affect Multilingual LLMs? Findings EMNLP 2024.
[8] Appenzeller, G. (2024). Welcome to LLMflation – LLM inference cost is going down fast. a16z Infra.
[9] Kohane, I.S. (2023). Injecting Artificial Intelligence into Medicine. NEJM AI (Editorial).
[10] Kopelman, M.D. (2023). Observations on the Clinical Features of the Wernicke–Korsakoff Syndrome. J Clin Med.
[11] Kim, Y. et al. (2025). Medical Hallucinations in Foundation Models and Their Impact on Healthcare. arXiv/medRxiv 2025.
[12] Shen, F.X. et al. (2024). Returning Individual Research Results from Digital Phenotyping in Psychiatry. AJOB 2024.
[13] Flathers, M. et al. (2025). Interpreting psychiatric digital phenotyping data with LLMs. BMJ Mental Health 2025.
[14] EUR‑Lex (2024). Regolamento (UE) 2024/1689 (AI Act).
[15] Garante Privacy (pagina tematica IA + decalogo sanità).
[16] FNOMCeO / Il Sole 24 Ore (2024–2025): IA come supporto, non sostituto del medico.
[17] AGENAS (progetto IA a supporto dell’assistenza territoriale / Case della Comunità).
Opere dell’autore su Psychiatry Online Italia (per contesto)
-
L’Economia della Confabulazione: L’Impatto dei Costi sul Futuro dell’Intelligenza Artificiale
-
La Sindrome di Geppetto: Illusione Cognitiva dell’Intelligenza Artificiale
-
Epistemia: perché la plausibilità linguistica della Intelligenza Artificiale Generativa non è conoscenza
-
Intelligenza artificiale e salute mentale: prevenzione sì, sorveglianza no
-
L’illusione della mente infinita: la “Demenza Digitale Indotta” e il futuro dell’intelligenza a due velocità
-
AI: Il confabulatore perfetto
https://www.psychiatryonline.it/life-on-line/ai-il-confabolatore-perfetto/
ARTICOLI CORRELATI
0 commenti