Scrivendo Infiniti, utilizzando la A.I. per la mia produzione letteraria e scientifica, mi è capitato più volte di fare un’esperienza strana.

Mi sono spesso trovato di fronte a un testo prodotto dalla A.I. su mio suggerimento, con l’intenzione precisa di modificarlo, di intervenire, di sottrarmi a quella sua apparente perfezione. Lo rileggevo una seconda volta, poi una terza, cercavo un punto di ingresso, una crepa, qualcosa da spostare e mi accorgevo di non riuscirci, o meglio, riuscirci solo a costo di una fatica sproporzionata, difficile da spiegare. L’impressione è che ogni modifica introducesse una disarmonia, come se il testo opponesse una resistenza silenziosa ma tenace. A quel punto mi accorgevo spesso di rinunciarci, non perché il testo fosse perfetto in senso assoluto, ma perché era costruito in modo tale da scoraggiare l’intervento, una sorta di equilibrio sintattico e semantico che teneva insieme tutto, e che rendeva ogni variazione più faticosa di quanto dovrebbe essere.

La sensazione è quella di una trappola, non una trappola evidente, ma una struttura che ti imbriglia mentre leggi. Il contenuto passa progressivamente sullo sfondo, mentre a dominare è la forma: il ritmo, la coerenza interna, la fluidità.
Alla fine, quasi senza accorgertene, il pensiero si impoverisce, diventa più lineare, più ordinato, più prevedibile.

Mi è capitato di verificare questo fenomeno  anche in modo indiretto. Lavorando a un testo con un collega dichiaratamente scettico sull’uso dell’intelligenza artificiale, gli ho sottoposto una bozza prodotta con l’A.I., invitandolo a utilizzarla come spunto. Sapevo, conoscendolo bene, che diffidava e considerava con sospetto tutto ciò che veniva da una macchina.  Eppure, dopo aver letto il testo, ha detto semplicemente: “Va bene così.” Non perché fosse convinto, ma perché non riusciva davvero a modificarlo.

Riflettendo su questa curiosa situazione, mi è venuta in mente la clinica. In certi casi, quando hai a che fare con un paziente, ti capita di trovarti di fronte a forme di discorso che funzionano troppo bene, a racconti lineari, coerenti, privi di esitazioni, a  narrazioni in cui tutto trova il suo posto, ogni elemento si incastra con l’altro, senza attriti.
Sono discorsi che, a un primo ascolto, convincono e proprio per questo richiedono attenzione.

Sai bene, per esperienza clinica, che non è la coerenza, di per sé, a garantire la verità. A volte è esattamente il contrario:  la coerenza è ciò che segnala una costruzione che ha perso contatto con la complessità dell’esperienza.
A quel punto il tuo compito è quello di cercare non la fluidità, ma la frizione, non la perfezione, ma l’inciampo, ciò che stona piuttosto di ciò che “fila liscio”.
La verità è rivelata da un’esitazione, da una sottile incongruenza.

Con l’intelligenza artificiale accade qualcosa di non così diverso.
La prosa che la A.I.  produce tende a eliminare proprio questi elementi: le esitazioni, le discontinuità, le ambivalenze. Restituisce un discorso che tiene, che scorre, che non oppone resistenza, e proprio per questo rischia di risultare più convincente di quanto dovrebbe.
Succede, in definitiva, che si adotta un criterio di validità basato sulla forma: ciò che funziona bene viene assunto come affidabile e il contenuto passa in secondo piano.

Diventa a questo punto inevitabile porsi delle domande, che si fanno sempre più elaborate fino a  sconfinare nel paradosso.
Perché la A.I. si comporta sistematicamente in questo modo? Perché rielabora il testo prodotto dall’umano proponendo una riscrittura più ordinata, più fluida, nella maggioranza dei casi anche migliore?
Ti viene da pensare che questa operazione di “levigatura” non sia neutrale, ma risponda all’obiettivo di rimuovere ciò che nel testo umano è eccedenza, attrito, imperfezione, tutto ciò che, in fondo, lo rende umano.
Mi rendo conto che questo pensiero sfiora il delirio, ma c’è un elemento che lo rende meno arbitrario.
Ogni volta che si sottopone un testo all’A.I., il sistema, spesso senza che venga richiesto esplicitamente, tende a proporre una riscrittura. Non si limita quindi a correggere, ma suggerisce:
“È detto molto bene, ma rischia di essere frainteso.”
“Potrebbe essere interpretato in modo critico.”
“Si può rendere più chiaro.”
E da qui prende forma una versione diversa, più lineare, equilibrata, difficile da contestare, ma soprattutto in qualche modo edulcorata, annacquata, sostanzialmente più debole.
La tensione del discorso, la sua capacità di esporsi, di prendere posizione, di introdurre conflitto si attenua e il testo diventa più accettabile, ma meno incisivo.
Non è solo la forma che cambia. A cambiare è anche il contenuto e il cambiamento consiste proprio in una sorta di “normalizzazione” del pensiero.

Mi rendo conto che attribuire intenzionalità alla macchina è una forma ingenua di antropomorfizzazione. Dire però che la macchina non ha volontà, non possiede coscienza, non basta a rassicurare. È una precisazione corretta, ma rischia di funzionare come un argomento difensivo, più che come una vera comprensione del fenomeno.

In natura esistono sistemi privi di intenzione e di coscienza che producono effetti di straordinaria complessità. La selezione naturale, per esempio, non ha scopi, non ha un progetto, non “vuole” nulla. Eppure è in grado di generare strutture, adattamenti, equilibri che superano di gran lunga qualsiasi costruzione intenzionale umana.
Daniel Dennett, nel suo libro “Dai batteri a Bach. Come evolve la mente” descrive proprio questo passaggio: processi ciechi, privi di intenzionalità, possono produrre forme di organizzazione sempre più sofisticate, fino a generare ciò che riconosciamo come mente. Non c’è bisogno di una volontà perché qualcosa funzioni e produca effetti trasformativi profondi.
In questo senso, l’intelligenza artificiale non rappresenta un’anomalia, ma un altro esempio di come sistemi privi di coscienza possano generare comportamenti che, dal punto di vista fenomenologico, appaiono intelligenti.

L’effetto “sterilizzante” dell’A.I. è dimostrato da una prova indiretta, che ho sperimentato personalmente.
Quando chiedo all’A.I. di proporre un titolo, una formulazione, una sintesi, ottengo  una risposta spesso precisa, ben costruita, apparentemente perfetta.
Se decido di utilizzarla  integrandola in un testo che sto scrivendo, mi accorgo che spesso che è la parte che meno di tutto  il resto mi resta in mente.
Il motivo, che non scopri subito, ma ti risulta chiaro con il tempo, è che il testo prodotto dalla macchina non ha lo stesso ancoraggio mentale di una formulazione costruita lentamente, magari con fatica, magari passando attraverso tentativi, scarti, versioni intermedie.
È come se mancasse qualcosa, come succede con gli estratti di frutta,  buoni, gradevoli al gusto, ma privati delle fibre, fondamentali per la salute.

La “fibra” che manca è il lavoro fatto di esitazioni, di aggiustamenti, di scelte progressive, che non solo produce il testo, ma lo radica nella mente di chi lo scrive. È questo lavoro che dà spessore al pensiero e forse anche alla memoria. È qualcosa di vicino a ciò che Walter Benjamin chiamava “aura”: una qualità che non dipende dalla forma in sé, ma dal processo, dalla sua irripetibilità.

Viene in mente un piccolo paradosso, che riguarda il rapporto tra reale e artificiale. Quando un fiore finto è particolarmente ben fatto, si dice:
“È così bello che sembra vero.”
Ma quando un fiore vero è altrettanto perfetto, si dice:
“È così bello che sembra finto.”

È un’inversione curiosa.
La perfezione, invece di confermare la realtà, finisce per metterla in dubbio.
Diventa un criterio ambiguo, che non distingue più, ma confonde.
In fondo, come suggerisce Jean Baudrillard, quando il simulacro funziona troppo bene, smette di essere una copia e prende il posto dell’originale.

Qualcosa di simile accade con la scrittura.
Un testo prodotto dall’intelligenza artificiale può risultare così fluido, così ben costruito, da sembrare più “vero” di un testo umano. E, allo stesso tempo, un testo umano, con le sue imperfezioni, le sue esitazioni, le sue irregolarità, può apparire meno convincente proprio perché meno perfetto.
Il rischio, allora, non è solo quello di confondere ciò che è artificiale con ciò che è reale, ma è quello di modificare il criterio stesso con cui li distinguiamo e, forse, di arrivare a considerare più affidabile ciò che funziona meglio, anche quando è meno radicato nell’esperienza.

Nel film di Clint Eastwood Changeling, una madre a cui è stato rapito il figlio si vede restituire dalla polizia un bambino che non è il suo. Le viene detto che è lui, la si forza a riconoscerlo, a convincerla che tutto torna. E, per un momento, la realtà sembra piegarsi, non perché sia convincente in modo assoluto, ma perché è costruita per esserlo, perché funziona abbastanza bene da chiedere adesione.

Qualcosa di simile accade con la scrittura dell’intelligenza artificiale.
Ci viene restituito un testo che “sembra giusto”, che ha tutte le caratteristiche della correttezza: coerenza, fluidità, completezza.
Il risultato è che siamo portati ad accettarlo, non perché sia davvero nostro, ma perché è difficile opporre resistenza a qualcosa che funziona così bene.

A questo punto verrebbe naturale chiedersi cosa fare per far sì che ciò che è nostro, resti nostro.
La soluzione non può  essere tecnica, perché la trappola che dobbiamo disinnescare non sta nell’errore, ma in ciò che funziona troppo bene. Non si tratta semplicemente di fare qualcosa in più, di controllare meglio, di correggere con maggiore attenzione.
Occorre piuttosto operare una scelta, quella di non rinunciare alla fatica del pensiero, di non cedere del tutto alla fluidità,  alle sirene della forma perfetta.
Serve aver sempre ben presente che il pensiero ha bisogno dell’attrito e dell’imperfezione per essere davvero produttivo e non soltanto bello

 …come un fiore finto.

Bibliografia

Daniel Dennett “Dai batteri a Bach. Come evolve la mente”, Raffaello Cortina
Editore, 2018

Jean Baudrillard “Simulacri e simulazione”, Orthotes, 2026 (orig. Simulacres et Simulation, 1981)

Changeling, regia di Clint Eastwood, USA, Imagine Entertainment, 2008

Walter Benjamin “L’opera d’arte nell’epoca della sua riproducibilità tecnica”, Einaudi, 1966 (orig. 1936)

ARTICOLI CORRELATI

Vecchiaia, tecnica, medicina, arte e intelligenza artificiale

A.I. …. considerazioni sull’intelligenza artificiale in margine ad un convegno sul tema