Il pezzo di Giulia Blasi su Xun, magnifico compendio di presupposti errati

Avevo intenzione di aspettare e raccogliere varie critiche al progetto Ipnocrazia per poi offrire una risposta cumulativa, ma l’articolo pubblicato poco fa da Giulia Blasi sul libro ha il pregio straordinario di racchiudere, in uno spazio sorprendentemente compatto, quasi ogni possibile fraintendimento sul dispositivo Jianwei Xun. Come un’antologia involontaria di malintesi, il testo offre un catalogo esaustivo delle reazioni istintive che emergono quando le nostre convinzioni sulla creazione intellettuale vengono messe alla prova, oltre che una serie di elementi di pura disinformazione che vale la pena mettere in luce nella loro interezza.

Procedo, quindi, con l’analisi della riflessione che Blasi dedica a Ipnocrazia, un vero e proprio crescendo.

Xun è stato inventato da Andrea Colamedici, co-fondatore di Tlon e divulgatore, che ha generato il libro con l’intelligenza artificiale. E quindi, di fake in fake, eccoci qua. Il come e il cosa e il perché li spiega l’autore stesso a L’Espresso questa settimana, e sono leggibili qui. Siccome conosco personalmente Andrea, ed è una persona con cui ho fatto diverse cose nel corso degli anni, mi permetto di sollevare pubblicamente dei dubbi sul piano deontologico. Sono dubbi semplici, da persona che in questi giorni è alle prese con la scrittura di un saggio che non mi è mai passato per l’anticamera del cervello di delegare alle intelligenze artificiali, e per questo è un tantino affaticata, oltre che tormentata dalla sindrome dell’impostore¹.

Blasi è in sostanza convinta che io abbia fatto quel che in questi ultimi mesi stanno facendo in molti senza però dirlo a nessuno, ossia pubblicare col proprio nome libri scritti dall’IA. Che abbia, cioè, spinto “invio” e magicamente si sia generato Ipnocrazia. Secondo lei (e secondo altri, per fortuna molto pochi) quel saggio è stato scritto dalle intelligenze artificiali. Ignora, in sostanza, la differenza che c’è tra provare a “usare un’IA per pensare” e “delegare all’IA la scrittura”. Ignora, nello specifico, il lungo e complesso processo di produzione del testo (che può benissimo risultare orrendo per qualcuno, ma non è questo il punto), che è stato al centro del convegno tenutosi giusto ieri nel luogo in cui insegno Prompt Thinking, ossia all’Istituto Europeo di Design di Roma (il video sarà online da domani). Processo che non è né più veloce né più semplice della scrittura in solitaria. Perché - e questo sarebbe stato bello spiegarlo a Blasi, se solo avesse risposto all’invito fattole (ora ci arriviamo) - ci sono molti modi di usare l’Intelligenza Artificiale, e la performance di Ipnocrazia, se ci si prende il tempo di ascoltare, è esattamente una critica a quelli ordinari, grossolani e superficiali, che sono devastanti sotto innumerevoli punti di vista.

Una rappresentazione basilare del processo di co-scrittura impiegato per realizzare Ipnocrazia

Per la precisione, Blasi ha voluto ignorare il processo: proprio ieri lei ha scritto a Maura Gancitano - l’altra metà di Tlon (quella più interessante) - un messaggio su WhatsApp, preannunciandole la critica che sarebbe uscita oggi. Un gesto di cura, si direbbe. Eppure, nonostante l’invito conseguente di Maura a sentirmi direttamente per parlarmi delle sue perplessità - dato che, come ha scritto, ci conosciamo da molti anni - la giornalista è andata dritta per la sua strada, senza mettere in campo la possibilità di una sua interpretazione superficiale su qualche punto.

Ma torniamo al pezzo. Con ammirevole coerenza, l’articolo prosegue completando l’intero percorso dell’indignazione, senza mai deviare verso un tentativo di comprensione. Mantiene un tono di sconcerto che rivela la resistenza a considerare la possibilità che il tutto possa avere un qualche valore intellettuale, o una qualche specificità che potrebbe sfuggire.

Particolarmente notevole è la capacità dell’autrice di trarre conclusioni definitive su un libro che, come leggeremo più avanti, ammette candidamente di non aver letto: un’impresa di grande audacia metodologica. Ma andiamo avanti nella lettura.

Sono stata fregata, insomma. Poco male (non sono la sola) ma la fregatura è stata possibile perché a monte c’erano delle persone della cui reputazione mi fidavo: quella fiducia è stata deliberatamente messa in discussione da una scelta che l’ha sfruttata senza preoccuparsi delle conseguenze. Uno può raccontarsi e raccontare quello che vuole sul valore di un’operazione e su cosa voleva dire con quell’operazione: per me, Ipnocrazia è l’equivalente saggistico del dropshipping. Mi hanno venduto un cardigan fatto a mano di lana Merino da una boutique in chiusura per concorrenza sleale, e mi hanno mandato una felpa in acrilico con dei quadratini stampati sopra fatta da quelli che rappresentano la concorrenza sleale. Scherzo riuscito, non c’è che dire: e per onestà intellettuale bisogna dire che nessuno di noi che ci siamo cascati ne esce benissimo. Non solo abbiamo comprato una patacca, ma l’abbiamo pure rivenduta. Ora siamo tutti sospetti: chiunque di noi potrebbe fare la stessa cosa, risparmiando tempo ed energie, sulla scorta della reputazione personale.

Blasi è convinta di essere stata fregata. È convinta, cioè, che io abbia abusato della mia autorevolezza per ingannare le persone, spacciando un libro scritto dall’Intelligenza Artificiale per l’opera di un autore “reale”¹. E teme (soprattutto, direi) che aver consigliato un libro “scritto dall’IA” possa portare lei e tutti coloro che lo hanno consigliato, ignari del progetto sottostante, a perdere credibilità.
Il punto, però, è che non si perde alcuna credibilità nel consigliare un testo valido - se lo si è letto. In primis la validità di un libro - alta o bassa che sia - non dipende solo da chi l’ha scritto, ma anche da cosa c’è scritto. “E da come è scritto, e dal perché è stato scritto”, si dirà giustamente. E infatti: è stato scritto da un collettivo di intelligenze umane e artificiali per uno scopo preciso e con un metodo preciso, che non è casuale. Il paragone con il dropshipping raggiunge, a questo proposito, vette di creatività analitica: equiparare un esperimento meta-letterario - alto o basso, buono o cattivo che sia - che esplora la costruzione della realtà nell’era digitale a un cardigan in acrilico è un’analogia che sfida ogni logica, ma che riesce nell’impresa notevole di rivelare più sulla prospettiva teorica dell’autrice che sull’oggetto della sua critica.

Il dropshipping sfrutta l’asimmetria informativa per vendere prodotti di qualità inferiore a prezzi gonfiati. Ipnocrazia, invece, è un testo che è stato lodato da vari intellettuali e recensito positivamente su quotidiani internazionali, ed è opera di un “personaggio” che è stato considerato abbastanza autorevole da meritarsi una mezza paginata su Le Figaro (oltre ad aver goduto dell’approvazione implicita dell’autrice stessa, che l’aveva raccomandato a scatola chiusa). Per inciso: a me Ipnocrazia piace, ma trovo veramente assurda la definizione di “nuovo Sorvegliare e Punire” che gli hanno dato degli stimabilissimi intellettuali argentini. Per me il valore non sta tanto nel libro in sé, ma nell’unione tra libro e performance che gli ho costruito intorno.

Qui l’articolo apparso su La Vanguardia

L’indignazione nasce quindi non da una carenza del prodotto intellettuale, ma dalla rottura di un patto tacito sull'autorialità. Ciò che viene percepito come “fregatura” non è il contenuto del libro, ma la rivelazione che il processo creativo abbia incluso l’intelligenza artificiale e che l’autore nominale fosse un’identità costruita. La delusione non attiene alla qualità del pensiero espresso, ma all’infrazione di convenzioni non dichiarate su cosa significhi essere autore. Intendiamoci: le IA operano, di base, nell’intenzione di fornire un bias di conferma; sono strumenti ideologici prodotti da imperi economici che utilizziamo acriticamente, «scambi ferroviari su un sistema probabilistico»; e i nostri prompt possono essere, al massimo (e non è poco), «sonar lanciati in un fondale inesplorato», per usare due bellissime definizioni che mi ha dato LRNZ qualche giorno fa.

La reazione di sconcerto e fregatura rappresenta esattamente il meccanismo che il progetto Ipnocrazia intendeva esplorare: la nostra dipendenza da narrative precostituite e la difficoltà di accettare forme ibride di conoscenza e creazione. Mentre discutiamo di IA, raramente affrontiamo il nodo centrale: non è solo una questione tecnica o economica (fondamentali, intendiamoci), ma filosofica - una riconsiderazione profonda di cosa significhi pensare, creare e conoscere nell’era dell’IA.

Con ammirevole coerenza, l’articolo di Blasi riesce a manifestare esattamente i meccanismi di reazione che Ipnocrazia analizza: la difficoltà di accettare realtà molteplici e complesse, il disagio di fronte alla destabilizzazione delle categorie tradizionali, la tendenza a rifugiarsi in dicotomie rassicuranti tra “umano” e “artificiale”. Di nuovo: non sto parlando della morte dell’autore, che attualmente farebbe comodo molto più a OpenAI & friends che a chiunque altro.

La mezza paginata de Le Figaro dedicata a Xun il 5 marzo 2025.

Blasi, come gli altri lettori e lettrici, non è stata fregata. È stata parte di una performance che aveva come scopo la propria rivelazione. Proseguiamo.

Il primo dubbio è semplice: io ho comprato il libro pensando che si trattasse di un saggio di uno studioso umano, vero, con una storia personale, una nazionalità, delle idee politiche, un vissuto. Non l’ho ancora letto, perché come dicevo tempo fa, sono assediata dalle letture: non ho tempo, non ho spazio. Ho speso dei soldi, quindi, perché a questo libro e all’umano che l’ha scritto intendevo dare tempo e spazio; l’ho raccomandato (o comunque segnalato) a scatola chiusa, sulla fiducia, perché il tema mi sembrava interessante.

L’autrice ammette di star criticando un libro che non ha letto, ma che ha consigliato. Questa confessione involontaria rivela una pratica che dovrebbe destare ben più preoccupazione della co-creazione con l’IA: raccomandare libri “a scatola chiusa”. Ma andiamo avanti.

Viene fuori che questo libro non è un libro, non c’è un umano che l’ha scritto, ma è piuttosto un rigurgito di altre idee, a partire da un saggio di Nadia Urbinati, generato da un algoritmo sulla base di un prompt, probabilmente in meno del tempo che io impiego a chiudere un capitolo del saggio a cui sto lavorando.

Qui i problemi sono talmente tanti che è difficile raccapezzarsi. In primis, questo libro è un libro. Ed è, in realtà, più di un libro: è un dispositivo epistemologico, un esperimento meta-narrativo che fonde teoria e pratica. Definirlo “non libro” è come guardare un'opera d’arte concettuale - mediocre o eccelsa che sia - e dichiarare che “non è arte” perché non corrisponde alla concezione tradizionale di un dipinto. Questa affermazione rivela una rigidità categoriale che impedisce di comprendere le forme emergenti di creazione intellettuale che caratterizzano la nostra epoca. E di distinguere un utilizzo fertile della tecnologia da un uso passivo.

Innanzitutto, perché il libro ha un contenuto al di là che si scopra o no il dispositivo narrativo (ed è per questa ragione che ha ricevuto attenzione da diversi paesi stranieri). Oltre a essere un libro, è anche un dispositivo epistemologico e narrativo, creato ad hoc sulla teoria che sostiene.

L'affermazione che “non c'è un umano che l'ha scritto” è semplicemente falsa e rivelatrice d’ignoranza (nonché di mancata lettura del pezzo uscito su L’Espresso, o dell’intervista rilasciata a Le Grand Continent, o quella fatta per Brut). L’intelligenza artificiale non ha concepito, strutturato e realizzato Ipnocrazia. Come ho spiegato, il libro è il frutto di un dialogo prolungato, un processo di co-creazione in cui l’intelligenza e la direzione umana hanno guidato, corretto e affinato un materiale che è emerso dall’interazione con l’IA. L’umano era presente in ogni fase del processo, dalla concezione iniziale alle scelte stilistiche, dalla struttura argomentativa alle connessioni teoriche sviluppate.

Un estratto dall’intervista a L’Espresso

Secondo l’autrice, poi, il libro è un rigurgito di altre idee, a partire da un saggio di Nadia Urbinati. Ma non c’è alcun saggio di Urbinati: c’è, piuttosto, una singola frase che Urbinati ha pronunciato, ossia: servono nuove parole per parlare dei nuovi fenomeni. Il che è chiaramente spiegato nella stessa intervista a L’Espresso di cui Blasi pone il link all’inizio del suo articolo. Né, tantomeno, è il rigurgito di altre idee: non più di quanto lo sia un qualsiasi libro scritto da un umanoebbasta (che non esiste, poi, l’umanoebbasta, ma lasciamo stare). Gli spunti - ossia le mie riflessioni sulle riflessioni di autori come Baudrillard o Debord o le citazioni nascoste da Borges - non sono stati infilati nella macchina come se fosse carne da cui fare salsicce, ma sono stati sviluppati attraverso un processo dialogico, una conversazione maieutica che ha portato a specifiche configurazioni concettuali.

La metafora del “rigurgito” è particolarmente infelice perché suggerisce un processo meccanico e passivo che non riflette minimamente la natura del dialogo che potremmo avere tutti con l’IA, se solo imparassimo a chiedere anzitutto a noi stessi un po’ di più, e non ci facessimo bastare il tecnoentusiasmo e la tecnofobia. Ogni sistema di pensiero si costruisce inevitabilmente sul precedente: l’originalità non consiste nel creare ex nihilo, ma nel riconfigurare, connettere e sviluppare in modi inediti ciò che è già presente nel discorso.

Infine, l’osservazione che il libro sia stato prodotto “probabilmente in meno del tempo che io impiego a chiudere un capitolo del saggio a cui sto lavorando” tradisce una concezione superficiale del processo creativo coinvolto. L’esperimento Ipnocrazia ha richiesto mesi di lavoro concettuale, di progettazione, di dialogo con l’IA, di editing e raffinamento, finalizzato - tra le altre cose - proprio a sensibilizzare sull’utilizzo psicologicamente devastante dell’IA generativa fatto senza propedeutiche. E il suo dispositivo nasce da anni di riflessioni sulle narrazioni digitali.
Non ho scritto “Hey Siri, fammi un libro che sia un po’ Byung-Chul Han e un po’ Deleuze, e che venda un botto di copie e faccia triggerare la gente”, e ho quindi aspettato che la macchina mi sparasse fuori un testo pazzesco, che avrei successivamente incartato in una copertina psichedelica. Basta provare a usare una qualsiasi IA in questo modo per vedere se mai uscirà fuori un libro che non sia palesemente un accrocchio.
Questo pensiero è la dimostrazione dell’ignoranza profonda in cui riversano molte persone, e serve solo a proteggere la propria autostima professionale di fronte alla sfida rappresentata da nuove forme di creazione intellettuale che vanno problematizzate per bene.

Il pezzo prosegue, per poi arrivare alla conclusione:

Sarò novecentesca, ma credo che dalla crisi in cui siamo immersi si esca solo rivalutando le persone, l’umano e l’organico, e non rincorrendo l’attenzione del grande pubblico attraverso un tema che è sicuramente interessante, ma che va maneggiato con cautela, e nel rispetto dell’etica. Non sarebbe il primo falso a trarre in inganno le persone, per carità: le finte teste di Modigliani rimangono nella memoria collettiva come scherzone epocale che ha svelato i limiti della critica dell’arte, e sto ancora ridendo per la storia che mi ha raccontato Titti Dell’Erba nel podcast che ho realizzato l’anno scorso sulle donne del vino. Non sono offesa per esserci cascata, né perché un algoritmo scrive in pochi secondi quanto (anche se non quello che) io scrivo in una settimana: sono preoccupata perché mi sembra che dietro questa operazione ci sia una scarsa consapevolezza delle conseguenze di lungo periodo. “Non ho mai voluto costruire un falso” ha zero rilevanza, quando costruisci un falso, lo pubblicizzi, lo vendi, costruisci tutta una storia di contorno, ci fai dei soldi, capitalizzi quel falso per attirare l’attenzione. L’hai fatto. E non mi è chiaro, al momento, chi ci abbia davvero guadagnato.

L’accusa più grottesca è quella di aver “costruito un falso” per farci dei soldi e capitalizzare l’attenzione. In primo luogo, l’intero progetto è un esperimento meta-narrativo dichiarato fin dall'inizio attraverso indizi evidenti nel testo stesso (certo, bisognerebbe leggere il libro per scoprirlo). Il primo capitolo, L’Esperimento di Berlino, è letteralmente una descrizione del progetto Ipnocrazia, che molte persone hanno colto semplicememente andando a cercare online i nomi dei libri e personaggi inesistenti lì citati (come ha fatto Felice Cimatti in un meraviglioso articolo).

La prima pagina del primo capitolo di Ipnocrazia

Non era necessario essere detective esperti: bastava una semplice ricerca online per iniziare a sospettare della natura sperimentale dell’opera. Ma sono moltissime le tracce lasciate nel testo e nel web per orientare i lettori verso la rivelazione, e ne parleremo nei giorni a venire. Infatti, lungi dall’essere un inganno permanente destinato a rimanere nascosto, Ipnocrazia è stato concepito come un testo auto-rivelatorio che conteneva già in sé tutti gli indizi della propria natura. Il libro non è un “falso”, ma una costruzione meta-narrativa che invita i lettori a partecipare attivamente alla sua scoperta.

Questa trasparenza nascosta in piena vista rappresenta l’antitesi di un inganno malintenzionato. È piuttosto un invito al lettore a diventare parte attiva del processo ermeneutico, a sviluppare una forma di literacy critica che trascende la semplice recezione passiva.

L’accusa di aver creato il progetto “per farci dei soldi” è particolarmente divertente, considerando che esperimenti meta-narrativi di questa natura raramente rappresentano una strada verso il successo commerciale (l’unica certezza è l’incomprensione). Se l’obiettivo fosse stato puramente monetario, sarebbe stato molto più efficiente produrre un saggio convenzionale su un tema popolare firmato col mio nome. Mai avrei potuto immaginare la piega internazionale che ha preso il tutto.

La vera motivazione dietro Ipnocrazia era piuttosto quella di creare uno spazio di riflessione attiva sui meccanismi di costruzione della realtà nell’era digitale – non solo teorizzandoli, ma dimostrandoli concretamente attraverso un’operazione che funzionava simultaneamente come analisi e come esempio del fenomeno analizzato.

In questo senso, Ipnocrazia vuole essere parte di quella tradizione di filosofia performativa che trascende la distinzione ordinaria tra teoria e pratica, tra descrizione e dimostrazione. Un approccio che la filosofia contemporanea, da Austin a Butler, ha riconosciuto come particolarmente efficace per comprendere fenomeni complessi come la costruzione sociale della realtà.

In conclusione, la vera questione etica qui non è se sia lecito creare un’opera collaborativa con l’intelligenza artificiale, ma se sia accettabile raccomandare libri senza leggerli, emettere giudizi senza conoscenza diretta e preoccuparsi più della propria credibilità che della ricerca sincera di comprensione. Queste pratiche rappresentano una minaccia per il discorso intellettuale ben più seria di qualsiasi esperimento meta-narrativo.

(proseguirò tra qualche giorno rispondendo ad alcune critiche e anche a certi eccessi di entusiasmo, perché i punti da analizzare sono ancora molti)

1. Con Nabokov, la parola “realtà” va messa sempre tra virgolette.