La Bustina di Umberto Eco che “ha previsto ChatGPT” è un falso

Gira in queste ore una sua pagina del 2010 sull'intelligenza artificiale. Eco non l'ha mai scritta, e si capisce proprio perché ha ragione su tutto.

Ho visto la Bustina di Minerva stamattina appena sveglio, sdraiato sul letto con il telefono a illuminarmi un po’ troppo la faccia. Era la fotografia di una pagina de L’Espresso, ingiallita e tenuta aperta da una mano di cui si vedeva soltanto il pollice. Sopra, una riga di commento scritta da un utente Facebook che ho dimenticato subito e sotto decine di condivisioni e centinaia di risposte, quasi tutte uguali, riassumibili in Umberto Eco aveva già capito tutto nel 2010, signora mia! Poi ne ho visti anche altri.

Ho provato una specie di invidia perché qualcuno aveva trovato prima di me la cosa che avrei voluto trovare io, il documento che ogni persona che da anni parla di intelligenza artificiale nelle aule e sui palchi sogna di poter proiettare alle proprie spalle mentre dice vedete, non è mica cominciata ieri!
Prima ancora di leggere per bene il testo ho pensato in quale conferenza avrei potuto usarlo.

Poi l’ho letto ingrandendolo con due dita, colonna per colonna, guardando un po’ meglio. Lo studente che chiede alla macchina il tema su Pascoli, l’insegnante che se ne accorge perché il testo è troppo corretto, gli studenti che chiedono allora di aggiungere quattro errori, due banalità e un’opinione personale. Il testo aveva ragione su tutto, troppo, evidentemente troppo, e a un certo punto ho capito.

Sicché ho cercato su un calendario che giorno fosse l’11 aprile 2010. Era una domenica. L’Espresso nel 2010 usciva di venerdì. Poi sono tornato sull’immagine e ho allargato il capolettera, quella M enorme e un po’ compiaciuta, e accanto, nell’interlinea, ho visto una parola stampata simile a balisteiro, deformata e illeggibile, un’impronta lasciata da chi ha fabbricato la pagina e se n’è andato di corsa.

Falso d’autore, autore di falso

L’anno scorso ho passato diversi mesi a far credere ai giornali di mezzo mondo che esistesse un filosofo cinese che in realtà non esisteva, e quindi so piuttosto bene come si fabbrica un autore e quanto poco serva per metterlo in piedi: un nome, una biografia plausibile e due o tre citazioni nei posti giusti. Poi il resto lo fanno gli altri, per fretta o per desiderio, più spesso per un mix esplosivo delle due cose. In teoria avrei dovuto essere il lettore meno ingenuo d’Italia eppure, per il tempo che ci ho messo ad arrivare all’ultima riga, ho voluto crederci; volevo proprio che qualcuno, molto prima di me, di noi, avesse visto arrivare perfettamente questa cosa qui e l’avesse osservata con la calma di chi sa che per fortuna morirà prima che caschi il mondo, caschi la terra, etc etc.

Quella Bustina è un falso, molto ben fatto, che sta ingannando in queste ore un sacco di gente e che per qualche minuto ha ingannato anche me.

Online non c’è ovviamente traccia di una Bustina con questo titolo né dell’inventato “Teofrasto di Melitene”; un pezzo così profetico, se fosse esistito, sarebbe stato ripreso ovunque dal novembre 2022 in poi: sarebbe la citazione più condivisa d’Italia nei convegni sull’intelligenza artificiale, anche solo per sentirsi confermati nelle proprie idee da un’icona assoluta della cultura italiana.

Icona, poi, lo è diventato soprattutto da morto, mentre da vivo ha preso botte a ogni libro e ogni uscita pubblica. Il pendolo di Foucault fu stroncato da Salman Rushdie sull'Observer, in una recensione che poi lo scrittore volle ripubblicare in Patrie immaginarie quasi fosse un trofeo. Quando a Torino parlò di legioni di imbecilli (su cui tornerò tra poco) la rete gli rispose dandogli dello snob, del vecchio barone che non capiva il presente. Otto mesi dopo, nel febbraio 2016, il funerale laico al Castello Sforzesco, i coccodrilli unanimi, le bacheche piene delle sue frasi comprese molte che non aveva mai scritto.

Mi fa MORIRE per esempio che Grazia Cherchi abbia recensito nel settembre del 1984 su Il Manifesto Il nome della rosa scrivendo: «Ho il fondato sospetto che non sia un libro scritto a macchina, ma un libro scritto da una macchina. E chi oggi non aspira ad essere una macchina? Ha il sapore delle patatine dei fast-food»¹.
È ver-ti-gi-no-so. Eco accusato di scrivere come una macchina, oggi impersonato da una macchina che scrive “come” Eco.

Le previsioni troppo perfette

Ora però torniamo al testo, che ha ragione su tutto. E però Eco invece faceva previsioni oblique, sbagliate a metà, sovente divertite e spassose. Questo pezzo contiene in ordine e senza un errore tutto il dibattito 2021-2025 sui modelli linguistici. Per esempio il fatto che la macchina interessante sarebbe quella capace di continuare una frase: è la predizione del token successivo, o l’obiezione che “una successione plausibile di parole non è pensiero”, ossia il cuore della polemica sui pappagalli stocastici.

La richiesta di riassumere tutto “per un ragazzo di quattordici anni” è un prompt, con la sintassi tipica del prompt. Il trattato inesistente, un De natura speculorum attribuito con date, manoscritto alla Marciana, citazione di Psello e persino una segnatura “falsa e perfettamente ben formata” è l’allucinazione bibliografica, cioè esattamente quel che accadde, né più né meno, nel caso Mata v. Avianca del 2023 in cui un avvocato newyorkese depositò in tribunale precedenti giurisprudenziali totalmente inventati da ChatGPT, completi di numeri di repertorio felicemente inesistenti. Lo studente che chiede alla macchina di introdurre “quattro errori, due banalità e un’opinione personale” è la pratica degli umanizzatori di testo nata con i detector (oggi Pangram su tutti) che è quel che sta analizzando ora questo articollo per sfuggire dal quale ho appena aggiunto una elle alla parola articolo, per dire. E così via. Persino «in conclusione possiamo dunque affermare» è il tic dei testi generati come lo conosce oggi qualunque insegnante.²

Legioni di imbecilli

Eco pronunciò la frase sugli imbecilli nel breve incontro con i giornalisti nell’Aula Magna della Cavallerizza Reale a Torino, dopo aver ricevuto dal rettore Gianmaria Ajani la laurea honoris causa in Comunicazione e Cultura dei media; era il 10 giugno 2015, e da allora la frase circola ridotta a una riga, sebbene il discorso intero andasse in tutt’altra direzione. Cominciava riconoscendo ai social network un lato positivo, perché permettono alle persone di restare in contatto. Proseguiva con una distinzione che la sintesi ha cancellato, ossia che «La tv aveva promosso lo scemo del villaggio rispetto al quale lo spettatore si sentiva superiore. Il dramma di Internet è che ha promosso lo scemo del villaggio a portatore di verità». Il bersaglio vero però era il crollo dei filtri, e infatti la seconda metà del discorso era una proposta con cui chiedeva ai giornali di «filtrare con équipe di specialisti le informazioni di internet perché nessuno è in grado di capire oggi se un sito sia attendibile o meno», e ai professori di insegnare ai ragazzi a usare i siti per fare i temi. Suggeriva perfino un esercizio: far scrivere un tema copiando da Internet, a patto di confrontare almeno dieci siti.

«Saper copiare è una virtù ma bisogna paragonare le informazioni per capire se sono attendibili o meno» aggiungeva poi, con la sua solita maestria spiazzante.

Dieci siti

La finta Bustina si apre proprio con dieci siti, quelli che permettono di verificare una notizia falsa perché l’hanno copiata tutti dalla stessa fonte. Il falsario ha preso il consiglio pedagogico del 2015 e lo ha rovesciato in sarcasmo, come se Eco avesse già capito nel 2010 che il confronto tra le fonti sarebbe diventato un confronto tra copie. È forse la mossa più intelligente del falso e anche la più ingiusta, perché presta a Eco una disillusione che nel 2015 non mostrava ancora. Credeva che il rimedio esistesse e che consistesse nel lavoro paziente di giornalisti e insegnanti. E prevedeva che dopo un po’ si sarebbe creata una sindrome di scetticismo. E in effetti è la condizione in cui ci troviamo davanti a ogni immagine che gira, compresa questa.

Di questo fake resta l’aspetto più riuscito: il testo è ciò che descrive. È il De natura speculorum di sé stesso, un documento erudito inesistente, attribuito con data, testata e pagina e prodotto da un’IA che ha letto tutto Eco e capito abbastanza da imitarne il passo. La sua ultima riga, quella sull’abitudine di trattare come pensiero tutto ciò che ne possiede la forma esteriore, è la descrizione del meccanismo con cui chi lo legge è invitato a crederci.

L’ho sottoposto a Claude Opus 5.5 che l’ha sgamato pure lui, aggiungendo:

Se lo hai fatto tu, l’unico errore è di eccesso: per essere creduto avrebbe dovuto sbagliare almeno una previsione.

1. Da Non si sfugge alla rosa. Ma in nome di che cosa?, "Il manifesto", settembre 1984; poi in Scompartimento per lettori e taciturni. Articoli, ritratti, interviste, Feltrinelli, 1997.

2. L’autore del falso è stato abile anche nel trovare il gancio d’epoca. I “ricercatori americani” che lavorano a sistemi capaci di rispondere a domande in linguaggio naturale sono plausibili per il 2010: IBM aveva annunciato nel 2009 il progetto DeepQA, quello che sarebbe diventato Watson e avrebbe vinto a Jeopardy! nel 2011. Ed è stato abile nel saccheggiare l’Eco vero: la riflessione sui falsi e sul fatto che per falsificare bene occorra conoscere il vero viene da saggi come “La forza del falso” (in Sulla letteratura, 2002) e da I limiti dell’interpretazione (1990); la sciocchezza ripresa da cento siti richiama la sua uscita torinese del 2015 sulle “legioni di imbecilli”, che pure è più complessa di come è stata riportata; la reliquia medievale che diventa tradizione è materia sua da sempre, da Baudolino al Cimitero di Praga, che uscì proprio nell’ottobre 2010.