Pensavamo di pensare. Poi è arrivata l'IA

Cosa facevamo noi, che credevamo fosse pensare e invece era qualcos'altro

Nelle ultime settimane sono stato a New York e in Argentina, e mi sono spesso trovato a parlare della stessa cosa con persone molto diverse: docenti, politici, imprenditori, filosofe, giornaliste. La conversazione era sempre diversa ma il fondo era lo stesso. È il tema di Arcipelago delle realtà, il mio prossimo libro che uscirà per UTET il 24 marzo.
È già in preorder qui.

---

Pensavamo di pensare. Poi è arrivata l’IA e ci ha mostrato quanto del nostro pensare “umano” non fosse pensiero ma pattern-matching: riconoscimento di schemi già incontrati applicati a situazioni nuove.
Era coerenza superficiale, ovvero frasi che si reggono in piedi perché rispettano la forma di ciò che siamo abituati a considerare vero. Ed era ripetizione di formule che scambiavamo per ragionamento, ossia modi di dire travestiti da modi di pensare e argomentazioni che non argomentavano nulla ma suonavano come se lo facessero.
Era il Festival di Sanremo, in sostanza. Parlare per frasi fatte e per sentito dire.

Caravaggio, Narciso, 1597-1599 (ribaltato)

Heidegger la chiamava Gerede, la chiacchiera: il discorso che ha perso il rapporto con ciò di cui parla e circola come moneta che nessuno verifica più. Comprensione media, la chiamava: quella che basta per andare avanti senza fermarsi.

Per Heidegger la Gerede è il modo normale in cui il linguaggio funziona nella vita quotidiana. È lo stato di default. Il pensiero autentico, la Rede, è l’eccezione, la rottura, l’evento raro che interrompe la chiacchiera. Noi viviamo nella Gerede.
Era vero nel 1927, quando Heidegger lo scrisse, e oggi i modelli linguistici ne sono la dimostrazione industriale: producono Gerede perfetta, su scala, a velocità inumana, e noi non riusciamo a distinguerla dalla nostra. Questo è lo scandalo.

Lo scandalo è che la maggior parte di ciò che chiamavamo pensiero nelle università, nelle aziende, nei giornali, nelle riunioni, nei convegni, era già chiacchiera, e non lo sapevamo perché non avevamo niente con cui confrontarla.

Tutto questo, quindi, lo facevamo prima dell'IA, e lo facciamo ancora. La differenza è che adesso lo vediamo perché una macchina lo fa altrettanto bene, e sovente meglio.

Se un modello statistico che per struttura non comprende nulla di ciò che produce genera testi che milioni di persone non sanno distinguere da testi scritti da esseri umani, la domanda non è quanto sia intelligente la macchina. La domanda è cosa facevamo noi che credevamo fosse pensare e invece era qualcos’altro.

Ecco, facevamo esattamente quello che fa la macchina: combinavamo frammenti già detti in configurazioni abbastanza plausibili da passare per originali. Riproducevamo opinioni assorbite dall'ambiente presentandole come nostre. Costruivamo argomentazioni che non verificavamo, perché la loro struttura formale bastava a convincerci della loro solidità. Rispondevamo a domande senza averle davvero pensate, perché il tempo di formulare una risposta era più breve del tempo necessario per capire la domanda.
Non tutto il pensiero umano è questo ma una parte enorme lo è, e quella parte è esattamente ciò che l'IA replica. La macchina ha colonizzato il territorio dell'automatismo, e nel farlo ha reso evidente quanto fosse vasto.

Se il tuo pensiero è indistinguibile da quello di un modello statistico, non è il modello che deve preoccuparti. Sei tu.

Il pensiero vero è un evento raro: è il momento in cui qualcosa si rompe nello schema e si è costretti a vedere ciò che prima non si vedeva. È la resistenza a ciò che è facile, il rifiuto della prima risposta, la capacità di restare nella domanda più a lungo di quanto sia confortevole. L’IA da sola non può farlo, perché è costruita per produrre la risposta più probabile, e la risposta più probabile è per definizione quella che non rompe niente.

Il problema non è mai stato la macchina. Il problema è sempre stato