Sull’inversione del senso nell’era dei modelli linguistici
C’è un’immagine utile per capire qualcosa di essenziale sul modo in cui i moderni sistemi di intelligenza artificiale elaborano il linguaggio. Quando un modello come GPT o Claude riceve un testo, uno dei meccanismi centrali del suo funzionamento è l’identificazione dei nuclei semantici più salienti, le parole e le strutture attorno cui si addensa il significato di un discorso. Questi nuclei guidano la risposta: sono il baricentro attorno a cui il modello organizza la propria produzione testuale. Per analogia, si potrebbe pensare ai logia del Nuovo Testamento[1], quelle unità minime di parola attorno cui si è organizzata e trasmessa la tradizione cristiana delle origini.
L’analogia, però, vale soltanto per mostrare un’inversione. E quell’inversione dice qualcosa di importante su un rischio che corriamo, individualmente e culturalmente.
I logia del NT sono nuclei fondativi. Precedono il testo, lo generano, lo orientano. «Io sono la via, la verità e la vita»: questo non è un dato da processare, è una parola che interpella, che richiede una risposta, che non lascia indifferenti. Dietro di essa c’è un parlante determinato, con un nome e un volto, che paga con se stesso quello che dice. Il logion porta peso perché porta con sé tutta la vita di chi lo ha pronunciato e tutta la vita di chi lo accoglie. La tradizione cristiana delle origini non ha conservato queste parole come informazioni: le ha trasmesse come appelli che chiedevano una risposta esistenziale. Per questo erano «impegnativi»: riceverli significava essere cambiati da essi.
Le parole chiave che un modello linguistico estrae da un testo funzionano in modo opposto. Non precedono il testo: vengono ricavate da esso a posteriori, identificando picchi statistici di rilevanza in un corpus vastissimo. Non fondano: registrano. Non interpellano: correlano. Dietro di esse non c’è nessun parlante, nessun volto, nessuna vita che garantisca il senso di quello che viene detto. C’è la distribuzione di frequenze in miliardi di documenti prodotti da esseri umani che, quelli sì, avevano vite, esperienze, responsabilità. Il modello ha estratto i pattern da quelle vite senza parteciparvi mai.
Questo è il punto cruciale e vale la pena fermarcisi. Esiste una differenza radicale tra comprendere il significato di una parola e saper usare quella parola nel contesto giusto. Il filosofo Ludwig Wittgenstein aveva intuito questa distinzione prima ancora che esistessero i computer: il significato delle parole non si impara studiando definizioni, ma partecipando a forme di vita condivise[2]. Sapere cosa significa «perdono» non è sapere come si definisce il termine: è aver sperimentato l’offesa e la riconciliazione, aver visto qualcuno che perdona davvero, aver faticato a farlo. Un sistema che ha letto milioni di testi sul perdono sa usare la parola «perdono» in modo corretto, pertinente, persino commovente. Ma non ha mai perdonato nessuno, né è stato perdonato. La somiglianza superficiale tra il suo output e un discorso umano autentico è precisamente il pericolo.
Il rischio che si vuole indicare qui non è tecnico. Non si tratta di sapere se i modelli linguistici «capiscono davvero» o meno: su questo i filosofi litigheranno ancora a lungo. Il rischio è antropologico e riguarda noi. Riguarda quello che facciamo quando deleghiamo a questi sistemi la fatica di trovare senso.
In uno studio pubblicato qualche anno fa, il fisico e informatico americano Chris Anderson lanciò una provocazione: nell’era dei grandi dati, la teoria è finita[3]. Non servono più spiegazioni causali, bastano correlazioni. Se il modello prevede correttamente che questa persona comprerà quel prodotto, o che quella campagna elettorale vincerà, la domanda «perché?» diventa superflua. L’importante è che funzioni. Questa posizione fu criticata e con ragione, ma descriveva una tendenza culturale reale. I sistemi di intelligenza artificiale non spiegano: prevedono. Non dicono perché le cose accadono: dicono che stanno accadendo, o che probabilmente accadranno. E noi ci fidiamo perché funzionano, anche quando non sappiamo come.
C’è qualcosa di seduttivo in questo. La spiegazione è faticosa: richiede di reggere la complessità, di accettare che alcune domande non abbiano risposte semplici, di vivere con l’incertezza mentre si cerca la verità. La correlazione statistica offre qualcosa di più immediato e confortante: una risposta confezionata, sempre positiva, sempre suadente, sempre pronta. Non è un caso che alcune ricerche abbiano mostrato come molte persone percepiscano i chatbot di intelligenza artificiale come più «empatici» di certi medici o consulenti umani[4]. Il modello non si stanca, non si annoia, non giudica, non chiede nulla in cambio. Ma questa facilità ha un costo nascosto.
Il costo è la rinuncia alla verità in favore della verosimiglianza. La verosimiglianza è rassicurante: assomiglia alla verità, ha la sua forma, usa le sue parole. Ma non costa nulla a chi la produce e non impegna a nulla chi la riceve. La verità, al contrario, è sempre scomoda in una misura o nell’altra: chiede di cambiare qualcosa, di abbandonare certezze comode, di fare i conti con la realtà così com’è. I logia evangelici erano scomodi: «La verità vi farà liberi» non è un conforto, è un programma esigente. Delegare la ricerca del senso a un sistema che produce verosimiglianze efficienti è un modo elegante di evitare quella scomodità.
C’è un’ulteriore conseguenza che vale la pena nominare. Quando un modello linguistico produce testo, genera comunicazione che circola nel mondo senza essere radicata in nessun soggetto incarnato. Le parole ci sono, la forma c’è, persino una certa coerenza interna c’è. Manca il parlante: nessuno che stia dietro quelle parole, nessuno che ne risponda, nessuno che le abbia pronunciate a partire da una vita vissuta. Si tratta di una comunicazione orfana[5]: tecnicamente funzionale, esistenzialmente vuota. Quando questa comunicazione orfana prolifera, si mescola con quella autentica, si diffonde nelle reti, nei motori di ricerca, nei feed informativi, si crea un ambiente in cui diventa sempre più difficile riconoscere la differenza tra un testo che viene da qualcuno e un testo che viene da nessuno.
Non è un problema puramente estetico o accademico. Se il mondo è pieno di comunicazione orfana, anche noi rischiamo di diventare più orfani: meno capaci di sostenere l’impegno di un incontro autentico, meno allenati alla fatica di cercare la verità, meno disponibili ad accettare che il senso della vita non si trova, si conquista. I logia evangelici erano impegnativi non perché i cristiani delle origini fossero masochisti, ma perché sapevano che le cose più preziose non si ricevono gratis. Un’intelligenza artificiale può offrirci molte cose preziose. Il senso della vita non è una di quelle.
[1] La critica delle forme (Formgeschichte), sviluppata all’inizio del Novecento da Martin Dibelius e Rudolf Bultmann, ha analizzato sistematicamente i logia come unità minime di tradizione orale, ciascuna con un proprio Sitz im Leben, cioè un contesto vitale comunitario in cui la parola veniva proclamata, memorizzata e trasmessa. La nozione implica che il significato di un logion non è mai separabile dalla situazione ecclesiale e biografica che lo ha generato e conservato.
[2] L’argomento è sviluppato nelle Ricerche filosofiche (§§ 1-43 e, per il concetto di Lebensform, §§ 19, 23, 241). Wittgenstein scrive: «Immaginare un linguaggio significa immaginare una forma di vita». Il nodo teorico rilevante è che la comprensione semantica non è un atto mentale privato ma una pratica pubblica radicata in abitudini, istituzioni, relazioni.
[3] L’articolo di riferimento è C. Anderson, «The End of Theory: The Data Deluge Makes the Scientific Method Obsolete», Wired, 23 giugno 2008. La tesi fu contestata con argomenti solidi, tra cui quelli di D. Lazer et al., «The Parable of Google Flu: Traps in Big Data Analysis», Science, 343 (2014), pp. 1203-1205, che dimostrò come la pura correlazione statistica, proprio per l’assenza di un modello esplicativo, produca previsioni sistematicamente fragili di fronte a cambiamenti strutturali del fenomeno osservato.
[4] Il riferimento più citato in questo senso è J.W. Ayers et al., «Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum», JAMA Internal Medicine, 183/6 (2023), pp. 589-596. I ricercatori hanno rilevato che le risposte generate da un chatbot venivano valutate come significativamente più empatiche e di maggiore qualità rispetto a quelle dei medici. Il dato va letto con cautela: misura la percezione degli utenti, non la qualità clinica effettiva né la capacità relazionale reale del sistema.
[5] Il concetto di «Livello B orfano» è elaborato nell’ambito del framework teorico dell’Agency Partecipata, che distingue tra Livello A, il soggetto incarnato e la sua presenza embodied, e Livello B, la circolazione comunicativa e documentale nel digitale. La comunicazione si definisce «orfana» quando il Livello B è reciso dal suo fondamento nel Livello A: il testo circola, ma nessun soggetto lo abita dall’interno. Per un’analisi sistematica cfr. E. Mattei, Agency Partecipata. Fondamenti per una teologia digitale sistematica, Phronesis, 2026.