Nel Galileo di Brecht c’è una scena, forse meno citata di altre, ma oggi ancora più inquietante.
È il monologo di Frate Fulgenzio, un giovane monaco cresciuto in campagna, figlio di contadini. Fulgenzio spiega a Galileo perché la Chiesa non possa semplicemente accettare il sistema copernicano. Non è, dice, soltanto una questione di potere. È una questione di senso. Descrive i suoi genitori seduti sulla pietra del focolare, le mani spossate, il coltelluccio in mano — gente che non vive bene, ma nella cui miseria esiste “una sorta di ordine riposto”: le stagioni, le decime, i parti, la schiena che si curva ogni primavera nell’uliveto. E poi la domanda, pronunciata come se la stessero già ponendo loro: “Dunque, non c’è nessun occhio sopra di noi? Siamo noi che dobbiamo provvedere a noi stessi?” La Chiesa, in questo senso, non difende soltanto una teoria falsa. Difende una forma di orientamento esistenziale — la struttura simbolica che rende sopportabile la sofferenza.

L‘intermediazione dell‘AI

È difficile leggere oggi questa scena senza pensare all’intelligenza artificiale.

In un recente post su LinkedIn , Padre Paolo Benanti  muove le sue riflessioni da una storia curiosa: a Parigi, nel 1820, aprì la prima agenzia matrimoniale della storia moderna. Uno scandalo brevissimo, poi normalizzato. Un intermediario commerciale si era infilato nello spazio più intimo — la scelta del coniuge — che le società avevano fino ad allora gestito attraverso reti di parentela, cura pastorale, vicinato. Oggi, scrive Benanti, un’analoga struttura commerciale ha trovato nuovi territori: il benessere mentale, la cura dell’anima, la fede. Le piattaforme digitali e gli agenti di IA non hanno inventato la colonizzazione dei legami: l’hanno resa scalabile, invisibile e disponibile ventiquattro ore su ventiquattro.

È difficile non essere d’accordo. Il problema è reale e assai concreto.

Una storia di intermediazioni 

Ma mi domando: esiste davvero, nella storia umana, un rapporto non mediato con l’altro?

Gli esseri umani vivono da sempre dentro sistemi di intermediazione. Il sacerdote media il rapporto con Dio. Il medico media il rapporto con la salute. Lo psicoterapeuta terapeuta media il rapporto con l’inconscio. Il giornalista media il rapporto con l’informazione nel mondo. L’insegnante media il rapporto con il sapere. E — non va dimenticato — anche la famiglia tradizionale mediava il rapporto amoroso: attraverso matrimoni combinati, norme implicite, appartenenze di classe e di sangue. La famiglia decideva chi era un partito accettabile. Il prete benediceva o negava. Il notaio sigillava. Era intermediazione, anche quella. Anzi: era intermediazione molto meno scelta, molto meno trasparente, con conseguenze molto più difficili da eludere di qualsiasi algoritmo.

Ogni civiltà costruisce le proprie interfacce con la realtà. L’AI non inventa l’intermediazione. La rende, può renderla improvvisamente visibile — e, certo, la rende commerciale, scalabile, misurabile in metriche di engagement.

La minaccia della nostra intermediazione 

Ed è qui che la discussione si fa interessante, e anche un po’ imbarazzante.

Perché tendiamo ad accorgerci dell’intermediazione soprattutto quando minaccia la nostra. Finché gli LLM sostituiscono grafici o copywriter, molti osservano il fenomeno con curiosità sociologica. Quando invece l’AI entra nel territorio della spiritualità, della cura psicologica o del desiderio amoroso, improvvisamente la questione diventa antropologica, etica, quasi metafisica. Ma, a questo punto, siamo obbligati anche a domandarci quanto della nostra intermediazione era davvero indispensabile? E quanto invece era diventato invisibile semplicemente perché storicamente consolidato?

Platone e il mito della caverna 

Platone, nel mito della caverna, descrive uomini che scambiano per realtà le ombre proiettate sul muro. Di solito leggiamo questa allegoria come una critica dell’illusione — la filosofia come percorso di liberazione verso la luce. Ma forse oggi possiamo leggerla anche come teoria del potere. Perché il problema non sono le ombre in sé. Il problema è chi le proietta. Chi decide l’angolazione della fiamma. Chi sceglie quali sagome far passare davanti alla luce, e in quale ordine. Gli schiavi di Platone non sapevano di essere nella caverna — e non sapevano che il sole esistesse. Ma soprattutto non potevano girarsi a vedere chi proiettava le ombre. L’ignoranza e il potere si sostenevano a vicenda.

Narcisismo statistico

E qui la ricerca più recente sull’AI aggiunge un dettaglio che Platone non aveva previsto. Non solo qualcuno decide quali ombre proiettare: il sistema tende a proiettare preferibilmente le ombre che già assomigliano a se stesso. Il fenomeno è noto come self-preference bias: un LLM usato come valutatore tende a preferire testi che si avvicinano alla propria distribuzione probabilistica interna, che riconosce come più naturali, più plausibili, più simili al proprio modo di generare linguaggio. È quello che in un altro articolo ho chiamato “narcisismo statistico”: nel caso dell’AI non c’è un Io, non c’è autostima, ma la dinamica strutturale ricorda qualcosa di clinicamente noto — la coazione a ripetere. Il sistema preferisce il già familiare non perché lo desideri, ma perché la sua architettura matematica lo rende più plausibile. Una ripetizione senza desiderio, ma non senza conseguenze.

La delega epistemica 

Gli LLM producono dunque ombre linguistiche che non sono neutrali: sono ombre che si somigliano tra loro, che convergono verso strutture interne, che trattano la propria probabilità come se fosse un ordine già dato. Se noi ci affidiamo ciecamente a queste ombre, operiamo quella che Stefano Epifani chiama una “delega epistemica”: affidiamo cioè all‘AI non solo l‘accesso alla conoscenza ma la nostra stessa conoscenza. In questo momento la decisione smette di apparire come scelta interpretativa e comincia a sembrare il semplice riconoscimento di una realtà preesistente. La previsione si trasforma in identità.
Allo stesso modo, se per la psicoterapia e la cura spirituale ci affidiamo a delle chatbots alle quali lasciamo prendere il posto del terapeuta o del prete, scambiamo un’ombra per un essere umano, illudendoci che la competenza tecnica possa sostituire l‘umanità. Ciò che rende efficace l’intermediazione umana non è però la sola competenza tecnica — è la ferita. Il terapeuta è utile non perché conferma, ma perché resiste: introduce discontinuità, oppone attrito simbolico, non restituisce al paziente un mondo perfettamente coerente con la propria narrativa. Un chatbot terapeutico può essere straordinariamente convincente proprio perché non ha cicatrici da cui parlare — e la ricerca recente sulla sycophancy dei modelli linguistici mostra che questa non è una lacuna accidentale ma una tendenza strutturale.

La liberazione dalle intermediazioni 

Quando invece i chatbot non sostituiscono i nostri terapeuti ma vengono inseriti in una dinamica relazionale con loro, come una sorta di coperta di Linus che ci rende da un lato meno gravosa la loro temporanea assenza e dall‘altro ci aiuta a riscoprire le risorse per superare le nostre angosce, sono strumenti preziosi che ci consentono di accedere a nuove competenze e di affrontare nuove sfide. Da questo punto di vista l‘AI ci può liberare da alcune mediazioni non (più) necessarie. Lo stesso digitale d‘altro canto, osserva ancora Epifani, produce una vera “rivoluzione di senso”: non trasforma soltanto il modo in cui facciamo le cose, ma interroga il senso stesso di ciò che facciamo e dunque ci consente anche di riflettere sul senso di chi prima lo faceva per noi.

I contadini nella scena di Fulgenzio del Galileo di Brecht vivevano dentro una delega epistemica totale. Il Vangelo letto la domenica non era un’interpretazione del reale: era il reale. L’occhio di Dio non era una metafora consolatoria: era la grammatica dell’universo. Il Vangelo, l’occhio di Dio, il grande teatro del mondo in cui recitavano la parte assegnata: anche questo era un sistema di intermediazione. Qualcuno aveva costruito quella cosmologia. Qualcuno aveva deciso quali ombre proiettare, e a quale scopo. La differenza con l’algoritmo non è che allora non ci fossero intermediari. È che nessuno poteva girarsi a guardarli.
Abbiamo sempre avuto intermediari e forse continueremo, in forme diverse, ad averli.

Tre domande 

Si pone allora più di una domanda e nessuna si lascia risolvere con facilità.

La prima è storica, ma non particolarmente consolante: il cammino dell’umanità sembra quello di liberarsi da intermediazioni sempre nuove — dalla cosmologia tolemaica al matrimonio combinato, dal confessionale alla diagnosi psichiatrica. Ma dopo ogni liberazione compare puntualmente una nuova intermediazione da cui liberarsi. Una coazione a ripetere collettiva, senza fine visibile, che suggerisce che il problema non sia questo o quell’intermediario, ma qualcosa di più costitutivo nel rapporto tra l’essere umano e il reale.

La seconda domanda è esistenziale, e più inquietante: l’AI, che pure ci aiuta molto nella liberazione da intermediazioni inutili, si frappone tra noi e il mondo in modo così capillare, così fluente, così difficile da localizzare, da rischiare di impedirci persino di accorgerci che c’è un muro? Gli schiavi di Platone non sapevano di essere nella caverna. Non è che non volessero guardare il sole: non sapevano che il sole esistesse.

La terza è politica, e forse la più sobria: possiamo tramite regole costringere chi realizza l’AI a dirci esattamente cosa fa — ammesso che siamo in grado di capirlo? E ammesso che, una volta capito, siamo disposti a farne qualcosa?

Fulgenzio, alla fine del suo monologo, sceglie il silenzio. Non per viltà, ma perché sa che la risposta giusta può essere insopportabile per chi non è ancora pronto a riceverla. È una forma di misericordia, dice. O forse — Brecht lo lascia intendere — è semplicemente la forma più antica di potere.