chat-gpt, il golem e il discorso del rabbino

(Di Delphine Horvilleur. Traduzione dal francese a cura di Barbara de Munari, settembre 2023).

Ognuno ha le sue tradizioni... La mia è semplice a Rosh haShana, molti fedeli lo sanno: mi sono impegnata a raccontare sistematicamente una barzelletta la sera del capodanno ebraico, per entrare in questo nuovo tempo con un po' di umorismo ebraico. 

Quella di quest’anno, il 5784, forse non è del miglior gusto, ma qualche giorno fa mi ha colpito. Quindi eccola qui:
La scena si svolge in una sinagoga, una sera di Rosh HaShana. All'improvviso, un terrorista entra nella sinagoga e prende in ostaggio il rabbino e un fedele. Il tizio dice a entrambi: vi ucciderò ma lascerò che ognuno di voi esprima un’ultima volontà, un ultimo desiderio, prima di ucciderlo.
Il rabbino allora dice: «Ascolta, è Rosh HaShana e, ogni anno da decenni, questa sera tengo un grande e magnifico sermone, lungo 40 o 45 minuti… quindi, prima di morire, vorrei poterlo leggere, a entrambi».
Il terrorista chiede allora al fedele: «E voi, signore, qual è il vostro ultimo desiderio?».
E l'uomo risponde senza esitazione: «Ebbene, voglio essere ucciso prima».

Vi ho avvertito. Questa barzelletta è spietata, soprattutto con i rabbini. Ciò suggerisce stranamente che alcuni di noi, o forse tutti noi, avrebbero un leggero problema con il prendere la parola e con la durata di questa presa di parola, una difficoltà nel limitarla o nel giudicare la rilevanza delle nostre parole per il nostro pubblico.

Forse è vero. Chi lo sa? O meglio: lo era. Ma questo, cari amici, era prima. 
Prima di cosa? Mi domanderete.

Prima della rivoluzione cui stiamo assistendo quest'anno, un grande sconvolgimento che sta cambiando tutto nella vita delle nostre sinagoghe, o nella vita in generale: voglio parlare di ChatGPT e degli strumenti di intelligenza artificiale che dovrebbero compensare le nostre naturali défaillance.

D'ora in poi basterebbe in linea di principio scrivere sul computer: «Per favore, scrivimi un discorso di Rosh haShana, né troppo lungo né troppo noioso, per una comunità che non vede l'ora di andare a mangiare»… e tutto dovrebbe andare bene.

E, siamo onesti: conosco parecchi colleghi che, quest'anno, hanno provato a scrivere una «drasha» con l'intelligenza artificiale. E non solo colleghi: sono sicura che in occasione di qualche «bar mitzvah» si è fatto lo stesso con i propri discorsi... come tutti quegli studenti che hanno consegnato ai loro insegnanti copie interamente scritte dal computer.

E l’angoscia suprema per ciascuno di noi viene dal fatto che, «has ve halila» (come diciamo in ebraico), questi falsi discorsi (di rabbini, di «bar mitzvah» o di qualunque altra occasione), sono talvolta meno noiosi, meno ripetitivi che se fossero stati scritti da coloro che li hanno pronunciati. Sì, lo so, è terrificante.

E so anche che in questo momento vi starete chiedendo, ovviamente, se le parole che pronuncio davanti a voi siano state scritte da ChatGPT. Beh, tagliamo corto con la suspense... E no: non l'ho usato. Sono proprio io, nel bene e nel male, che ho scritto questo «dvar torah» (45 minuti, forse, chi lo sa?). E queste parole mi hanno colpito per diversi motivi.

In primo luogo perché lo sviluppo della tecnologia e dell’intelligenza artificiale rappresenta una sfida per tutti noi ed è ora di parlarne, ma anche perché questa sfida è, mi sembra, ancora più critica per il pensiero ebraico e per la nostra tradizione. Questo è ciò che cercherò di spiegarvi ora.

Per spiegarvelo devo fare una piccola deviazione con un'esperienza che ho avuto quest'anno con questo strumento di cui tutti parlano. Qualche mese fa mi sono impegnata a scrivere la prefazione per un libro. Il tema del libro era interessante e la storia magnifica, ma faticavo a mantenere il mio impegno e la scadenza per inviare il mio testo si avvicinava crudelmente. Fu allora che mio figlio, vedendomi in imbarazzo e volendo aiutare sua madre, venne a offrirmi il suo aiuto. Senza chiedermi il permesso, ha suggerito a ChatGPT di scrivere un testo, tenetevi forte, «nello stile di Delphine Horvilleur».

Le poche pagine che si sono subito visualizzate sullo schermo mi hanno lasciato senza parole. Il software, che si basa su probabilità e ricorrenze, aveva effettivamente analizzato tutti i miei discorsi online, discorsi pubblicati su internet, e aveva ripreso una per una tutte le mie espressioni preferite, quelli che potrei definire i miei tic linguistici, le mie idee chiave, le mie parole preferite. Il testo parlava di purezza e impurità, di difetti, di vulnerabilità, di femminismo, di rifiuto di significati fissi, di pensiero liberale... insomma, poteva davvero essere stato scritto da me.

L'esperienza mi ha scioccata. Mi ha spingeva evidentemente a pormi la terribile domanda che molti di noi si pongono: a cosa possiamo servire se una macchina può, bene o addirittura meglio di noi, svolgere il nostro ruolo o la nostra funzione?
Qual è allora il valore aggiunto del nostro pensiero, della nostra umanità in questo processo creativo?

E la risposta mi è apparsa rileggendo attentamente questo testo sedicente mio ma non mio, e confrontandolo con i grandi princìpi della scrittura ebraica o dell'interpretazione rabbinica.
Questi sono i princìpi di cui vorrei discutere con voi adesso.

Il primo di essi ha un nome nella tradizione ebraica, anzi si riassume in due parole:  «beshem omro» che in ebraico significa: «nel nome del suo autore».
L'intera frase del Talmud è così recitata:
«Haomer davar beshem omro mevi geoula laolam», «Chiunque menzioni il nome di colui che lo ha detto prima di lui, porta la redenzione nel mondo». 

Per dirla in altro modo, il Talmud afferma che il mondo sarà distrutto o devastato se le persone non citeranno le proprie fonti. Devi sempre essere in grado di dire chi l'ha detto prima di te e da dove hai preso l'idea o l'autorità per dire quello che dici.

E questo, ChatGPT non sa come farlo. Attinge dalla massa dei contenuti online, da ciò che esiste, da ciò che è già stato detto. Non si preoccupa mai di specificare dove e da chi è stato detto, né in quale contesto, né in quale epoca. L'eclissi di fonti e di riferimenti cui stiamo assistendo è quanto di meno ebraico esista e, dal punto di vista dell'ebraismo, una messa in pericolo del mondo, né più né meno.

Secondo principio ebraico su cui meditare, l’«hidush», termine che in ebraico significa «rinnovamento di significato». L'interpretazione ebraica e rabbinica si basa su questo principio particolare e quasi paradossale. Bisogna essere in grado di ripetere un significato per non ripeterlo. Dobbiamo sempre fare affidamento sulle interpretazioni del passato per poterle far evolvere.

I rabbini affermano che in ogni circostanza bisogna sforzarsi di fare un «hidush», di introdurre qualcosa di nuovo, qualcosa di inedito nella lettura. Per fare ciò si avvalgono di specifici strumenti linguistici ed ermeneutici. Ad esempio nel Talmud, molto spesso, si scrive: Rabbi X disse in nome di Rabbi Y, che lo disse in nome di Rabbi Z, etc. etc.
Ma anche se ciò che il Rabbi X in questione afferma non è generalmente tutto ciò che i suoi predecessori citati affermavano e all’ombra dei quali si ripara, poco importa. 

Il pensiero di un uomo è nuovo, inedito o meglio inaudito, mai inteso prima, ma deve fondarsi su un insegnamento che ha ricevuto e che lo ha portato un po'oltre, un po' più lontano. 
(Sapete, è la famosa storia di Mosè sul Monte Sinai che viene proiettato nel futuro e all'improvviso frequenta un corso tenuto da Rabbi Akiva. Non capisce assolutamente nulla dell'insegnamento di quest'uomo che vive centinaia di anni dopo di lui ma, all'improvviso, Akiva afferma: Ho questa «halakhah» da Mosè che la ricevette sul monte Sinai. Mosè allora si tranquillizza: non capisce affatto l'interpretazione, è nuova, inedita per lui, ma si fonda effettivamente sulla sua eredità).

Ma ChatGPT, per definizione, non può farlo. È incapace di «hidush».
Prendiamo ad esempio il testo da lui scritto «nello stile di Delphine Horvilleur». In realtà ha colto i miei tic linguistici (in particolare quel dire «veramente» troppo spesso) ma non vi era niente, assolutamente niente, di nuovo. 
Per la macchina, l’«hidush» è impossibile. Perché la sua ricerca si basa solo sulla probabilità e quindi su ciò che è già stato scritto, già letto, già sentito.

Ed è qui che le cose si fanno interessanti per la nostra generazione. L'arrivo di questa intelligenza artificiale costringe tutti noi, Ebrei e non Ebrei, scrittori di sermoni o semplici utenti, a chiederci qual è il nostro «hidush», il nostro valore aggiunto; a chiederci fino a che punto la tecnologia al nostro servizio ci rende potenzialmente sminuiti, schiavi o stupidi. 

Paradossalmente, l'innovazione che dovrebbe rendere possibile l'emergere del nuovo nel pensiero o nel mondo, sembra condannata a ripetersi, a rientrare solo in un algoritmo di probabilità, di ripetizione.

E anche qui, cari amici, è evidente il motivo per cui voglio parlarvi questa sera.
Innanzitutto, nel giorno di Rosh haShanah, più che in ogni altro giorno dell’anno, dovremmo chiederci in che modo il prossimo anno sarà fonte di rinnovamento, o sarà solo una ripetizione, un balbettio di ciò che è già stato detto o fatto.

E se il nostro futuro sia una questione di pura probabilità statistica o, al contrario, di capacità umana di influenzare le nostre vite.

E poi, di là da questa questione, il rapporto con la tecnologia, fonte di ansia e apprensione per molti di noi, è oggetto di una vera e propria riflessione ancestrale nella nostra tradizione. La storia più potente su cui dobbiamo meditare su questo tema è nota quasi a tutti. Lasciate che ve la ripeta.

C'era una volta un rabbino che riuscì a creare una creatura. Lo chiamò GOLEM.
Avete tutti sentito parlare di questa leggenda. Esistono mille versioni, ma quella più famosa colloca la trama a Praga, nelle mani di un famoso saggio, il Maharal, Arie Leib ben Betzalel, il più grande cabalista medioevale.
Si dice che quest'uomo sia riuscito a creare un'intelligenza, umanoide, che prende vita da un po' di terra e di acqua ma soprattutto da una formula cabalistica, da poche lettere intrecciate tra loro, insomma da un linguaggio che dà vita alla materia. E il golem, prototipo dell'intelligenza artificiale, si sarebbe poi messo al servizio degli Ebrei o dell'umanità. Non sappiamo esattamente quale intelligenza avesse. Secondo alcuni racconti, non sapeva parlare - o era un po' idiota (in yiddish un cretino lo chiamiamo «goylem»). Forse si trattava di una forma di intelligenza informatica (tanto che, per la cronaca, quando lo Stato di Israele sviluppò il suo primo computer, il cabalista Gershom Scholem propose agli scienziati di chiamare questo sistema «golem» e il nome fu effettivamente mantenuto).

Ma torniamo alla leggenda originale. Il golem di Praga è al servizio dei suoi creatori, finché le cose non vanno male. Perché, ovviamente, in questa storia c'è un avvertimento contro una creatura che prende il potere sul suo creatore.
Un giorno il golem diventa violento e distrugge chiunque gli si avvicini. Diventa indomabile, autonomo, terrificante.
In una versione della leggenda si svela il motivo di questa perdita di controllo: il rabbino avrebbe dovuto, ogni Shabbat, cancellare le lettere sulla fronte del golem, vale a dire, in un certo modo, staccarlo, scollegarlo. Un venerdì sera si sarebbe dimenticato di farlo e la mancata disconnessione durante lo Shabbat avrebbe portato al disastro.

Come comprendere questo dettaglio? Non vi sto dicendo che l'unica salvezza contro ChatGPT è di fare Shabbat. No, l'idea è più sottile: la leggenda mistica del golem ci insegna che abbiamo il potere e anche il dovere di sviluppare una tecnologia. Niente lo vieta: l'uomo è creato a immagine del D-o creatore, ed ha la possibilità di creare a sua volta, di sviluppare macchine e tecniche ma deve anche, come nello Shabbat, imparare a staccarsene. Saper creare un momento in cui la tua vita sia libera da questa creazione. Trovare uno spazio in cui riprendere il controllo, attraverso il linguaggio, su ciò che si è creato. E trovo questa immagine pertinente per tutti noi oggi.

In un’epoca in cui molte persone vivono attaccate alle macchine, o alle probabilità, ai software che regolano la loro vita o agli algoritmi che predicono i nostri gusti e il nostro futuro, la questione dello Shabbat si pone più che mai, nel primo senso del termine, una disconnessione tecnologica, spirituale, ambientale, etc. – un ritorno a se stessi come creatura e non come creatore, alla nostra umanità piena, balbettante, fallibile e imprevedibile. Insomma, un ritorno a un'intelligenza di altro tipo.

In ebraico ci sono molte parole per descrivere l'intelligenza. C’è la parola «hokhmah», che deriva da una radice, «koakh ma», che significa «la forza di cosa», per dirla semplicemente: è la saggezza di colui che sa porre domande.
C'è «binah», un'altra forma d’intelligenza che in ebraico significa capacità di leggere tra le righe, di creare connessioni tra testi, mondi, idee e storie.
E poi c'è una terza modalità di intelligenza che in ebraico si chiama «daath», «il sapere» che, secondo i nostri cabalisti, è una strana combinazione di  «hokhmah» e «binah». «Hochma, binah, daath», interrogare il mondo, creare collegamenti e acquisire così conoscenza...

Mentre scrivevo questo sermone mi sono accorta all'improvviso che, per uno strano anagramma, la parola «daath» (DAAT) in francese, era scritta proprio con le lettere di DATA (D.A.T.A.). L’intelligenza artificiale, secondo me, ha proprio questo limite: sa usare i DATI ma non conosce mai il DAAT, la forza umana di connettere gli interrogativi e l’intelligenza.

Ci sarebbero ancora tante cose da dire sull’IA, che continua a farci riflettere e a preoccuparci. E vorrei concludere, con un ultimo aneddoto, anch’esso vissuto… e che mi sembra, di per sé, riassumere ciò che gli uomini possono fare e le macchine ancora no.
Quando ho detto a un'amica che mi chiedevo se potevo consegnare la stesura del mio sermone di Rosh Hashanah a ChatGPT senza che la gente lo scoprisse, lei ha detto: «Nessuna possibilità! Capiranno subito che il sermone non è tuo... a causa della barzelletta. La macchina non sarà mai in grado di scrivere una barzelletta su Rosh Hashanah».

La sua riflessione mi ha turbata. Quindi sono andata su ChatGPT e gli ho chiesto di raccontarmi una barzelletta. Sfortuna: il sistema ne conosceva tantissime, non necessariamente tutte molto divertenti, ma comunque barzellette.

È stato allora che mi è venuta un'idea e ho riformulato la mia domanda: «ChatGPT, puoi raccontarmi una bella barzelletta ebraica?». E lì il computer ha cominciato a macinare, macinare, macinare. Sullo schermo non è apparsa alcuna risposta. Ho ripetuto la richiesta più volte e si è ripetuta la stessa situazione. 

La conclusione è stata quindi chiara: ChatGPT non è in grado di fare dell’umorismo ebraico.
Perché? Perché, secondo me, l'umorismo ebraico è una capacità molto particolare di prendersi gioco del Creatore o di noi stessi, di D-o o dei rabbini. La macchina non sa ridere del suo creatore più che di se stessa. 

E senza questa autoironia, che gli manca, possiamo stare tutti tranquilli. Soprattutto noi rabbini: Chat-GPT non ha alcuna possibilità di prendere il nostro posto, né di scrivere buoni sermoni. La nostra capacità di ridere di noi stessi, di essere disposti a ridere di ciò che facciamo goffamente, di ciò che diciamo in modo sbagliato o troppo a lungo... questa capacità è ciò che ci salverà. Questo non vale solo per i rabbini ma per ciascuno di noi.

Benvenuti, cari amici, in un anno in cui, con ogni probabilità, anche algoritmicamente, non saremo perfetti, ma dove, con un linguaggio molto imperfetto, ci impegneremo a essere all'altezza della nostra intelligenza naturale e della nostra piena umanità.

Shana Tova