Umano, poco umano al Caffè filosofico di Crema: "Tutta illusione, per quanto realistica"

Questo non è un articolo scritto da un’intelligenza artificiale. Ma di IA ha parlato, nell’ultima puntata del Caffè filosofico a Crema, Giuseppe Girgenti, docente all’università san Raffaele di Milano e autore del libro Umano, Poco Umano. Esercizi spirituali contro l’intelligenza artificiale. Appena tornato da Domosofia (non la “filosofia della casa”, ma il festival di filosofia a Domodossola), Girgenti racconta di aver dialogato con Francesca Giubelli, influencer virtuale generata con l’IA, intervenuta “in videoconferenza” per parlare di “talento artificiale”. La Giubelli è stata “invitata” perfino a una convention del governo Meloni. Sembra di guardare il film S1M0NE con Al Pacino, che nel 2002 immaginava un’attrice creata con la realtà virtuale. Girgenti si è offerto di regalare una copia del suo libro alla Giubelli. Il giorno dopo, l’influencer virtuale gli ha risposto su Instagram che sarebbe entusiasta di leggerlo. Una persona generata dall’IA non è ancora in grado di leggere libri cartacei, ma forse potrebbe leggere Umano, Poco Umano in pdf. Girgenti sarebbe felice di confrontarsi con lei e, da bravo filosofo, la prima domanda che le farebbe è se ha coscienza di sé. La Giubelli sa di esistere? Non siamo ancora ai livelli di Terminator e Matrix, perché al momento i computer sembrano inconsapevoli. Un computer, spiega Girgenti, non ha paura di prendersi un virus informatico, non si innamora, non prova piacere o dolore. È tutta un’illusione, per quanto realistica.

Ghost in the Shell

Girgenti tocca un aspetto cruciale: ciò che manca all’IA è la memoria. Non la memoria del computer, praticamente sconfinata, ma la memoria personale: ricordi, sensazioni, parole, carezze dei nostri genitori, giochi con amici e fratelli. È questo che l’IA non possiede, e perciò le manca (oltre alla consapevolezza di esistere) la capacità di dirci chi è. Senza memoria personale, resta solo un “fantasma in una conchiglia vuota”, immagine che evoca ciò che forse è stato e non è più, ma nel caso dell’IA neppure è stato. Almeno, nel film Robocop (1987), il cyborg recupera consapevolezza man mano che riaffiorano in lui ricordi di una precedente esistenza umana, riportando alla luce l’identità che gli era stata cancellata alla morte dell’uomo con una vita familiare.

Girato o generato? Questo è il dilemma

Il libro di Girgenti, presentato di recente anche al Quirinale, è stato scritto insieme a Mauro Crippa, giornalista di Mediaset. L’idea è nata da un colloquio fra gli autori. Crippa era preoccupato che il proliferare di foto e video falsi minacciasse la vera informazione. Se un amico ci manda, ad esempio, un video della guerra Ucraina-Russia o Israele-Palestina, ormai ci chiediamo anzitutto se sia autentico, girato da un operatore, oppure generato con un’IA. Una persona qualsiasi rischia di diffondere fake news tra gli amici, ma il giornalista di livello nazionale si pone un dilemma più impegnativo: mandare in onda il video per fare uno scoop, rischiando una clamorosa figuraccia, o liquidarlo come un falso, perdendo l’esclusiva in caso contrario?

Prodotti migliori, produttori peggiori

Altro problema scottante è quello del lavoro. Oggi Mediaset – o qualsiasi altra televisione o giornale – potrebbe licenziare tutti i giornalisti e fare ogni cosa con l’IA. Secondo Girgenti, gli imprenditori in generale potrebbero già tagliare il 60% dei posti di lavoro. E diventerebbe un problema politico perché, ovviamente, sarebbe una bomba sociale. Girgenti è preoccupato anche per il mondo della scuola, dove i professori scoprono spesso temi scritti non dagli studenti, ma “commissionati” ad intelligenze artificiali. Se i prodotti diventano migliori, i produttori diventano peggiori, sempre più ignoranti. I ragazzi non imparano più. Girgenti fa un paragone con l’invenzione delle calcolatrici: da quando le usiamo, tutti possiamo fare i calcoli facilmente, ma non li sappiamo più fare senza. Il progresso non si può fermare, ma ogni volta si perde qualcosa. Ad esempio, da quando esistono le automobili, l’equitazione non è più una necessità di tutti, ma solo uno sport per pochi. Il campione mondiale di scacchi Garri Kasparov, dopo aver giocato contro un’IA, ha dichiarato: “Che senso ha giocare se so in anticipo che perderò sempre?” La perfezione tecnologia distrugge il divertimento, la sorpresa. Chi guarderebbe una partita di calcio o una corsa automobilistica di cui si conosce già il vincitore?

Il Sabato del Villaggio e l’Indian Summer

I contabili, i traduttori, perfino i disegnatori rischiano di perdere il lavoro, rimpiazzati da un’intelligenza artificiale. Quest’ultima disegna, scrive e traduce in una frazione di secondo (e a costo zero). Ormai il traduttore umano è obsoleto, ma molto viene perso, non solo in tema di posti di lavoro. Girgenti racconta di avere chiesto a un’IA di tradurre in inglese Il Sabato del Villaggio di Giacomo Leopardi: “donzelletta” e “garzoncello” diventano banalmente “little girl” e “little boy”. Il processo è irreversibile perché, ritraducendo automaticamente in italiano, troviamo “piccola ragazza” e “piccolo ragazzo”. Quindi la lingua si impoverisce. L’Indian Summer corrisponde alla nostra Estate di San Martino, ma ciò può saperlo solo un traduttore umano (che conosce la cultura e le frasi idiomatiche americane). L’IA traduce letteralmente con “Estate Indiana”: espressione priva di significato, almeno per noi europei.

Un mondo solipsista e omologato

L’intelligenza artificiale, avverte Girgenti, mette a rischio la psiche e distrugge le relazioni con gli altri. Elon Musk sostiene che i bambini non avranno più amici reali, ma solo virtuali. Presto potremmo non avere più bisogno di chattare con gli amici sui social network, poiché chatteremo direttamente con il social network, sempre a nostra disposizione per chiacchierare di quello che vogliamo noi. Bill Gates scrive che gli insegnanti diventeranno semplici “facilitatori di contenuti” preconfezionati, con un alto rischio di omologazione. Nemmeno i medici sono al sicuro: una macchina ha la “mano” molto più ferma di un chirurgo in sala operatoria. A Singapore e in Israele stanno sperimentando Nadine, un’infermiera robot. Dopo averla conosciuta, gli anziani non vogliono più avere a che fare con infermiere umane.

La logica dell’agente Smith

Il titolo Umano, Poco Umano è un’allusione a Friedrich Nietzsche. Vuole metterci in guardia da un superuomo digitale. Gli autori sono stati accusati di “neoluddismo”, ma si tratta di un fraintendimento. Loro propongono solo una presa di consapevolezza dei rischi di questa rivoluzione. In America, spiega Girgenti, è stato coniato il termine “algoretica”: l’etica degli algoritmi. È stato chiesto a un’intelligenza artificiale come salvare l’ambiente. La risposta più semplice e ovvia, da parte di un’entità che non è buona né cattiva ma segue solo la logica, è che bisogna far estinguere l’umanità. Così parlò l’agente Smith in Matrix (1999): “Mentre cercavo di classificare la vostra specie, ho capito che non siete dei veri mammiferi. Vi insediate in una zona e vi moltiplicate finché ogni risorsa naturale non si esaurisce, e l’unico modo in cui sapete sopravvivere è spostarvi in un’altra zona ricca. C’è un altro organismo che adotta lo stesso comportamento: il virus. Gli esseri umani sono un’infezione estesa, un cancro per questo pianeta. Siete una piaga, e noi siamo la cura”. Ecco perché papa Francesco, ricorda Girgenti, ha sottolineato che a nessuna IA dovrà mai essere permesso di uccidere. Anche perché, se lo fa una macchina, di chi è la responsabilità?

Ora sono diventato morte, il distruttore di mondi

Il sottotitolo del libro di Girgenti e Crippa invita ad essere consapevoli, all’educazione all’affettività umana come “esercizio spirituale”. Anche all’eroticità, per evitare scenari distopici degni di Her, Strange Days o Artificial Intelligence di Steven Spielberg. Finora gli unici due filosofi ottimisti sul futuro dell’IA sembrano essere Luciano Floridi e Maurizio Ferraris. Gli scienziati sono più preoccupati, per non parlare dei creatori di intelligenze artificiali: Sam Altman si sente come Robert Oppenheimer quando inventò la bomba atomica. Umano, Poco Umano, scritto circa un anno fa e pubblicato a febbraio 2024, forse è stato il primo libro italiano a sollevare qualche critica. Al momento, conclude Girgenti, l’IA ha già conquistato tre dei cinque sensi: vista, udito e tatto; mentre gusto e olfatto restano immuni. Per ora.