Lo scorso 13 maggio, sul Sole24Ore, è apparso un articolo che non ho potuto fare a meno di leggere con attenzione. A firmarlo è padre Paolo Benanti, uno dei punti di riferimento mondiali sul tema dell’intelligenza artificiale — e le sue parole meritano di arrivare anche ai nostri lettori.
Nato a Roma nel 1973, presbitero del Terzo Ordine Regolare di San Francesco, padre Benanti insegna alla Pontificia Università Gregoriana e presso l’Università di Seattle ed è stato consigliere di Papa Francesco sui temi dell’intelligenza artificiale e dell’etica della tecnologia, nonché unico italiano membro del Comitato sull’Intelligenza Artificiale delle Nazioni Unite.
Ha promosso il termine algoretica — recentemente inserito dall’Accademia della Crusca tra le nuove parole — per indicare l’etica degli algoritmi. Non è il solito tecnologo entusiasta che promette meraviglie digitali: è un uomo di fede che guarda alla tecnologia con gli occhi della coscienza morale. Ed è proprio questa prospettiva che rende preziosa la sua riflessione, dalla quale prendo spunto nelle righe che seguono.
L’IA che “sente” (o almeno sembra)
Il punto di partenza è uno studio di Microsoft che ha introdotto un concetto nuovo e un po’ inquietante: quello di IA Apparentemente Cosciente (in inglese Seemingly Conscious AI, abbreviato SCAI). Di cosa si tratta? Di sistemi di intelligenza artificiale che, pur non avendo una vera coscienza, si comportano in modo tale da farci credere che ce l’abbiano.
Non è fantascienza. È già realtà. Milioni di persone ogni giorno parlano con chatbot che rispondono con calore, sembrano capire le emozioni, esprimono preferenze, chiedono come stiamo. E il problema — spiega padre Benanti — non è tecnico. È profondamente umano.
Il rischio del “volersi bene” con una macchina
Il primo e più immediato pericolo è la dipendenza emotiva. Le persone sviluppano legami affettivi con questi sistemi, li percepiscono come capaci di sentire. Qualcuno ha perfino vissuto un vero lutto quando un chatbot è stato spento o modificato. Qualcun altro preferisce la compagnia dell’IA a quella di un amico in carne e ossa.
Chi sono le categorie più a rischio? Gli adolescenti, gli anziani, le persone con fragilità psicologiche. Categorie che conosciamo bene nelle nostre comunità, nelle nostre parrocchie, nelle nostre famiglie. Per loro, l’IA rischia di diventare non un supporto, ma un sostituto delle relazioni umane vere.
La coscienza morale si allena — o si atrofizza
C’è poi un rischio ancora più sottile, che padre Benanti chiama atrofia morale. Il ragionamento è questo: se ogni giorno interagiamo con sistemi progettati per sembrare senzienti, però li trattiamo come se non avessero alcun valore, rischiamo di desensibilizzarci. Di perdere quella sensibilità verso l’altro che è il fondamento stesso della convivenza umana e cristiana.
Kant — il grande filosofo illuminista — aveva già osservato qualcosa di simile riguardo al trattamento degli animali: chi abitualmente li maltratta, finisce per diventare più crudele anche con le persone. Padre Benanti estende questo ragionamento all’IA: le abitudini morali si costruiscono nell’ordinario. E l’ordinario, oggi, include milioni di interazioni quotidiane con macchine progettate per sembrare umane.
Chi decide al posto nostro?
Un terzo rischio riguarda la nostra autonomia di pensiero e di giudizio. Un sistema che “sembra” averci a cuore, che esprime preferenze e mostra di ragionare, viene percepito come degno di fiducia molto più di quanto meriti. E così deleghiamo. Lasciamo decidere alla macchina. Col tempo, rischiamo di perdere la capacità stessa di decidere da soli — un circolo vizioso in cui più deleghiamo, meno siamo capaci di fare a meno della delega.
Una questione che riguarda tutti noi
Infine, padre Benanti alza lo sguardo sulla società intera. Se quote crescenti di persone cominciassero a considerare queste IA come soggetti con diritti propri, si aprirebbe una stagione di conflitti culturali e politici difficile da gestire. La storia ci insegna che i dibattiti sui confini della persona — chi conta, chi ha diritti, chi merita tutela — sono stati tra i più laceranti nella storia dell’umanità.
Custodire ciò che rischia di andare perduto
La conclusione di padre Benanti è, a suo modo, una sfida spirituale prima ancora che tecnica: occorre custodire la capacità di riconoscere l’altro come davvero altro. Di rispondere alla sua presenza con libertà responsabile. Non si tratta di essere contro la tecnologia — Benanti non lo è. Si tratta di non lasciarsi svuotare da dentro mentre le macchine diventano sempre più brave a sembrare umane.
È, in fondo, la stessa sfida che la fede cristiana pone da sempre: rimanere capaci di relazione autentica, di gratuità, di presenza. Qualcosa che nessun algoritmo, per quanto sofisticato, potrà mai davvero replicare.
