di Sergio Niger
- 1 – Il corpo elettronico e l’Intelligenza Artificiale
- 2 – Dalla funzione algoritmica all’ontologia della persona: la sfida del “cambiamento d’epoca” nel discernimento della Chiesa
1 – Il corpo elettronico e l’Intelligenza Artificiale
L’Intelligenza Artificiale (IA) non è più un ospite del nostro tempo, ma l’architettura su cui poggiano ormai le nostre scelte quotidiane. Questa rivoluzione, però, corre più veloce della nostra capacità di normarla, sollevando dilemmi che superano il confine tecnico per farsi morali ed etici. Non si tratta solo di limitare un potere, ma di elaborare nuovi paradigmi etico-giuridici: quali regole servono davvero? Quali obiettivi dobbiamo prefiggerci per “governare” l’innovazione e non tradire l’umano? E soprattutto, quali sono le norme irrinunciabili in un mondo che delega il pensiero alle macchine?
L’IA fa paura, non solo perché è una tecnologia dirompente e la parola intelligente evoca una soggettività altra, ma anche perché lo sviluppo dell’IA è stata preceduta da decenni di espressioni culturali, letterarie, cinematografiche, che ne hanno fatto un mito. Come rileva Giusella Finocchiaro si è fatto ricorso proprio al linguaggio del mito più che a quello specialistico, parole adoperate per riferirsi alle incessanti innovazioni digitali che hanno contribuito a rafforzare il pregiudizio attraverso il quale approcciamo queste tecnologie. Spesso i termini utilizzati richiamano antiche paure. In un’epoca dominata dall’ansia viviamo anche quella generata dalla tecnologia, che si prospetta come la grande paura che essa ci possa sopraffare e dominare.
“Come farà l’uomo per non essere disumanizzato dalla macchina, per dominarla, per renderla normalmente arma di progresso?”1. Nell’interrogativo posto nel 1953 da Giuseppe Ungaretti vi è tutta la consapevolezza della complessità del rapporto tra l’uomo e la macchina, ma anche l’aspirazione a un governo antropocentrico e filantropico della tecnica.
Grandi opere letterarie hanno messo in luce questo rapporto, si pensi alle ultime opere di Kazuo Ishiguro2 o di Ian McEwan3, così come Fei-Fei Lì nel suo ultimo libro “Tutti i mondi che vedo”, un potente appello a mantenere l’umanità al centro della nostra ultima trasformazione tecnologica. La profondità di questo interrogativo è ancora oggi irrisolto, il nostro approccio alla tecnica appare oscillante tra un acritico entusiasmo per il soluzionismo tecnologico e un nuovo ingiustificato neoluddismo.
Papa Francesco, che guardava sempre all’orizzonte e poneva uno sguardo sulle questioni di frontiera, alle sfide che l’umanità si trova ad affrontare e leggeva i segni dei tempi, definiva l’IA uno strumento affascinante e tremendo, capace di apportare grandi benefici, ma anche di generare pericoli. Il grande entusiasmo per le sue immense potenzialità si accompagna al timore per le conseguenze negative che potrebbero derivare da un suo uso sconsiderato: “Il tema dell’IA è, tuttavia, spesso percepito come ambivalente: da un lato, entusiasma per le possibilità che offre, dall’altra genera timore per le conseguenze che lascia presagire”. Il suo impatto positivo o negativo dipende dall’uso che ne fa l’uomo. Il Papa sottolineava la necessità di un’etica e di una sana politica per guidarne lo sviluppo e l’applicazione e mette in guardia dal rischio di delegare alle macchine decisioni umane, soprattutto quando queste hanno un impatto sulla vita delle persone. Serve “un’algoretica”, per questo ha salutato con grande favore la firma a Roma, nel 2020, della Rome Call for AI Ethics. Concetto di algoretica che viene messo bene in luce da Paolo Benanti nei suoi diversi scritti.
Come aveva fatto notare più volte Stefano Rodotà4, anche il corpo umano è in continua trasformazione. Da tempo ha perduto la sua unità, si è scomposto nelle sue parti, nei suoi prodotti: organi, tessuti, cellule, gameti possono essere separati dal corpo d’origine, fatti circolare ed essere utilizzati in altri corpi. Il corpo fisico ha così conosciuto la crisi della sua materialità quando si è cominciato a contrapporre ad esso il corpo «elettronico».
Nell’Information Age anche il corpo è stato subito considerato un insieme di dati, un sistema informativo, questo aspetto risulta ancora più evidente alla luce degli incessanti progressi compiuti dalle tecnologie ICT, per tutte le varie applicazioni sviluppate nell’ambito dell’Intelligenza Artificiale5, che nel medesimo tempo rappresenta il punto di partenza iniziale e l’obiettivo ultimo finale della storia evolutiva dell’informatica. Quello del limite e dello scopo (ossia uno scopo diverso da quello della volontà di potenza) è il principale obiettivo da perseguire nel governo della tecnica, perché l’uomo non divenga egli stesso strumento della macchina anziché dominus, “al servizio della manovella”, come ricorda il prof. Pasquale Stanzione nell’icastica immagine pirandelliana di Serafino Gubbio operatore.
Uno dei modi di reagire a questa paura è costituito dall’invocare una regolazione e dall’auspicare un intervento del legislatore.
Tornando all’aspetto lessicale, già parlare di intelligenza può essere condizionante. Questa, infatti, si attribuisce agli esseri umani o agli animali, allo stato attuale sarebbe più corretto riferirsi solo al machine learning, ossia a un sistema di apprendimento basato sull’utilizzo dei dati.
Senza voler entrare nell’ampio dibattito scientifico specialistico riguardante l’Intelligenza Artificiale6, comprendere il fenomeno è il primo fondamentale passo per valutare le regole applicabili, come applicarle e se sia necessario crearne delle nuove. La qualificazione del fatto alla luce delle norme è un’operazione essenziale del ragionamento giuridico. Si pone, quindi, in primis, un problema metodologico. Spesso trascurato, sul quale rinnovare la consapevolezza, non solo del giurista: è necessario comprendere se e quali interventi normativi siano realmente necessari. È bene subito precisare che le regole sono necessarie, ma occorre non cadere nelle insidie legate alla legislazione dell’emergenza, l’urgenza di placare l’ansia deve cedere il posto alla ponderazione, per concepire norme capaci di regolare il fenomeno nel lungo periodo, neutre da un punto di vista tecnologico.
Tralascio in questa sede le questioni legate all’ambito definitorio di IA e soffermiamoci brevemente su quelli che sono gli obiettivi della regolazione. Il primo obiettivo è quello di salvaguardare la persona umana dai rischi e dai pericoli conseguenti alla diffusione conseguenti alla diffusione di applicazioni dell’intelligenza artificiale. Un uso distorto dei sistemi di Intelligenza Artificiale può pregiudicare i valori su cui si fonda la stessa l’Unione europea e causare violazioni dei diritti fondamentali, compresi i diritti alle libertà di espressione e di riunione, la dignità umana, la non discriminazione fondata sul sesso, sulla razza, sull’origine etnica, sulla religione o sulle convinzioni personali, sulla disabilità, sull’età o sull’orientamento sessuale (ove applicabili in determinati settori), la protezione dei dati personali e della vita privata o il diritto a un ricorso giurisdizionale effettivo e a un giudice imparziale, nonché la tutela dei consumatori7. Tali rischi potrebbero derivare da difetti nella progettazione complessiva dei sistemi di Intelligenza Artificiale (anche per quanto riguarda la sorveglianza umana) o dall’uso di dati senza che ne siano state corrette le eventuali distorsioni. Si tratta, quindi, di individuare dei principi cardine da salvaguardare.
L’Europa ha cercato di fornire una risposta a questi rischi, con il Regolamento sull’Intelligenza Artificiale. L’AI Act, tanto più se inscritto all’interno del complessivo quadro regolatorio del digitale, definitosi nei suoi tassetti con il Data Governance Act, rappresenta insieme al GPDR, il tentativo più avanzato dell’UE di definire una strategia antropocentrica di governo della tecnica. L’esigenza di optare per un regolamento nasce indubbiamente dalla necessità di avere una normativa applicabile in tutti gli Stati membri dell’Unione europea, un set di regole condivise che facilitino la messa sul mercato europeo di nuovi prodotti e servizi, ma nello stesso tempo aumentino il grado di fiducia degli utenti rispetto all’uso di queste tecnologie, per costruire un sistema di riferimento giuridico uniforme e omogeneo a livello europeo. Non si tratta di un regolamento prescrittivo in senso stretto. Il principio posto a fondamento del testo normativo è quello dell’accountability e del self assesment, responsabilizzazione e autovalutazione. La regolazione, infatti, non deve porsi l’obiettivo di ostacolare il progresso, ma al contrario, lo sviluppo dell’IA deve essere consentito e condotto nel rispetto dei diritti fondamentali della persona. Il Gruppo di esperti nominati dalla Commissione europea nel 2019 ha elaborato gli orientamenti etici per un IA affidabile, questa dovrebbe basarsi su tre componenti presenti nell’intero ciclo di vita del sistema: 1) legalità, l’IA deve ottemperare a tutte le leggi e ai regolamenti applicabili; 2) eticità, l’IA deve assicurare l’adesione a principi e valori etici; c) robustezza, dal punto di vista tecnico sociale.
2 – Dalla funzione algoritmica all’ontologia della persona: la sfida del “cambiamento d’epoca” nel discernimento della Chiesa
Proprio sui profili etici e teologici legati alla diffusione dell’intelligenza artificiale si sofferma la densa e profonda nota della Santa Sede (Dicastero per la Dottrina della Fede e del Dicastero per la cultura e l’educazione) ANTIQUA ET NOVA, Nota sul rapporto tra intelligenza artificiale e intelligenza umana), pubblicata il 28 gennaio 2025. Il rapido sviluppo dell’Intelligenza Artificiale (IA) non rappresenta una semplice progressione tecnica, ma segna quello che Papa Francesco definiva un vero e proprio «cambiamento d’epoca». Siamo di fronte a una sfida che scuote le fondamenta dell’identità umana. Il documento Antiqua et Nova si pone come una bussola in questo mare aperto, proponendo un discernimento che intreccia la sapienza millenaria della tradizione cristiana con le avanguardie della scienza contemporanea.
Il dibattito pubblico spesso cade nel tranello di un’omologazione terminologica fuorviante. Nel campo dell’IA, il termine “intelligenza” è declinato in senso puramente funzionale: la capacità di risolvere problemi complessi, ottimizzare flussi di dati e simulare comportamenti. Al contrario, la visione antropologica restituisce un’idea di intelligenza come facoltà integrale della persona. L’IA contemporanea opera su inferenze statistiche e analisi di big data. Sebbene superi l’uomo nella velocità di calcolo e nella generazione di output (testi, immagini, diagnosi), essa rimane confinata in un perimetro logico-matematico. L’IA esegue, ma non pensa. La sua efficacia è misurata dal risultato, prescindendo totalmente dalla consapevolezza del processo. La tradizione classica, ripresa da Antiqua et Nova, distingue invece due dimensioni dell’atto conoscitivo umano: Intellectus (Intelletto), l’intuizione della verità, la capacità metafisica di cogliere il “senso” profondo delle cose oltre il dato sensibile; Ratio (Ragione), il processo discorsivo e analitico che conduce al giudizio logico. L’intelligenza umana non è un modulo isolato, ma permea la volontà, l’affettività e la corporeità, riflettendo quell’Imago Dei che chiama l’uomo a partecipare alla saggezza del Creatore.
“Esistono tre pilastri dell’umano che nessun silicio potrà mai replicare. Il documento li identifica come confini invalicabili per la macchina: 1) L’Esperienza Incarnata, l’uomo è un’unità indissolubile di anima e corpo. La conoscenza umana non è un calcolo asettico, ma è plasmata dalla corporeità: il dolore, la gioia, lo stimolo sensoriale e la storia personale. Come sottolinea efficacemente il testo, “da un abbraccio di riconciliazione o da un tramonto si impara più che da qualsiasi database”. All’IA manca il contesto vitale, quella “carne” che trasforma l’informazione in sapienza; 2) La Relazionalità e il Bene Comune, l’intelligenza umana è strutturalmente aperta all’altro. Impariamo e cresciamo attraverso il dono di sé e la comunione. Se l’IA può simulare un’interazione empatica, non potrà mai vivere la caritas. Il rischio di una società “algocratica” è l’erosione della solidarietà e della responsabilità verso il prossimo, riducendo l’altro a un profilo di dati; 3) La Tensione verso il Trascendente, l’intelletto umano possiede una fame innata di Vero, Buono e Bello. Questa ricerca non si esaurisce nell’utilità pratica, ma si apre alle domande ultime. L’IA processa dati, ma non può “gustare” la verità né sentirsi attratta dal Bene Supremo”.
“Se la tecnologia è un dono di Dio” — una forma di partecipazione dell’uomo all’opera della Creazione — la Chiesa ricorda con fermezza che “non tutto ciò che è tecnicamente possibile è eticamente lecito”.
Il cuore della questione etica risiede, quindi, nella responsabilità. Tra macchina e uomo, solo quest’ultimo è un agente morale dotato di coscienza. Delegare decisioni cruciali in ambiti come la salute, il diritto o la difesa a sistemi autonomi non è solo un rischio tecnico, ma una rinuncia alla dignità umana.
La dignità della persona è intrinseca e non dipende dalle sue prestazioni cognitive. La Chiesa ribadisce la tutela di chi non può “produrre” — malati, anziani, nascituri — contro una visione funzionalista che vorrebbe misurare il valore umano su scala algoritmica.
Nel documento Antiqua et Nova, il richiamo ai neurodiritti8 non è un semplice tecnicismo giuridico, ma una difesa ontologica. Se l’intelligenza umana è un’unità di intellectus e corporeità, l’accesso tecnologico diretto alle dinamiche cerebrali rischia di violare l’ultimo baluardo della libertà umana: il pensiero stesso. Possiamo articolare questa sezione in quattro pilastri fondamentali che la Chiesa e i giuristi internazionali stanno delineando: a) il diritto alla libertà cognitiva (e all’Autodeterminazione), non si tratta solo di proteggere ciò che pensiamo, ma come lo pensiamo. Il rischio delle neurotecnologie potenziate dall’IA è l’interferenza con i processi decisionali. Il neurodiritto alla libertà cognitiva garantisce che l’individuo rimanga l’unico artefice delle proprie scelte, senza che algoritmi sottili possano alterare i desideri o le inclinazioni personali attraverso la neuro-stimolazione o il nudging cognitivo; b) la privacy mentale, se i dati comportamentali (i “like”, le ricerche web) sono già merce di scambio, i neuro-dati rappresentano una violazione di ordine superiore. La privacy mentale mira a impedire che le macchine possano “leggere” o catalogare stati mentali, emozioni o pensieri non espressi. Per la visione cristiana, questo spazio interiore è il luogo del colloquio tra l’uomo e Dio, un santuario che deve restare inaccessibile a qualsiasi analisi algoritmica commerciale o politica; c) l’integrità psichica e l’identità personale, le interfacce cervello-computer (BCI) sollevano una domanda inquietante: dove finisce l’io e dove inizia la macchina? Se un’IA assiste costantemente le mie funzioni cognitive, la percezione della mia identità potrebbe frammentarsi. I neurodiritti proteggono la continuità dell’identità personale, assicurando che l’uso della tecnologia non alteri la percezione del “sé” o il senso di responsabilità individuale; d) l’accesso equo al potenziamento (Neuro-Equità). Il documento avverte contro il rischio di una nuova forma di discriminazione: il digital divide biologico. Se il potenziamento cognitivo tramite IA diventasse un privilegio per pochi, si creerebbe una frattura insanabile nella famiglia umana. Il principio del “Bene Comune” esige che il progresso tecnologico non crei “uomini di serie A” potenziati e “uomini di serie B” esclusi, ma rimanga sempre al servizio dell’integralità di ogni persona.
“I neurodiritti sono la trascrizione giuridica del comandamento ‘non rubare’: non rubare la libertà di pensiero, non rubare l’identità, non rubare l’intimità del cuore.”
La nota cerca di unire la “vecchia sapienza” (tradizione etica e antropologica) con le “nuove” sfide tecnologiche, evitando posizioni apocalittiche o entusiasticamente utopiche e invita a considerare l’IA in campi critici come economia, lavoro, sanità e relazioni internazionali, promuovendo un dibattito inclusivo.
L’IA non è una “forma alternativa” di vita o di intelligenza, ma un prodotto dell’ingegno umano che deve rimanere al servizio del bene comune. La vera sfida del futuro non sarà competere con i computer in termini di velocità o memoria, ma recuperare la “sapienza del cuore”.
È quella capacità contemplativa che permette di scorgere la totalità delle relazioni e di non smarrire l’orizzonte del senso. Nell’era dell’artificiale, sono la poesia e l’amore — come conclude Antiqua et Nova — gli unici strumenti capaci di salvare l’umano dal naufragio della tecnica.
Note
1 G. Ungaretti, in La civiltà delle macchine, Roma, 1953.
2 K. Ishiguro, Klara e il sole, Torino, 2021.
3 I. McEwan, Macchine come me, Torino, 2019.
4 S. Rodotà, Trasformazioni del corpo, in Pol. dir., 1/2006, pp. 3-24.
5 La nascita dell’Intelligenza Artificiale si fa risalire alla Conferenza di Darmouth (Hanover, New Hampshire) del 1956, al riguardo si rinvia a G. Finocchiaro, Intelligenza Artificiale e protezione dei dati, in Giur. it., 2019, p. 1671.
6 Senza alcuna pretesa di esaustività, si segnalano: M. Tegmark, Vita 3.0. Essere umani nell’era dell’intelligenza artificiale, Milano, 2018; S. Quintarelli (a cura di), Intelligenza artificiale. Cos’è davvero, come funziona, che effetti avrà, Milano, 2020; J. Kaplan, Intelligenza artificiale. Guida al futuro prossimo, Roma, 2018; P. Domingos, L’algoritmo definitivo. La macchina che impara da sola e il futuro del nostro mondo, Milano, 2016; L.Floridi, F. Cabitza, L’intelligenza artificiale. L’uso delle nuove macchine, Milano, 2021; M.A. Boden, L’intelligenza artificiale, Bologna, 2019; N. Weidenfeld, J.D. Rümelin, Umanesimo digitale. Un’etica per l’epoca dell’Intelligenza Artificiale, Milano, 2019; D. Talia, L’impero dell’algoritmo, Soveria Mannelli, 2021.
7 U. Ruffolo (a cura di), Intelligenza artificiale. Il diritto, i diritti e l’etica, Milano, 2020; A. Santosuosso, Intelligenza artificiale. Perché le tecnologie di IA sono una grande opportunità per il diritto, Milano, 2021; K. Ahsley, Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital Age, Cambridge University Press, 2017; A. D’Aloia (a cura di), Intelligenza artificiale e diritto. Come regolare un mondo nuovo, Milano, 2021; P. Perlingieri, S. Giova e I. Prisco (a cura di), Rapporti civilistici e intelligenze artificiali: attività e responsabilità, Atti del 15° Convegno Nazionale Sisdic 14-15-16 maggio 2020, Napoli, 2020. Nella relazione che accompagna la proposta di regolamento in tema di Intelligenza Artificiale si sottolinea che: “L’utilizzo dell’IA con le sue caratteristiche specifiche (ad esempio opacità, complessità, dipendenza dai dati, comportamento autonomo) può incidere negativamente su una serie di diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell’Unione europea (“la Carta”). La presente proposta mira ad assicurare un livello elevato di protezione di tali diritti fondamentali e ad affrontare varie fonti di rischio attraverso un approccio basato sul rischio chiaramente definito. Definendo una serie di requisiti per un’IA affidabile e di obblighi proporzionati per tutti i partecipanti alla catena del valore, la presente proposta migliorerà e promuoverà la protezione dei diritti tutelati dalla Carta: il diritto alla dignità umana (articolo 1), al rispetto della vita privata e alla protezione dei dati di carattere personale (articoli 7 e 8), alla non discriminazione (articolo 21) e alla parità tra donne e uomini (articolo 23). Essa mira a prevenire un effetto dissuasivo sui diritti alla libertà di espressione (articolo 11) e alla libertà di riunione (articolo 12), nonché ad assicurare la tutela del diritto a un ricorso effettivo e a un giudice imparziale, della presunzione di innocenza e dei diritti della difesa (articoli 47 e 48), così come il principio generale di buona amministrazione. La presente proposta inciderà inoltre positivamente, secondo quanto applicabile in determinati settori, sui diritti di una serie di gruppi speciali, quali i diritti dei lavoratori a condizioni di lavoro giuste ed eque (articolo 31), un livello elevato di protezione dei consumatori (articolo 38), i diritti del minore (articolo 24) e l’inserimento delle persone con disabilità (articolo 26). Rilevante è anche il diritto a un livello elevato di tutela dell’ambiente e al miglioramento della sua qualità (articolo 37), anche in relazione alla salute e alla sicurezza delle persone. Gli obblighi di prova ex ante, di gestione dei rischi e di sorveglianza umana faciliteranno altresì il rispetto di altri diritti fondamentali, riducendo al minimo il rischio di decisioni errate o distorte assistite dall’IA in settori critici quali l’istruzione e la formazione, l’occupazione, servizi importanti, le attività di contrasto e il sistema giudiziario. Nel caso in cui si verifichino comunque violazioni dei diritti fondamentali, un ricorso efficace a favore delle persone lese sarà reso possibile assicurando la trasparenza e la tracciabilità dei sistemi di IA unitamente a rigidi controlli ex post. La presente proposta impone alcune restrizioni alla libertà d’impresa (articolo 16) e alla libertà delle arti e delle scienze (articolo 13) al fine di assicurare il rispetto di motivi imperativi d’interesse pubblico quali la salute, la sicurezza, la tutela dei consumatori e la protezione di altri diritti fondamentali (“innovazione responsabile”) nel momento in cui si diffonde e si utilizza una tecnologia di IA. Tali restrizioni sono proporzionate e limitate al minimo necessario per prevenire e attenuare rischi gravi per la sicurezza e probabili violazioni dei diritti fondamentali.Inoltre i maggiori obblighi di trasparenza non incideranno in maniera sproporzionata sul diritto alla protezione della proprietà intellettuale (articolo 17, paragrafo 2), dato che saranno limitati soltanto alle informazioni minime necessarie affinché le persone possano esercitare il loro diritto a un ricorso effettivo e alla necessaria trasparenza presso le autorità di controllo e di contrasto, in linea con i loro mandati. Qualsiasi divulgazione di informazioni sarà effettuata in conformità alla legislazione pertinente nel settore, compresa la direttiva (UE) 2016/943 sulla protezione del know-how riservato e delle informazioni commerciali riservate (segreti commerciali) contro l’acquisizione, l’utilizzo e la divulgazione illeciti. Le autorità pubbliche e gli organismi notificati, quando hanno necessità di accedere a informazioni riservate o al codice sorgente per esaminare il rispetto di obblighi sostanziali, sono sottoposti a obblighi di riservatezza vincolanti.
8 E. Picozza, L. Capraro, V. Cuzzocrea, D. Terracino, Neurodiritto. Una introduzione, Torino, 2011; F. Pizzetti, Una proposta per una: Dichiarazione universale sulle neuroscienze e i diritti umani, Voci Bioetiche (Newsletter della cattedra di bioetica dell’Unesco), 2017, 6, (10), pp. 3-6; N. Farahany, Difendere il nostro cervello. La libertà di pensiero nell’era delle nuove tecnologie, Torino, 2024.