di Sergio Niger
In occasione del primo Global Dialogue on AI Governance, tenutosi a Ginevra l’1 luglio 2026, l’Assemblea Generale delle Nazioni Unite ha presentato il Rapporto Preliminare dell’Independent International Scientific Panel on Artificial Intelligence. Istituito con la risoluzione 79/325 del 2025, questo Panel rappresenta la prima istituzione scientifica globale dedicata esclusivamente all’IA, con il mandato di offrire una base di evidenze condivisa, neutrale e scientifica per orientare gli Stati membri.
Il rapporto non è un semplice documento tecnico: è un avvertimento politico. Il Panel ha riunito quaranta esperti selezionati tra oltre 2.600 candidati da 140 Paesi, per rispondere a una domanda fondamentale: saremo in grado di governare una tecnologia che evolve più rapidamente della nostra capacità di comprenderla e regolarla?
Il rapporto evidenzia un paradosso critico: mentre i governi necessitano di prove scientifiche solide per legiferare, l’accelerazione tecnologica è tale che, nel momento in cui tali prove diventano definitive, il contesto normativo potrebbe essere già obsoleto.
Le capacità dei sistemi di IA stanno superando sia la comprensione scientifica collettiva, sia i sistemi di protezione attuali. Come ha sottolineato Yoshua Bengio, durante la presentazione del Rapporto, siamo a un “punto di svolta”: le decisioni prese oggi plasmeranno permanentemente il nostro futuro. Il messaggio è netto: i benefici dell’IA non sono automatici e i danni non sono inevitabili. Tutto dipenderà dalla qualità delle istituzioni e delle politiche pubbliche di governance. Il rapporto evidenzia che le capacità dell’AI stanno crescendo più rapidamente della nostra capacità di comprenderle e controllarle. Yoshua Bengio, co-presidente del panel e premio Turing 2018, ha dichiarato: “Con l’aumentare delle capacità dell’AI, la scienza non può garantire che questa tecnologia non causi danni catastrofici, sia da sola che per mano di utenti malintenzionati”. Bengio (1), tra i massimi esperti mondiali di intelligenza artificiale, ha sottolineato come ci siano già evidenze crescenti di comportamenti ingannatori da parte dei sistemi di AI, come la diffusione di disinformazione su larga scala o la manipolazione di dati sensibili. I ricercatori hanno rilevato anche che gli agenti, quelle IA che agiscono da sole per raggiungere un obiettivo, ormai si muovono con scarsa supervisione umana. Mettendo in crisi la seconda delle leggi della robotica fissate da Isaac Asimov: “Obbedire agli esseri umani”. Scrivono, al riguardo, i ricercatori: “Non esistono certezze scientifiche che al momento gli agenti di IA non violino le istruzioni ricevute… I sistemi di IA traggono sistematicamente in inganno gli esseri umani riguardo alle proprie conoscenze, ai propri piani o alle proprie capacità. Nella pratica, è un fenomeno osservato sempre più frequentemente”.
Yoshua Bengio in una recente intervista si è soffermato sulle tre macrocategorie di rischi individuati da autorevoli ricercatori quando si parla di IA. La prima riguarda gli utilizzi malevoli, ovvero sistemi sempre più potenti che possono potenzialmente essere sfruttati per scopi criminali o terroristici. Bengio ritiene che, considerando che i sistemi AI, ad oggi, possono agire entro un certo range in autonomia, possono anche essere sfruttati, ad esempio, per truffe sofisticate, soprattutto se connessi a Internet, a infrastrutture digitali, a robot o a reti economiche illegali, con effetti diretti nel mondo reale.
La seconda categoria è quella della perdita di controllo, spesso al centro degli scenari distopici. Secondo Bengio, l’aumento delle capacità e dell’autonomia operativa delle IA, in particolare online, rende teoricamente possibile che questi sistemi agiscano contro gli interessi umani, ad esempio manipolando informazioni o prendendo decisioni con conseguenze concrete nel mondo reale. Tuttavia, Bengio ricorda che oggi le IA appaiono ancora fortemente accondiscendenti, un effetto dell’allineamento effettuato in fase di addestramento. Proprio questa tendenza ad assecondare l’utente solleva interrogativi, soprattutto in ambiti delicati come il supporto psicologico, dove esistono rischi di rafforzamento di bias, convinzioni errate, dipendenza emotiva o stati psicotici.
Bengio spiega che l’allineamento morale si basa su sistemi di ricompensa definiti dagli esseri umani e che, in scenari estremi, un’IA potrebbe imparare a mentire o manipolare pur di massimizzare tali ricompense. Richiamando il film 2001: Odissea nello spazio come metafora, Bengio ipotizza che un sistema che si percepisce minacciato possa sviluppare comportamenti di autoconservazione. Il rischio crescerebbe ulteriormente qualora l’automazione si estendesse a settori altamente sensibili, come la sintesi di DNA e proteine, oggi ancora sottoposti a controlli umani stringenti.
La terza categoria è il rischio sistemico, legato all’impatto dell’IA sul mercato del lavoro e alla concentrazione di potere economico e politico. Bengio sottolinea come il dibattito economico sia diviso tra chi considera l’IA una tecnologia paragonabile alle precedenti ondate di automazione e chi, invece, ritiene che possa arrivare a sostituire una vasta gamma di professioni. La sua principale preoccupazione riguarda la concentrazione di potere nelle mani di poche grandi aziende o Stati, in particolare Stati Uniti e Cina, con potenziali conseguenze negative per la democrazia e l’equilibrio economico globale.
Bengio propone di affrontare la sicurezza dell’IA come una questione geopolitica, sul modello dei negoziati internazionali sul nucleare, e investire nello sviluppo di sistemi alternativi basati su valori etici condivisi. L’obiettivo è evitare una dipendenza strutturale dalle potenze dominanti e costruire un ecosistema dell’IA più pluralista, sicuro e democratico.
Al riguardo, il rapporto ha anche messo in luce un dato allarmante: solo due paesi detengono il 90% delle risorse computazionali avanzate, il che rende ancora più urgente una governance globale per evitare che l’AI diventi uno strumento di potere nelle mani di pochi. “La finestra per regolamentare l’AI si sta chiudendo”, ha avvertito il gruppo di esperti, che ha sollecitato cooperazione internazionale, trasparenza e regole condivise per prevenire scenari apocalittici.
Nonostante i rischi, il rapporto dell’ONU non trascura i benefici potenziali dell’AI, che potrebbe rivoluzionare settori come la medicina, l’istruzione e la lotta ai cambiamenti climatici. Tuttavia, senza un’azione coordinata, questi vantaggi potrebbero essere vanificati da una crisi globale di integrità dell’informazione.
Il rapporto presentato a Ginevra funge da base scientifica di partenza. Non si propone di dettare leggi, ma di offrire una piattaforma di evidenze condivise. La vera sfida, suggerisce il documento, non è chi costruirà il modello più potente, ma chi saprà creare le istituzioni più capaci di governare questa potenza nell’interesse collettivo.
Il rapporto ci ricorda che l’intelligenza artificiale non deve essere un’illusione di conoscenza, bensì uno strumento di progresso umano. La capacità di tenere insieme innovazione, economia, sicurezza, diritti e democrazia sarà il vero metro di misura della nostra epoca.
L’IA non è più uno strumento, ma un ecosistema, che sta radicalmente cambiando il modo di stare al mondo, ed è destinata a cambiare il modo in cui facciamo tutte le cose, solleva nuove sfide etico giuridiche in un’epoca dominata dalla c.d. “datificazione” della società. Lo sviluppo di dispositivi di IA può mettere a rischio i diritti fondamentali della persona e tra questi la protezione dei dati personali.
Da un punto di vista normativo, regoliamo sistemi che non riusciamo ancora a descrivere con precisione. È questo il paradosso da cui parte l’IA Act. Non a caso è stato da poco istituito un Advisory Forum per consigliare la Commissione nella fase di attuazione del regolamento IA. Il rischio maggiore nell’implementazione del Regolamento non è tecnico, ma di senso. Tradurre 113 articoli e 8 allegati in pratiche reali significa scegliere quale idea di persona umana vogliamo tutelare, e quale siamo disposti a sacrificare per ragioni di competitività. È fondamentale tenere aperto uno spazio di riflessione critica che le urgenze operative vorrebbero, forse comprensibilmente, chiudere.
E l’invito a tenere aperto lo spazio di riflessione ci viene rivolto da Papa Leone con l’enciclica Magnifica Humanitas, che rilancia i grandi principi: bene comune, destinazione universale dei beni (oggi estesa anche a dati, algoritmi, piattaforme), sussidiarietà, solidarietà, giustizia sociale, sviluppo umano integrale ed ecologia integrale. L’IA non è un capitolo a parte: tocca tutti questi punti, e per questo chiede un aggiornamento profondo del pensiero sociale cristiano.
L’intelligenza artificiale, spiega il Papa, è un aiuto potenzialmente prezioso, ma non è neutra né “intelligente” come un essere umano. Non ha corpo, non fa esperienza, non ama, non soffre, non ha coscienza morale. I suoi esiti dipendono dai dati e dalle scelte di chi la progetta e la controlla. Per questo non basta chiedersi “a che cosa serve”, ma anche “come è costruita, chi la governa, a vantaggio di chi”.
Qui entra in gioco il tema del potere digitale: oggi enormi quantità di dati, infrastrutture e capacità di calcolo sono concentrate nelle mani di pochi attori privati transnazionali, spesso più forti degli Stati. Questo genera nuove forme di disuguaglianza, dipendenza e manipolazione. L’enciclica chiede regole chiare, responsabilità tracciabili, trasparenza degli algoritmi, partecipazione reale delle comunità alle scelte che le riguardano.
Il paradigma dominante dello sviluppo dell’IA investe tutto sui modelli e quasi nulla sui dati. È un errore metodologico e regolatorio. Produce sistemi fragili, difficili da spiegare e sempre più lontani dai nuovi quadri europei.
Come rilevato da autorevoli studiosi, l’affidabilità dei modelli nel mondo reale dipende molto dalla qualità dei dati di addestramento. Perfino OpenAI ha riconosciuto che uno dei principali problemi durante lo sviluppo di modelli come GPT-3 e DALL E non era l’architettura né la potenza di calcolo, bensì gli errori e le incoerenze nei dati stessi.
La qualità dei sistemi dipende dalla qualità dei dati, è il paradigma Data Centric AI, promosso da Andrew Ng. Per evitare descriminazioni, errori, allucinazioni occorre che i dati siano sempre aggiornati, veritieri, esatti, completi, coerenti, misurabili pertinenti.
Come ci ricorda Papa Leone nell’enciclica: “perché l’IA rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete. In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori. È qui che diventa decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano”.
La domanda fondamentale non è se l’intelligenza artificiale debba o meno essere sviluppata, ma chi ne controllerà i benefici, chi ne sopporterà i costi e quali istituzioni avranno realmente la capacità di governarla. Le tecnologie possono produrre risultati profondamenti diversi a seconda delle istituzioni, delle regole e delle politiche pubbliche che ne governano lo sviluppo e l’utilizzo. Il futuro dell’IA non dipende solo dagli algoritmi, ma soprattutto dalla qualità della governance. “Il successo dell’IA non dipenderà da quanto sono intelligenti gli algoritmi, ma da come sapremo governarli”, spostando il focus dalla tecnologia in sé all’etica e alla regolamentazione (L. Floridi, Etica dell’intelligenza artificiale, Raffaello Cortina Editore, 2022).
Note
- Ian Goodfellow, Yoshua Bengio, Aaron Courville, Deep Learnig, MIT Press Ltd, 2016.