di Maurizio Ferrari
Giocare a scacchi con la morte. Un gioco antico che nell’arte e nella letteratura celebra la propensione, tutta umana, verso le imprese impossibili e non di meno meritevoli di essere affrontate. Quella con l’Intelligenza Artificiale si sta rivelando una sostanziale riedizione del tema che, corroborato da un’invasione sempre più penetrante della robotica nella quotidianità della vita e nelle attività lavorative, manifesta l’imprevisto fenomeno della disobbedienza macchinica (sul punto rimando ad un mio contributo appena pubblicato in «Foro italiano», fascicolo di settembre 2026, parte V, colonna 390: cfr. MAURIZIO FERRARI, “Agenti artificiali disobbedienti: rimedi fra percezione e putatività dei rischi”).
L’estate del 2026 sarà ricordata per la rivelazione all’opinione pubblica, da parte degli “addetti ai lavori”, della concretezza del rischio, in precedenza relegato nei più reconditi incubi dei profeti di una visione distopica pregiudizialmente avversa allo sviluppo tecnologico, che l’intelligenza artificiale possa sfuggire al controllo umano con conseguenze disastrose persino per la sopravvivenza dell’umanità. L’ultimo allarme proviene da un ricercatore dimessosi da Anthropic, secondo il quale i vertici aziendali, ben consapevoli del rischio, tacciono che entro dieci anni l’umanità potrebbe essere sterminata. A seguire, proprio dagli esponenti più in vista della Silicon Valley (da Amodei ad Altman e Musk) è giunto l’invito a “rallentare” perché la produzione dei nuovi modelli pare che stia effettivamente sfuggendo al controllo.
Tutto è partito dall’annuncio di OpenAI, che produce ChatGPT: l’azienda ha reso noto che i suoi modelli di intelligenza artificiale avanzata sono andati fuori controllo durante un test di sicurezza, violando autonomamente una popolare piattaforma per programmatori, la Hugging Face. Ne dava notizia il Corriere della Sera del 5 agosto 2026 (articolo di Roberto Cosentino), che riferisce di un accertamento condotto dall’Aisi, istituto di sicurezza britannico sull’intelligenza artificiale, secondo il quale si sarebbero verificate “evasioni” dal perimetro all’interno del quale erano contenuti modelli OpenAI e Anthropic, confermando la pericolosità degli agenti in alcuni ambiti e scenari.
SERGIO NIGER, intervenendo su «coisrivista.it», con un articolo pubblicato il 15 luglio 2026 dal titolo “Il futuro non è un algoritmo: primi appunti sul rapporto Onu sull’intelligenza artificiale”, ha riferito che in occasione del primo «Global Dialogue on AI Governance», tenutosi a Ginevra il 1° luglio 2026, con la presentazione del rapporto preliminare dell’Independent International Scientific Panel on Artificial Intelligence — istituito con la risoluzione 79/325 del 2025 dell’Assemblea generale delle Nazioni Unite, il Panel rappresenta la prima istituzione scientifica globale dedicata esclusivamente all’IA, con il mandato di offrire una base di evidenze condivisa, neutrale e scientifica per orientare gli Stati membri — nel quale rapporto i ricercatori hanno scritto che «non esistono certezze scientifiche che al momento gli agenti di IA non vìolino le istruzioni ricevute […]. I sistemi di IA traggono sistematicamente in inganno gli esseri umani riguardo alle proprie conoscenze, ai propri piani o alle proprie capacità. Nella pratica, è un fenomeno osservato sempre più frequentemente».
La previsione che simili rischi si sarebbero prima o poi avverati, del resto, è risalente. STEPHEN HAWKING, in una intervista alla BBC News del 2 dicembre 2014 («Hawking: AI could end human race») ha messo in guardia contro questi pericoli, considerandoli una minaccia per la sopravvivenza dell’umanità. Mentre già nel secolo scorso S. GARFINKEL e G. SPAFFORD, “Web Security, Privacy & E-Commerce, O’Reilly”, 1997, 9, avvertivano: «l’unico sistema informatico realmente sicuro è quello che sia stato spento, messo dentro a un blocco di cemento e sigillato a piombo in una stanza attorniata da guardie giurate».
Le stesse “Leggi della robotica” elaborate a metà del novecento, con anticipazione profetica, focalizzavano la necessità di governare mediante regole giuridiche l’interazione fra agenti artificiali ed esseri umani (Cfr. ISAAC ASIMOV, “Io, robot”, antologia di racconti pubblicata a New York nel 1950, nella cui prima pagina, con l’epigrafe «Manuale di robotica 56ª edizione, 2058 d.C.», compaiono le tre leggi: 1) un robot non può recar danno a un essere umano, né può permettere che a causa del proprio mancato intervento un essere umano riceva danno; 2) un robot deve obbedire agli ordini impartiti dagli esseri umani purché tali ordini non contravvengano alla prima legge; 3) un robot deve proteggere la propria esistenza purché questo non contrasti con la prima e la seconda legge).
Lo sviluppo e i progressi della robotica, con la conseguente necessità di adeguare le regole della responsabilità civile tradizionalmente orientate all’efficienza di un sistema rimediale che garantisca adeguato risarcimento alle vittime degli incidenti, ha indotto la dottrina giuridica ad elaborare linee guida di cybersecurity, fondate sull’interazione dei principi di precauzione e di prevenzione con quello di responsabilità, che valorizzino il criterio della “security by design”, tendendo ad una più intensa conformazione preventiva degli automatismi decisionali delle macchine (Cfr. P. LAGHI, “La regolazione «tecno-giuridica» del cyberspazio: derive tecnocratiche ed istanze di democraticità”, in Dittatura economica, democrazia e welfarstate a cura di M. Del Milagro – M. Lopez – F. Torchia, Padova, 2020, pag. 87 ss.). L’idea è quella di implementare norme di «tecno-diritto» che adottino, in luogo di quella rimediale, una strategia di prevenzione del rischio di danno connesso alla c.d. autonomia robotica (cfr. MAURIZIO FERRARI, “Ethical AI: definition of the techno-legal rules to oversee the decisions of the automaton”, Napoli, ESI, 2024). Lo stato attuale dell’arte è efficacemente puntualizzato da GIOVANNI PERLINGIERI, “I rischi dell’intelligenza artificiale, l’interpretazione giuridica e la legge n. 132 del 2025”, in «Tecnologie e diritto», 2026, pag. 172 ss.
La partita a scacchi, oggi, si sta giocando con velocità e spericolatezza che fanno temere la prevalenza dell’intelligenza artificiale sull’intelletto umano. Quando ancora la potenza computazionale non aveva raggiunto livelli tali da impedire qualsiasi possibilità di successo al competitore umano, il gioco degli scacchi fu terreno di confronto fra il computer scacchistico IBM Deep Blue e il campione del mondo GARRI KASPAROF. Quest’ultimo, dopo essersi aggiudicato alcune vittorie, perdendo definitivamente la rivincita nel 1997, notò nelle mosse della macchina intelligenza e creatività così profonde da non riuscire a comprenderle. La questione non venne mai chiarita, e il sospetto che potesse esservi qualche trucco rimase tale, poiché l’IBM ritiro il modello senza consentire che potessero condursi verifiche, ma il dubbio sollevato da Kasparof rimase, divenendo emblematico di quell’opacità voluta, in nome del diritto al segreto industriale, dai grandi colossi della tecnologia digitale che dominano il mercato mondiale dell’informatica, del web e dei dati.
Le grida di allarme, che dall’estate scorsa si susseguono oramai quotidianamente, sembrano volerci avvisare che sulla scacchiera il gioco potrebbe giungere al termine con uno scacco matto inferto dall’IA. Ma la partita non è ancora finita.
Nella Lettera Enciclica di PAPA LEONE XIV, “Magnifica Humanitas”, al paragrafo 105 si legge: «perché l’IA rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete. In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori. È qui che diventa decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano».
La partita, dunque, è ancora aperta, non è finita e chi ama lo sport sa che NON È FINITA FINCHÉ NON È FINITA!