Dal 14 al 16 luglio il Borgo Laudato Si' di Castel Gandolfo ospita la Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War. Il sito ufficiale dell'iniziativa e Vatican News confermano la presenza di premi Nobel, ex capi di Stato, università, organizzazioni per il disarmo e rappresentanti dei principali laboratori di intelligenza artificiale. L'obiettivo dichiarato è arrivare a una Dichiarazione di Roma per una pace disarmata e disarmante nell'epoca delle armi nucleari, autonome e digitali.
Il titolo può sembrare costruito per un convegno, ma affronta una trasformazione reale. L'intelligenza artificiale può accelerare l'analisi delle minacce, coordinare sistemi difensivi, individuare anomalie e ridurre alcuni errori. Può anche comprimere i tempi di decisione, moltiplicare bersagli, rendere più opache le responsabilità e aumentare il rischio che una macchina interpreti male un segnale in un momento irreversibile. Quando sono in gioco armi nucleari, anche una probabilità piccola merita la massima prudenza.
La velocità non è sempre sicurezza
Nella competizione militare, chi decide più rapidamente ottiene un vantaggio. L'IA promette proprio rapidità: integra sensori, immagini satellitari, comunicazioni e dati operativi. Ma la guerra non è un problema puramente tecnico. I dati sono incompleti, l'avversario inganna, il contesto cambia e le conseguenze ricadono su persone che nessun modello conosce davvero.
Automatizzare l'allerta può aiutare un comandante; automatizzare la scelta finale di colpire cambia la natura della responsabilità. Un sistema non prova rimorso, non risponde davanti a un tribunale, non può disobbedire per coscienza. Attribuire la colpa all'algoritmo significa spesso nascondere una catena di scelte umane: chi ha progettato, acquistato, addestrato, autorizzato e impiegato quello strumento.
Il principio dovrebbe essere netto: una decisione letale deve restare sotto controllo umano significativo. “Umano” non può voler dire la presenza formale di un operatore costretto ad approvare in pochi secondi decine di proposte generate dalla macchina. Servono tempo sufficiente, informazioni comprensibili, possibilità reale di rifiutare e una catena di comando identificabile.
Il rischio nucleare richiede più lentezza
La deterrenza nucleare si è sempre fondata su equilibri terribili e comunicazioni imperfette. La storia contiene falsi allarmi e incidenti evitati anche grazie al giudizio di persone che non eseguirono automaticamente una procedura. Inserire sistemi opachi nella valutazione di un attacco potrebbe ridurre lo spazio per quel dubbio prudente.
Gli Stati possono essere tentati di usare l'IA per proteggere arsenali, prevedere mosse o rendere credibile una risposta. Se ciascuno teme che l'altro stia guadagnando velocità, nasce una corsa nella quale la verifica arriva dopo il dispiegamento. Il risultato non è necessariamente maggiore deterrenza: può essere instabilità, perché ogni parte ha meno tempo per distinguere un errore da un'aggressione.
Servono quindi accordi specifici: esclusione dell'automazione dalle decisioni di lancio, canali di comunicazione tra potenze, notifiche degli incidenti, test controllabili e limiti all'integrazione tra IA e comando nucleare. Non tutto sarà verificabile come il numero di testate; questo rende ancora più importanti trasparenza dottrinale e fiducia costruita con piccoli passi.
La ricerca ha una responsabilità propria
La presenza a Castel Gandolfo di grandi laboratori tecnologici è positiva se non diventa un esercizio reputazionale. Chi sviluppa modelli avanzati possiede conoscenze che i governi spesso non hanno. Deve contribuire a valutazioni del rischio, sicurezza dei sistemi, tracciabilità degli usi e limiti contrattuali. Non può però arrogarsi la decisione politica su ciò che una democrazia debba consentire.
Anche scienziati e ingegneri conservano una responsabilità personale. La libertà della ricerca è un bene da proteggere, ma non cancella il dovere di chiedersi a quale scopo sarà applicata una capacità. Codici etici, comitati indipendenti e protezioni per chi segnala abusi aiutano, purché abbiano accesso alle informazioni e possano fermare davvero un progetto rischioso.
I governi, dal canto loro, non devono usare il segreto militare per sottrarre ogni scelta al controllo. Il Parlamento non deve conoscere dettagli operativi che metterebbero in pericolo la sicurezza, ma deve poter fissare principi, autorizzare programmi, controllare spese e ascoltare competenze indipendenti. La sicurezza nazionale appartiene alla Repubblica, non a una cerchia senza responsabilità pubblica.
Non confondere difesa e disarmo morale
Una prospettiva di pace non richiede ingenuità. Gli Stati hanno il dovere di difendere i cittadini; rinunciare unilateralmente a ogni tecnologia mentre potenze aggressive la sviluppano può aumentare il pericolo. La prudenza conservatrice riconosce sia la realtà della minaccia sia il limite della forza. Preparare una difesa efficace e costruire regole internazionali sono compiti complementari.
L'IA può contribuire anche alla pace: verificare immagini, monitorare cessate il fuoco, sminare territori, prevedere bisogni umanitari e tradurre comunicazioni. Questi usi meritano investimenti almeno pari a quelli destinati all'offesa. La tecnologia non possiede una moralità propria; la riceve dalle istituzioni, dagli incentivi e dalle persone che ne stabiliscono il fine.
La sussidiarietà ha un significato anche globale. Le organizzazioni internazionali fissano norme comuni, gli Stati le traducono in diritto, le imprese applicano standard, le università verificano e la società civile mantiene viva la domanda morale. Nessun livello basta da solo. Un trattato senza capacità tecnica è cieco; una soluzione tecnica senza legittimità politica è fragile.
Educare al limite nell'epoca dell'automazione
Il problema non riguarda soltanto generali e programmatori. Una società abituata a delegare raccomandazioni, selezioni e giudizi rischia di considerare naturale anche la delega estrema. Per questo scuola e informazione devono insegnare come funzionano probabilità, errori e dati. Comprendere i limiti di un modello è una forma di cittadinanza.
Occorre resistere a due narrazioni. La prima presenta l'IA come soggetto inevitabile, quasi una forza della natura alla quale adattarsi. La seconda la descrive come male assoluto da arrestare. Entrambe assolvono le persone: se tutto è inevitabile o tutto è demoniaco, nessuno deve scegliere bene. In realtà ogni sistema incorpora decisioni e può essere governato, anche se con fatica.
Una dichiarazione vale se apre un lavoro
La Dichiarazione di Roma avrà valore se conterrà impegni abbastanza chiari da guidare governi e laboratori. Servono definizioni operative, sedi di verifica, scadenze e un percorso diplomatico che coinvolga anche gli Stati più difficili. Un appello sottoscritto soltanto da chi è già d'accordo consola, ma non riduce il rischio.
Castel Gandolfo offre un simbolo potente: scienza, politica e coscienza riunite in un luogo dedicato alla cura del creato. Il simbolo, però, chiede conseguenze. L'innovazione più intelligente non è quella che elimina l'uomo dalla decisione; è quella che lo aiuta senza liberarlo dal peso della responsabilità.
Davanti alla possibilità della distruzione, il dubbio non è debolezza e il limite non è arretratezza. Sono condizioni della libertà. Possiamo usare macchine più veloci per capire il mondo, ma non dobbiamo permettere che la velocità cancelli il tempo nel quale una persona dice no. Quel tempo, fragile e umano, può essere l'ultima barriera tra un allarme e una catastrofe.