Dalla Dichiarazione di Roma all’AI Act: le regole corrono più lente della tecnologia?
“L’umanità si trova in un momento decisivo della propria storia”. Non è l’incipit di un romanzo distopico, ma la prima frase di un documento firmato il 16 luglio 2026 in Campidoglio, a Roma. Si chiama, con un titolo volutamente solenne, Dichiarazione di Roma per una Pace Disarmata e Disarmante nell’Era dell’Intelligenza Artificiale, delle Armi Nucleari e Autonome, dei Nuovi Protocolli Digitali e dei Modelli Emergenti di Sviluppo Digitale. A sottoscrivere la Dichiarazione di Roma, al termine della Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, ospitata tra Castel Gandolfo e la capitale, sono stati una trentina di Premi Nobel, altrettanti ex capi di Stato e di governo, scienziati, esperti di intelligenza artificiale e leader religiosi. Il documento dichiara la propria ispirazione nell’enciclica di Papa Leone XIV, Magnifica humanitas, dedicata alla tutela della persona umana nell’epoca dell’intelligenza artificiale.
La domanda che il documento pone è antica quanto la tecnica stessa: chi controlla il potere che stiamo creando? Ma il contesto in cui la pone è nuovo, e per certi versi vertiginoso. Il timore che l’intelligenza artificiale possa intrecciarsi con il più pericoloso degli arsenali umani, quello nucleare, circolava da tempo tra addetti ai lavori e organizzazioni per il disarmo; mai però una coalizione così ampia e autorevole lo aveva messo nero su bianco con questa solennità.
Cosa chiede davvero la Dichiarazione
Al di là della retorica, il testo contiene richieste sorprendentemente concrete. La prima, e la più netta, riguarda le armi atomiche: la decisione finale di impiegare un’arma nucleare non deve mai essere affidata a un sistema automatizzato. I firmatari chiedono l’adozione di un trattato internazionale che vieti l’integrazione dell’IA nei sistemi di comando, controllo e lancio delle armi nucleari, garantendo che rimanga sempre un controllo umano effettivo e significativo. Nessun algoritmo, in altre parole, dovrà mai avere l’ultima parola su questioni di vita e di morte.
Il secondo punto è meno mediatico, ma per chi segue il settore è forse il più significativo. La Dichiarazione chiede che nessuna organizzazione avvii, e nessun governo autorizzi, processi di auto-miglioramento ricorsivo completamente automatizzati nei sistemi di intelligenza artificiale, se privi di strumenti per monitorarli e, quando necessario, interromperli. È un riferimento diretto a uno degli scenari più discussi nella comunità della sicurezza dell’IA: quello di sistemi capaci di potenziare sé stessi a velocità superiori alla capacità umana di supervisione. Che questo tema sia passato dai forum degli addetti ai lavori a un documento firmato da Premi Nobel in Campidoglio dice molto su quanto sia cambiato il dibattito negli ultimi anni.
C’è infine una proposta costruttiva: la creazione di un “bene comune digitale”, un digital commons che favorisca la raccolta e la condivisione dei dati necessari a comprendere e governare tanto le armi nucleari quanto l’intelligenza artificiale. L’idea è che la conoscenza su questi rischi non possa restare frammentata tra governi e aziende private, ma debba diventare patrimonio condiviso dell’umanità.
L’ombra lunga di Russell ed Einstein
Il parallelo storico è quasi obbligato, e i promotori stessi non lo nascondono. Nel 1955 il Manifesto Russell-Einstein chiedeva al mondo di fermarsi a riflettere sulle conseguenze delle armi atomiche. Undici scienziati, tra cui Albert Einstein alla vigilia della morte, firmarono un appello che avrebbe dato origine al movimento Pugwash e contribuito, nei decenni successivi, alla stagione dei trattati di non proliferazione.
Oggi il messaggio si amplia: la prossima rivoluzione tecnologica, quella dell’intelligenza artificiale, potrebbe avere effetti altrettanto profondi sugli equilibri geopolitici del pianeta. Ma il confronto storico suggerisce anche una lezione più scomoda. Dopo il Manifesto del 1955 servirono otto anni perché arrivasse il primo accordo vincolante, il Trattato sulla messa al bando parziale dei test nucleari del 1963, firmato solo dopo che il mondo aveva sfiorato la catastrofe con la crisi dei missili di Cuba; per il Trattato di non proliferazione bisognò attendere il 1968. Gli appelli morali funzionano, ma raramente da soli, e quasi mai in fretta.
Principi contro sanzioni: il confronto con l’AI Act
Ed è qui che il discorso torna in Europa. Perché la Dichiarazione di Roma, per quanto autorevole, resta un appello: non vincola nessuno, non sanziona nessuno, non istituisce alcuna autorità di controllo. L’Unione Europea ha scelto la strada opposta con l’AI Act, il regolamento che classifica i sistemi di intelligenza artificiale in base al rischio e prevede obblighi e sanzioni per chi li sviluppa e li utilizza.
Sulla carta, i due approcci sembrano complementari: i principi indicano la direzione, le norme la rendono obbligatoria. Nella pratica, entrambi soffrono dello stesso limite strutturale: la velocità. I modelli di frontiera evolvono con cicli di pochi mesi, mentre un regolamento europeo richiede anni tra proposta, negoziato, approvazione e attuazione. Quando le regole entrano in vigore, la tecnologia che intendevano disciplinare è spesso già stata superata da qualcosa di diverso e più potente. È il paradosso della governance tecnologica: o si regola ciò che non si conosce ancora, rischiando di sbagliare bersaglio, o si regola ciò che si conosce già, arrivando tardi.
C’è poi il nodo geopolitico. L’Europa regola, ma non produce: i modelli di frontiera nascono negli Stati Uniti e in Cina, e i due giganti non mostrano alcuna fretta di sottoporsi a vincoli paragonabili a quelli europei. Un regolamento che si applica a tecnologie sviluppate altrove ha un potere reale, quello di condizionare l’accesso al mercato europeo, ma anche un limite evidente: non tocca la corsa in sé, solo le sue ricadute locali.
Dichiarazioni o strategia?
Non a caso, già all’indomani della firma, alcuni osservatori hanno sollevato una domanda pungente: accanto ai principi, esiste una strategia concreta per attrarre investimenti e costruire capacità tecnologica? È il dilemma europeo per eccellenza: primi a regolare, ultimi a costruire. Firmare dichiarazioni in Campidoglio è importante, ma senza data center, chip, capitali e talenti, il rischio è di scrivere le regole di un gioco a cui non si partecipa.
La critica è legittima, ma va maneggiata con cura. Ridurre la governance a un ostacolo alla competitività significa accettare l’idea che la corsa all’IA sia un destino da subire, non un processo da orientare. La storia del nucleare insegna il contrario: furono proprio i vincoli condivisi, faticosamente negoziati, a rendere il mondo più stabile, non la competizione senza regole.
La coscienza e l’algoritmo
Alla fine, la questione posta a Roma è più semplice e più radicale di quanto il titolo chilometrico della Dichiarazione lasci intendere. Nel suo intervento in Campidoglio, il cardinale vicario Baldassare Reina ha ricordato che la velocità dell’intelligenza artificiale non può cancellare il valore della coscienza, che l’efficienza dei sistemi digitali non può sostituire il discernimento morale e che la potenza della tecnica non può porsi al di sopra della dignità della persona.
Si può liquidare tutto questo come idealismo. Oppure si può riconoscere che, in un momento in cui le decisioni più importanti del pianeta rischiano di essere delegate a sistemi che nessuno comprende fino in fondo, ribadire il primato della responsabilità umana non è retorica: è il punto di partenza minimo di qualsiasi governance possibile. Le regole arriveranno tardi, come sempre. Ma la direzione, almeno quella, conviene deciderla adesso.
