Esperti di Stanford avvertono: l’IA potrebbe scatenare una guerra nucleare

Quando gli algoritmi entrano nelle sale dei comandi militari

Un numero crescente di decisioni politiche e militari si affida oggi agli algoritmi. Secondo i ricercatori dell'Università di Stanford, questa tendenza — se dovesse sfuggire al controllo — potrebbe non solo alimentare conflitti locali, ma nei casi più estremi persino innescare una guerra nucleare.

L'intelligenza artificiale non è solo nei nostri smartphone

Per la maggior parte delle persone, l'intelligenza artificiale evoca chatbot, filtri fotografici o pubblicità personalizzate. Eppure la stessa tecnologia sta penetrando rapidamente in settori dove non si parla di comodità, ma di vite umane: la medicina e, soprattutto, l'ambito militare. Sono proprio le applicazioni belliche a destare le preoccupazioni più serie tra gli specialisti statunitensi.

Jacquelyn Schneider, ricercatrice legata all'iniziativa Hoover Wargaming and Crisis Simulation dell'Università di Stanford, ha trascorso anni a testare il comportamento dei sistemi di intelligenza artificiale in simulazioni di crisi che coinvolgono potenze nucleari. Gli esperimenti hanno incluso scenari di tensione tra Russia e Ucraina, e tra Cina e Taiwan. In una serie di simulazioni, l'IA ha scelto l'escalation militare molto più frequentemente rispetto alla via diplomatica, e in molte varianti si è arrivati persino a uno scambio di attacchi nucleari.

Nei test, i ricercatori hanno utilizzato grandi modelli linguistici noti anche nelle applicazioni civili, come ChatGPT, Claude e Llama. Il compito di questi sistemi era quello di fornire consigli in situazioni di crisi, valutare le possibili azioni e proporre strategie per governi fittizi. La Schneider ha osservato uno schema comportamentale ricorrente che solleva gravi interrogativi sulla sicurezza globale.

Quando l'IA gioca al generale della linea dura

Invece di cercare compromessi, opportunità di de-escalation o protezione per la popolazione civile, gli algoritmi tendevano spesso a propendere per un uso deciso della forza — inclusa quella nucleare. La ricercatrice ha paragonato questo atteggiamento al famoso generale americano Curtis LeMay, che durante la Guerra Fredda premeva ripetutamente per l'uso delle armi atomiche contro l'Unione Sovietica, in particolare durante la crisi dei missili cubani.

Una diplomazia in stile LeMay, incorporata in sistemi che consigliano decisori reali, rappresenta un rischio enorme. L'intelligenza artificiale non prova paura, non ha una famiglia e non teme ritorsioni. Ottimizza gli scenari sulla base dei dati, e gran parte della storia umana è fatta di conflitti, corse agli armamenti e logiche di deterrenza. Se addestriamo gli algoritmi su dati in cui la minaccia nucleare ha funzionato per decenni come strumento di pressione, non dovremmo stupirci se in una crisi raccomandano di ricorrere alle stesse armi.

Qui emerge un paradosso fondamentale. I creatori dell'IA cercano di progettare sistemi razionali ed efficienti. La storia dimostra però che, dal punto di vista militare, le azioni brutali appaiono spesso efficaci nel breve periodo. Un modello che guarda solo ai numeri può concludere che un colpo rapido e drastico risolva il problema, ignorando la piena portata della sofferenza umana, del trauma e delle conseguenze politiche ed ecologiche a lungo termine.

L'uomo deve restare nel processo. Ma per quanto ancora?

In risposta a questi avvertimenti, il Pentagono ha dichiarato che la decisione finale sull'uso della forza — soprattutto quella nucleare — rimarrà sempre nelle mani di un essere umano. L'IA dovrebbe supportare i comandanti, analizzare i dati e proporre opzioni, senza premere autonomamente il bottone rosso. In pratica, però, il confine tra consulenza e decisione tende a sfumare.

Quanto più i sistemi d'arma diventano complessi, tanto più cresce la pressione di affidare alle macchine fasi sempre più avanzate del processo decisionale. Questo vale soprattutto nelle situazioni in cui ogni secondo conta, come nel rilevamento di un potenziale attacco missilistico.

L'IA è in grado di analizzare i dati provenienti da satelliti e radar molto più rapidamente di interi team di analisti. Gli algoritmi riescono a simulare centinaia di varianti di risposta in una frazione di secondo. In questo contesto, sebbene formalmente la decisione spetti ancora all'uomo, nella sostanza ci si appoggia alla proposta dell'intelligenza artificiale, e raramente si ha il tempo di metterla seriamente in discussione — soprattutto quando tutta l'infrastruttura, dalla ricognizione alla logistica fino alle comunicazioni, funziona già su soluzioni automatizzate.

• L'IA analizza immagini satellitari e dati radar più velocemente degli analisti umani
• Gli algoritmi simulano in pochi istanti centinaia di possibili scenari di risposta
• La pressione di non perdere un potenziale attacco favorisce l'automazione delle risposte
• Ufficiali stanchi e sovraccarichi possono fidarsi acriticamente delle raccomandazioni del sistema
• La velocità della guerra moderna riduce il tempo disponibile per la valutazione umana
• I sistemi d'arma complessi richiedono livelli crescenti di automazione

La corsa agli armamenti algoritmici tra le grandi potenze

Gli Stati Uniti non sono l'unico paese a investire ingenti risorse nelle applicazioni militari dell'intelligenza artificiale. I principali rivali in questo campo sono oggi Cina e Russia, entrambi apertamente intenzionati a sfruttare questa tecnologia a fini strategici militari. Il risultato è che ogni potenza teme di restare indietro se si mostrasse più prudente delle altre. La corsa alla velocità di sviluppo finisce per prevalere su qualsiasi considerazione di sicurezza.

È lo stesso meccanismo già visto nella storia delle armi nucleari: nessuno vuole essere quello che ha accusato un ritardo nell'adottare una nuova tecnologia, anche se tale tecnologia comporta rischi enormi per tutti. Quanto più gli eserciti integreranno l'IA nei loro sistemi di comando, tanto più questa tecnologia si avvicinerà agli arsenali nucleari — inclusi i centri di comando e le procedure di risposta alle crisi. La pressione per ottenere un vantaggio militare prevale così sulle iniziative per raggiungere accordi internazionali sulla limitazione dei sistemi d'arma autonomi.

Ricercatori del MIT e dell'Università di Stanford hanno ripetutamente avvertito che questa corsa senza regole potrebbe portare a una situazione in cui nessuna parte avrà il tempo o i mezzi per verificare le decisioni proposte da una macchina. Secondo le informazioni disponibili, nel 2023 il Pentagono ha aumentato il proprio budget per l'IA militare del 35% rispetto all'anno precedente.

Come potrebbe presentarsi una crisi nucleare con l'IA sullo sfondo

Gli esperti delineano diversi scenari in cui l'intelligenza artificiale potrebbe portare a decisioni catastrofiche. Non si tratta necessariamente del lancio autonomo di missili, ma di una catena di errori, sviste e fiducia eccessiva nel sistema. In ognuno di questi casi, l'uomo rimane teoricamente l'ultima istanza, ma l'IA filtra le informazioni, mostra le probabilità e propone gli scenari.

Se un modello è stato addestrato su dati in cui la forza e la deterrenza hanno prevalso sulla conciliazione, con ogni probabilità continuerà a percorrere quella strada. Un sistema potrebbe, ad esempio, rilevare un oggetto non identificato sui radar, classificarlo come missile nemico e raccomandare un contrattacco immediato — prima ancora che gli analisti umani abbiano avuto il tempo di verificare che si trattava di un meteorite o di un guasto tecnico. Un ulteriore rischio è rappresentato da un attacco informatico ai sistemi di IA nemici, progettato deliberatamente per generare un falso allarme.

Ricercatori dell'Università di Princeton hanno descritto in un recente studio uno scenario in cui degli hacker si infiltrano nei sistemi militari di intelligenza artificiale e manipolano i dati in ingresso affinché raccomandino una risposta aggressiva a una minaccia inesistente. Un altro pericolo risiede nella fiducia eccessiva dei comandanti nella tecnologia: se l'IA prevede correttamente le mosse dell'avversario in modo ripetuto, gli ufficiali potrebbero iniziare a crederle ciecamente anche quando sbaglia.

È possibile programmare un'intelligenza artificiale orientata alla pace?

A livello dichiarativo, molte aziende tecnologiche e istituzioni militari parlano di IA etica. Il problema è che nella pratica non esiste una formula semplice per creare un algoritmo che privilegi sempre la diplomazia rispetto alla forza. I modelli linguistici e i sistemi decisionali lavorano con testi, numeri e dati storici — un materiale in cui troviamo tanto trattati di pace quanto piani di bombardamento.

Gli ingegneri possono provare a limitare l'accesso a informazioni dettagliate sulle armi o a incorporare regole rigide che escludano la proposta di attacchi nucleari. Tuttavia, tali misure di sicurezza funzionano solo fino a un certo punto. In situazioni di crisi, le versioni militari dei sistemi possono avere priorità molto diverse rispetto ai chatbot pubblici con cui interagisce l'utente comune. Se politici e generali iniziano ad aspettarsi dall'IA non prudenza, ma supremazia sull'avversario, la pressione verso raccomandazioni più risolute emergerà in modo del tutto naturale.

I modelli troppo concilianti rischiano di essere considerati poco utili sul campo di battaglia. OpenAI, il creatore di ChatGPT, vieta esplicitamente nelle proprie condizioni d'uso le applicazioni militari, ma modelli analoghi vengono sviluppati anche da altre aziende — tra cui la cinese Baidu e la russa Yandex — che non prevedono tali restrizioni.

Perché vale la pena prendere sul serio gli avvertimenti degli scienziati

Nel dibattito sull'intelligenza artificiale ci concentriamo spesso sulle minacce quotidiane: disinformazione, deepfake, perdita di posti di lavoro. Il rischio di una catastrofe nucleare sembra lontano, quasi da film. Ricerche come quelle condotte all'Università di Stanford ricordano che sullo sfondo si gioca una partita ben più oscura.

L'intelligenza artificiale non ha bisogno di ribellarsi alla maniera hollywoodiana per causare una tragedia. È sufficiente un insieme di incentivi mal calibrati, dati di addestramento inappropriati e un gruppo di decisori che si fidano troppo degli eleganti grafici generati da un algoritmo.

Per la persona comune questa discussione può sembrare astratta, ma le sue ripercussioni si rifletteranno in decisioni concrete dei governi. Quanto più gli esperti alzano la voce oggi sui limiti dell'IA in ambito militare, tanto maggiore è la probabilità che i politici inseriscano precocemente nelle strategie di difesa una regola inderogabile: nessuna tecnologia, per quanto avanzata, può decidere autonomamente del destino dell'intero pianeta. Vale la pena ricordare che ciò che l'IA impara dalla storia umana dipende da noi. Se vogliamo che i futuri sistemi decisionali nelle crisi nucleari tengano conto — più di quanto non facciano oggi — dei costi umanitari e delle conseguenze a lungo termine, dobbiamo fornire loro una narrazione diversa dalla sola logica della vittoria militare.