Il 12 novembre, numerose aziende e organizzazioni hanno avuto difficoltà ad accedere alla posta elettronica di Microsoft, attraverso Outlook ed Exchange Online. A causare il disservizio è stato un difetto software introdotto mesi prima e sfuggito ai test, emerso soltanto quando un cambiamento nel traffico della rete ha provocato il sovraccarico dei server. Microsoft ha quindi dovuto ripristinare gradualmente i servizi. Il giorno successivo, negli Stati Uniti, un altro problema tecnico ha colpito la rete di comunicazione utilizzata per il controllo del traffico aereo. L'anomalia si è verificata mentre erano in corso interventi su alcune apparecchiature e ha spinto la Federal Aviation Administration (FAA) a sospendere, per precauzione, le partenze degli aerei in tutto il Paese per quasi cinque ore.

Il 16 novembre, un altro disservizio ha colpito il settore bancario americano. Migliaia di clienti di JPMorgan Chase hanno avuto difficoltà ad accedere ai servizi online e a trasferire denaro. La banca ha attribuito il problema a un guasto tecnico, escludendo un attacco informatico. In pochi giorni, tre episodi diversi, tra posta elettronica, traffico aereo e servizi bancari, hanno mostrato quanto un problema tecnico possa compromettere servizi essenziali anche senza l'intervento degli hacker. Questo, però, non significa che gli attacchi informatici siano diventati meno pericolosi. Anzi.

Tra ottobre e novembre, diversi attacchi hanno colpito i sistemi di refrigerazione di supermercati europei, danneggiando le merci. In Francia, gli aggressori sono arrivati ad alterare da remoto le temperature delle celle frigorifere di tre centri per la conservazione del sangue, fortunatamente senza compromettere i prodotti. L'intelligenza artificiale ha reso più rapide la ricerca di vulnerabilità e la preparazione degli attacchi, aumentando la pressione su aziende e amministrazioni, chiamate ad aggiornare rapidamente infrastrutture spesso obsolete, ma indispensabili, senza comprometterne il funzionamento.

È qui che emerge un problema. Le infrastrutture informatiche complesse sono il risultato di anni, talvolta decenni, di manutenzione, aggiornamenti e adattamenti. La loro stabilità dipende non soltanto dal software, ma anche dalle configurazioni, dai collegamenti tra i diversi componenti e dall’esperienza accumulata da chi le gestisce. Anche quando un sistema funziona perfettamente, può nascondere vulnerabilità che richiedono interventi. Ma correggere una falla significa modificare un equilibrio delicato, con il rischio di provocare problemi difficili da prevedere. Una stabilità costruita in anni di lavoro può così essere compromessa in poche ore.

È proprio su questo delicato equilibrio che l'intelligenza artificiale potrebbe avere un impatto significativo. L'AI sta accelerando sia la scoperta delle vulnerabilità sia la produzione delle correzioni, analizzando grandi quantità di codice e proponendo soluzioni in tempi molto ridotti. Ma individuare una falla è ben diverso dal correggerla senza compromettere il funzionamento dell'intero sistema. Un agente AI può suggerire con grande sicurezza una modifica apparentemente risolutiva, senza conoscere tutte le applicazioni collegate, le configurazioni e le dipendenze accumulate nel tempo. E anche una correzione tecnicamente valida, che supera i test in un ambiente controllato, può provocare malfunzionamenti quando viene applicata nella realtà, dove le condizioni operative sono molto più complesse. Una patch può quindi eliminare una vulnerabilità e, allo stesso tempo, introdurre problemi che nessuno aveva previsto.

È in questo scenario che potrebbe svilupparsi quella che chiamo «spirale della messa in sicurezza». La scoperta di nuove vulnerabilità, sempre più rapida, aumenta la pressione sulle organizzazioni, preoccupate di subire attacchi prima di riuscire a intervenire. Gli strumenti AI permettono di proporre correzioni in pochi minuti, ma possono anche suggerire con apparente sicurezza soluzioni basate su una conoscenza incompleta del sistema. Sotto la pressione dell'urgenza, si rischia di attribuire a questi suggerimenti e ai risultati dei test un'affidabilità maggiore di quella effettivamente garantita. Una correzione può così compromettere funzionalità già stabili, introdurre incompatibilità o persino nuove vulnerabilità, rendendo necessari ulteriori interventi. Si innesca una spirale in cui la fretta di proteggere il sistema rischia di renderlo progressivamente più complesso, fragile e difficile da gestire. Non sappiamo ancora se questo fenomeno stia diventando più frequente, ma l'accelerazione introdotta dall'AI potrebbe favorirne la diffusione.

Rinunciare agli aggiornamenti non è possibile: gli attaccanti non aspettano che un'azienda completi tutte le verifiche. Ma nemmeno i test più accurati possono prevedere ogni conseguenza di una modifica su infrastrutture complesse. Per questo l'AI dovrebbe aiutarci non soltanto a individuare vulnerabilità e generare correzioni, ma anche a comprendere le dipendenze tra sistemi e valutarne il comportamento nelle condizioni operative reali. Il rischio è che la velocità delle correzioni cresca più rapidamente della nostra capacità di verificarne l'affidabilità. Nei prossimi mesi, agli attacchi informatici sempre più sofisticati potrebbero così affiancarsi altri incidenti: sistemi che si fermano non perché qualcuno è riuscito a violarli, ma perché, nel tentativo di anticipare gli hacker, abbiamo introdotto modifiche di cui non conoscevamo tutte le conseguenze.