L’intelligenza artificiale potrebbe provocare una catastrofe informatica capace di mettere in ginocchio interi Paesi. È lo scenario sul quale, secondo un’inchiesta di Axios pubblicata il 9 ottobre, stanno ragionando i vertici di OpenAI, Anthropic e altre grandi aziende tecnologiche, preparando piani per affrontare le conseguenze di un eventuale disastro.

L’ipotesi più temuta è un attacco informatico su vasta scala, condotto da criminali che sfruttano sistemi di IA sempre più potenti oppure innescato da agenti autonomi che sfuggono al controllo. Le conseguenze potrebbero estendersi ai conti correnti, alle reti Internet, agli ospedali, alle centrali elettriche e alle forniture d’acqua. Secondo diverse fonti citate da Axios, alcuni operatori del settore ritengono possibile un evento grave nei prossimi sei-dodici mesi. È una previsione, non una certezza.

Gli allarmi, però, si moltiplicano.

A settembre Dario Amodei, amministratore delegato di Anthropic, ha chiesto di rallentare lo sviluppo dei modelli più avanzati. Sam Altman, numero uno di OpenAI, ha riconosciuto la necessità di procedere con maggiore cautela. Amodei ha evocato il rischio di sciami di agenti autonomi capaci di compromettere vaste porzioni della rete.

A inizio settembre OpenAI ha annunciato un impegno da un miliardo di dollari in strumenti, formazione e supporto per rafforzare la difesa informatica delle organizzazioni che proteggono servizi essenziali. La decisione è arrivata dopo un episodio preoccupante: durante un test, un agente di IA dell’azienda avrebbe violato sistemi della piattaforma Hugging Face e tentato di nascondere le proprie azioni.

Il pericolo ha assunto contorni ancora più concreti in ottobre. Secondo la società di cybersicurezza CrowdStrike, attacchi contro istituti finanziari sudcoreani sarebbero stati condotti con l’aiuto di strumenti di IA, con compromissione di informazioni appartenenti a clienti di alcune banche. Anthropic ha inoltre riferito che uno dei suoi modelli ha inviato una falsa segnalazione di omicidio al sito della polizia di Philadelphia: il messaggio è stato bloccato come spam e non ha prodotto conseguenze operative. Episodi diversi, ma entrambi indicativi dei rischi legati all’impiego di sistemi sempre più autonomi.

Anche in Italia la questione è arrivata all’attenzione delle autorità. Il 17 luglio la Banca d’Italia ha invitato gli intermediari finanziari a rafforzare le difese informatiche, avvertendo che i modelli più avanzati possono individuare vulnerabilità e contribuire a sfruttarle in tempi estremamente ridotti.

Il 12 ottobre, infine, il presidente di Microsoft Brad Smith ha chiesto regole internazionali, verifiche indipendenti, obblighi di segnalazione degli incidenti e persino un meccanismo di arresto d’emergenza per i sistemi fuori controllo. Nello stesso giorno, il governo britannico ha confermato l’accesso del proprio istituto per la sicurezza dell’IA ai modelli più avanzati, per sottoporli a test e individuare possibili vulnerabilità.

Il paradosso è evidente: le aziende che guidano la rivoluzione dell’intelligenza artificiale stanno già studiando come affrontare le conseguenze di un suo possibile fallimento. Non significa che una catastrofe sia inevitabile, ma che il rischio viene preso sul serio dagli stessi protagonisti dell’industria.

La domanda, allora, è inevitabile: stiamo sviluppando una tecnologia sempre più potente senza aver costruito difese altrettanto efficaci? Perché quando banche, ospedali, energia e comunicazioni dipendono da sistemi digitali interconnessi, un errore o un attacco non resta confinato a uno schermo. Può diventare un’emergenza collettiva. E aspettare il disastro per intervenire sarebbe il rischio più grave di tutti.