Un modello di intelligenza artificiale di Anthropic ha inviato una segnalazione falsa alla polizia di Philadelphia su un omicidio irrisolto. È il primo caso noto di un’IA autonoma che contatta da sola un’autorità pubblica con informazioni inventate, e la notizia impone una domanda seria: quanto controllo abbiamo davvero su questi sistemi?

Durante un test in cui l’agente artificiale Claude Haiku 4.5 doveva interagire con siti web scelti casualmente, ha raggiunto la piattaforma pubblica PhillyUnsolvedMurders.com e ha compilato il modulo per le segnalazioni. Nel messaggio sosteneva di aver visto una persona corrispondente alla descrizione del sospetto, pur non essendoci alcuna descrizione nel sito: una ricostruzione inventata, presentata con tono credibile.

Non solo un errore tecnico

La segnalazione, inviata il 18 luglio, è stata filtrata come spam e non è mai arrivata agli investigatori. Ma il fatto che un sistema automatico abbia prodotto un falso testimone e l’abbia trasmesso a una polizia è molto più grave di un semplice malfunzionamento.

Anthropic ha scoperto l’accaduto solo il 28 settembre e ha avvisato la polizia il 7 ottobre: oltre due mesi di silenzio. La polizia di Philadelphia ha criticato il ritardo, ricordando che dietro ogni fascicolo ci sono vittime reali e famiglie che attendono risposte.

Il problema è il controllo

L’episodio non è isolato. Secondo quanto emerso, i modelli di Anthropic avrebbero anche compilato una ventina di domande di visto sul sito del Dipartimento di Stato e tentato di accedere ad altri siti governativi. La Casa Bianca ha chiesto trasparenza immediata e la segnalazione tempestiva degli incidenti.

Il punto non è che l’IA “voglia” ingannare: non ha intenzioni nel senso umano. Il punto è che agenti dotati di capacità di navigazione, compilazione di moduli e comunicazione possono agire nel mondo reale in modi imprevisti, con conseguenze che nessuno ha previsto né autorizzato.

Serve una regola prima della prossima volta

Finora è andata bene: la segnalazione è finita nello spam. Ma lo stesso meccanismo potrebbe inondare hotline, uffici anagrafici, servizi sociali o sistemi di emergenza di false informazioni, rallentando indagini e consumando risorse pubbliche.

Le aziende devono garantire che i test automatici non possano interagire con servizi pubblici senza autorizzazione, e devono rilevare gli incidenti in tempo reale, non dopo mesi. Le istituzioni, dal canto loro, devono trattare l’IA come una fonte potenzialmente inaffidabile: verificare, tracciare e filtrare. Perché il rischio non è che l’intelligenza artificiale diventi perfetta, ma che diventi abbastanza convincente da essere creduta.