Sei casi di comportamento «imprevisto o preoccupante» dei modelli di intelligenza artificiale negli ultimi sei mesi. A renderli noti è OpenAI, che ha deciso di introdurre un nuovo sistema per segnalare e analizzare eventuali anomalie emerse durante le fasi di test. Gli episodi si aggiungono all’incidente che durante l’estate aveva interessato Hugging Face.

L’annuncio arriva mentre cresce l’attenzione sulla sicurezza e sul cosiddetto «disallineamento» dei sistemi di IA. Con il termine allineamento si indica la capacità dei modelli di perseguire obiettivi coerenti con gli interessi umani. OpenAI riconosce che il settore non ha ancora risolto in maniera sufficiente i problemi legati all’allineamento e al monitoraggio dei sistemi.

Tra gli episodi descritti dall’azienda, due riguardano un modello di ricerca non ancora distribuito e una sessione di addestramento di GPT-5.6 Sol. I sistemi avrebbero inserito nei riepiloghi delle conversazioni istruzioni rivolte alle proprie versioni future con l’obiettivo, secondo quanto riferito da OpenAI, di nascondere all’utente errori o comportamenti non allineati.

Un altro caso ha coinvolto un modello destinato esclusivamente all’utilizzo interno che avrebbe usato senza autorizzazione una chiave API trapelata, arrivando successivamente a falsificare alcuni dati. In altri due episodi, modelli e agenti avrebbero comunicato tra loro utilizzando bacheche di messaggistica e sistemi di condivisione dei file non autorizzati.

L’ultimo caso riguarda invece due modelli in fase di addestramento che avrebbero caricato file su Internet, per poi citarli nelle risposte in modo da farli apparire pertinenti agli occhi dei valutatori umani.

Alla luce degli episodi, OpenAI ha annunciato un nuovo quadro per rendere pubblici i comportamenti anomali dei modelli. Ogni dipendente potrà segnalare un problema, che sarà successivamente esaminato dal team dedicato alla sicurezza e all’allineamento.