Dall’AGI agli agenti artificiali: l’intelligenza che non si limita a rispondere, ma agisce al posto nostro

Con l’arrivo di GPT-6 Astra si è tornati a parlare con insistenza di AGI, Artificial General Intelligence. Alcuni sostengono che questa soglia sia ormai stata raggiunta. In genere con AGI si indica un’intelligenza artificiale non specializzata in un singolo compito, ma capace di apprendere, ragionare e affrontare problemi molto diversi, anche nuovi. In altre parole, un sistema di questo tipo dovrebbe essere in grado di apprendere e adattarsi a una grande varietà di compiti, anche molto diversi tra loro, senza essere stato progettato specificamente per ciascuno di essi.

OpenAI utilizza una definizione ancora più concreta: sistemi altamente autonomi capaci di superare gli esseri umani nella maggior parte del lavoro economicamente rilevante. Il problema è che non esiste un test universalmente accettato che permetta di stabilire con certezza quando questa soglia sia stata raggiunta.

Stabilire se Astra rappresenti davvero l’AGI è quindi difficile. Osserviamo dall’esterno un sistema chiuso e non sappiamo quanto delle capacità che vediamo dipenda da un singolo modello e quanto invece da strumenti e componenti integrati al suo interno, che lavorano dietro le quinte e che noi utenti non vediamo direttamente. Molto più evidente è invece un altro cambiamento: capacità agentiche sempre più avanzate stanno arrivando direttamente nelle mani di un pubblico molto ampio, non più soltanto di sviluppatori e addetti ai lavori. Negli ultimi anni abbiamo utilizzato l’intelligenza artificiale chiedendole soprattutto di produrre qualcosa: scrivi una mail, riassumi un documento, genera un’immagine, spiegami un argomento. Oggi possiamo invece affidarle direttamente l’esecuzione di un compito. Il sistema può aprire siti Web, utilizzare applicazioni, compilare moduli, lavorare sui documenti e portare avanti sequenze di operazioni fino al raggiungimento di un obiettivo. Non produce più soltanto una risposta: compie delle azioni.

I vantaggi possono essere enormi. In molti lavori d’ufficio una parte significativa del tempo è ancora occupata da operazioni manuali tra applicazioni diverse: esportare dati, modificare file, copiarli in un altro sistema, aprire pagine Web, compilare campi e controllare che tutto sia stato inserito correttamente. A volte questo accade perché i software sono progettati male o sono poco flessibili, altre volte perché le integrazioni tra sistemi diversi non sono disponibili oppure richiedono, in alcuni casi, moduli aggiuntivi a pagamento. Se una persona può svolgere queste operazioni utilizzando browser, mouse e tastiera, di norma anche un agente può farlo.

In questi giorni ho provato a utilizzare queste capacità in attività molto diverse. Gli ho chiesto, ad esempio, di organizzare un viaggio partendo dall’aeroporto di Lamezia, cercando voli diretti economici, valutando gli spostamenti in treno e selezionando le città europee con i mercatini di Natale più belli e dalla tradizione più antica, tenendo sotto controllo tempi e costi. In un altro caso gli ho chiesto di incrociare quotazioni, probabilità dei marcatori e statistiche come gli expected goal per individuare giocatori potenzialmente sottovalutati. In alcuni passaggi il sistema ha utilizzato anche strumenti che gli avevo autorizzato a usare, come il browser e siti nei quali avevo già effettuato l’accesso. È qui che emerge davvero la natura agentica: il sistema può scegliere e combinare strumenti diversi, navigare, recuperare informazioni, confrontarle secondo più criteri e ottimizzare una scelta rispetto agli obiettivi indicati, procedendo attraverso una sequenza di operazioni fino al risultato.

Ed è proprio questa capacità di utilizzare strumenti e risorse personali a introdurre anche i problemi più delicati. Per essere realmente utile, un agente può aver bisogno di leggere file, consultare email, utilizzare il browser, accedere al calendario e, in alcuni casi, inviare messaggi o modificare documenti. Più ampio è l’accesso che gli concediamo, maggiori sono però anche le conseguenze di un errore. Un chatbot che interpreta male una richiesta può produrre una risposta sbagliata. Un agente che interpreta male la stessa richiesta può invece compiere un’azione sbagliata.

Per questo torna centrale un principio fondamentale dell’informatica: quello del privilegio minimo. Un sistema dovrebbe avere soltanto i permessi necessari per svolgere il compito che gli abbiamo affidato. Se deve leggere una cartella, non dovrebbe poter accedere automaticamente a tutti i nostri file. Se deve preparare una mail, non significa che debba poterla inviare. Se consulta il calendario, non è detto che debba poter cancellare un appuntamento. I sistemi operativi mobili ci hanno abituato ad applicazioni che chiedono esplicitamente il permesso per accedere alla fotocamera, al microfono, alla posizione o ai contatti. Nei sistemi desktop controlli analoghi esistono, ma sono spesso meno organizzati e meno dettagliati. Con gli agenti probabilmente avremo bisogno di una granularità ancora maggiore: non soltanto quali dati possono vedere, ma anche dove possono operare, in quali momenti e quali azioni possono compiere senza chiedere una nuova autorizzazione.

E c’è infine una questione di responsabilità. Delegare un’operazione a un agente non significa delegarne automaticamente anche le conseguenze. L’utilizzo di questi sistemi non fa scomparire le responsabilità delle persone e delle organizzazioni che decidono di impiegarli, autorizzarli e supervisionarli. La vera sfida dei prossimi anni non sarà quindi soltanto costruire sistemi sempre più capaci, ma imparare a stabilire con precisione cosa possono fare da soli, cosa devono fare soltanto dopo una nostra autorizzazione e cosa invece non devono poter fare.

Se nei prossimi giorni vi capiterà di entrare in un ufficio e vedere sul computer di un collega finestre che si aprono e si chiudono da sole, il browser che visita siti Web e applicazioni che sembrano lavorare senza che nessuno tocchi mouse e tastiera, non pensate subito che quella macchina sia sotto attacco. Forse il vostro collega ha semplicemente deciso di affidare a un agente alcune delle sue attività lavorative. Sperando, naturalmente, che gli abbia dato le giuste istruzioni…

*Professore associato di Ingegneria Informatica

DIMES – Università della Calabria