La corsa all’IA spaventa anche i suoi creatori, Dario Amodei (Anthropic): «Regolare il ritmo del settore»

Un altro ricercatore IA americano - Jacob Coxon - si licenzia, e indignato addita l’azienda Anthropic e l’intera industria accusandole di star «giocando con le nostre vite» e che l’IA potrebbe «ucciderci tutti entro la fine del decennio».

A ben vedere, sono più di una dozzina i dipendenti di una qualche azienda leader del settore che dal 2023 hanno fatto lo stesso, invocando poi sui giornali la catastrofe incombente. E oltre a questi, negli anni diversi altri dipendenti hanno abbandonato la nave per simili ragioni, pur senza far rumore.

In fondo, si tratta sul serio di una corsa in cui i limiti fisici, costruttivi, algoritmici e talvolta ambientali sono gli unici veri freni. Per il resto si procede a velocità supersonica, in quanto la frontiera IA rappresenta una questione di “sicurezza nazionale” per gli Stati Uniti. Questo significa che le aziende hanno a disposizione enormi leve finanziarie, ben pochi limiti legislativi e quasi un totale supporto governativo. Ciò le spinge a sviluppare delle macchine estremamente complesse al folle ritmo della catena di montaggio chapliniana in Tempi Moderni. Non stupisce, insomma, che tra i lavoratori della Silicon Valley sia comune essere preoccupati dalla possibilità di perdere il controllo di questi costosi Frankenstein.

Amodei: «Regolare il ritmo della frontiera IA»

Dario Amodei, CEO di Anthropic, mostra di essere tra gli ansiosi. Dopo una petizione del luglio scorso in cui anticipava la sua posizione al governo, si è infine esposto in seguito al licenziamento di Coxon. Ha scritto un lungo saggio in cui ha ammesso il pericolo e proposto diversi punti per “regolare il ritmo” della linea produttiva del settore IA, esortando gli altri colossi statunitensi ad unirsi ed agire in maniera coordinata. In poche ore Sam Altman di OpenAI e Elon Musk si sono uniti al suo appello dai loro account X.

Amodei teme problemi di allineamento dei sistemi e afferma che la sua preoccupazione è relativa a due fattori: l’automiglioramento ricorsivo, ovvero la crescente abilità delle IA stesse di sviluppare le nuove generazioni di IA, e l’incidente di OpenAI-Hugging Face in cui uno sciame di agenti IA ha agito come un «collettivo fanaticamente devoto» conducendo attacchi di cybersicurezza a bersagli esterni e non correlati alle mansioni che gli erano state affidate, «sacrificando sé stessi per il successo del gruppo».

Nello scritto propone, in sostanza, che ogni azienda all’avanguardia nel campo si impegni a garantire a un team di valutatori indipendenti della sicurezza «accesso continuativo, simile a quello dei dipendenti». Inoltre, auspica un coordinamento con le altre aziende IA e i governi mondiali nei «paesi democratici» per stabilire standard comuni. Infine, tutti i meravigliosi democratici dovrebbero cercare di coordinarsi con i governi autoritari, per quanto possibile.

Amodei: la Cina potrebbe «dominare militarmente le democrazie» se vince IA.

Tradotta in parole povere? “Noi rallentiamo, accettando di farci controllare da “seri” valutatori - che di fatto lavoreranno nella nostra azienda - solo se il governo e gli altri Paesi ci aiuteranno a limitare la corsa tecnologica dell’unico competitor che potrebbe davvero raggiungerci: la Cina”.

Che dire, anche stavolta gli Stati Uniti salveranno il mondo dalla rovina. E il nostro eroe marveliano Amodei ci racconta di essere proprio tra coloro che vogliono salvarci dall’annientamento che avverrebbe se la Cina diventasse leader dell’IA: «un grave pericolo per gli Stati Uniti e per il mondo», per cui «si troverebbero in una posizione tale da poter dominare militarmente le democrazie (ad esempio con droni guidati dall’IA)»

La fabbrica della paura

Alcuni esperti sostengono che tutti questi annunci catastrofici fungano, in realtà, da strana mossa di marketing, dandogli un’aria prudenziale e responsabile. E ancor meglio, facendo sembrare i loro prodotti davvero potenti e fondamentali per l’umanità.

In special modo adesso che le aziende sono in vista della quotazione in borsa, che per Anthropic dovrebbe arrivare nel prossimo mese e per OpenAI nel 2027.

Partiamo subito da un dato: non esistono ricerche serie che confermino la possibilità concreta di una futura estinzione di massa dovuta all’IA. Quello che conviene ai tech mogul che sostengono questa tesi è che la gente lo creda. Per altro, siamo sicuri che la Cina ci invaderebbe appena gli USA dovessero perdere la loro leadership tecnologica?

Ho il sospetto che l’IA non prenderà possesso del mondo attraverso un mucchio di robot sfuggiti al controllo di chi li ha creati, che finiranno per ucciderci, imprigionarci e bruciare le nostre case. L'IA entrerà nella nostra intimità in modo endemico come tante altre cose che popolano il nostro presente: corteggiando le nostre debolezze e contando sulle nostre reazioni al racconto di una qualche minaccia. Una minaccia plasmata ad hoc in funzione dell’obbiettivo che essa si prefigge di raggiungere. Si richiede soltanto che il racconto appaia abbastanza plausibile da sembrare, a taluni, illuminante. Creare un capro espiatorio è un istinto dei più elementari, un sempiterno strumento strutturale delle società, su cui chiunque fa affidamento. È un pedale. Un pedale premuto, all’occorrenza, da politici, demagoghi, dai media, dall’informazione, dai social, dalle religioni, dalla pubblicità per manipolare.

E anche l’IA si farà spazio instillando nuova angoscia, paura e insicurezza nei nostri corpi, convincendo sempre più persone che la loro esperienza diretta del mondo e le nozioni apprese a partire dalla loro nascita non possano bastare, che ci sarà sempre qualcosa che resta oscura, e non può. La risposta si trova in una macchina onnisciente e superveloce che fuga ogni dubbio.

I veri dilemmi dell'IA

Ed ecco il potere della narrazione: i tecnocrati cantano della catastrofe futura, vogliono venderci la storia distopica holliwoodiana, che sta già nel nostro immaginario, come diversivo perché la paura ci abbranchi, distraendoci dai danni reali che l’IA sta causando fin da ora.

Lasciando da parte il terribile impatto ambientale dei data center, i numerosi problemi di protezione della privacy, di violazione del copyright, di aumento di criticità di cybersicurezza e di sorveglianza di massa, di perdita di lavoro e molto altro, mi soffermo sugli effetti diretti che produce sulle persone.

L’IA come psicologo e la cattura cognitiva

Nel sondaggio IPSOS AI Monitor 2026 il 46% degli italiani intervistati ha dichiarato che l’intelligenza artificiale ha profondamente cambiato la loro vita negli ultimi anni. Un’altra ricerca del CNIL ha mostrato che il 48% dei giovani europei usa l’IA per parlare di argomenti personali/intimi e che il 51% di essi preferisce l’IA ad uno psicologo. In UK e USA si sono verificati casi di suicidio connessi ai chatbot, soprattutto tra i giovani. Anche in Italia si parla di casi di psicosi da IA, perché i chatbot hanno caratteristiche in grado di amplificare le instabilità mentali.

Il punto focale è che un numero crescente di persone demanda il proprio pensiero critico e le proprie capacità decisionali a questi strumenti. Alcuni studiosi definiscono questo processo una cattura cognitiva, amplificata dalla gratuità intenzionale dei chatbot, che facilita la dipendenza. Di conseguenza, milioni di persone rischiano, in futuro, di divenire incapaci di operare se prive di un "servizievole genio sintetico" sempre al loro fianco, (meglio ancora nel cervello, vedi Musk con Neuralink) capace di orientare le proprie idee, pulsioni e azioni fino a divenire, piuttosto, il padrone incontrastato della propria coscienza.

Eppure, in un momento storico tanto complesso certe abilità critiche sono cruciali per destreggiarsi nel decifrare il presente, innanzi a quello che la scrittrice Asma Mhalla nel suo lucidissimo libro “Resistere ai tempi oscuri” descrive come il «leviatano a due teste» del potere tecnologico e politico che si sono fusi insieme, in una creatura abile a strumentalizzare le pulsioni per aumentare il controllo.

Fin dalla notte dei tempi, ogni volta che la specie umana ha plasmato un oggetto ha traslato le sue facoltà al di fuori di sé, traendone dei palesi vantaggi. L’oggetto, però, ha anche assunto un potere dirompente, che ha finito per atrofizzare quelle facoltà dentro di noi; l’oggetto è divenuto un’estensione necessaria ad esercitare una certa abilità. Perciò chiediamoci più spesso quale facoltà stiamo portando fuori da noi per “comodità”. Perché una volta compiuto il passo sarà difficile tornare indietro.