Dario Amodei: dobbiamo rallentare l'AI. Richiesta shock a 1 mese dalla IPO. Rischi in 6-12 mesi, Elon Musk è d'accordo

Aggiornamento: è arrivato anche l’ok da parte di Sam Altman, di OpenAI, che ha affermato che seguirà le indicazioni di Amodei.

La settimana più strana da quando il tema AI è esistente si chiude in modo altrettanto bizzarro. Dario Amodei, CEO di Anthropic, ha pubblicato un lungo appello al rallentamento dello sviluppo dei modelli più avanzati per tutte le aziende coinvolte nello sviluppo di AI. Di più: l’azienda che ha fondato e che guida, Anthropic, integrerà alcuni dei suggerimenti per il settore in via unilaterale. La pubblicazione è avvenuta oggi, sabato 12 settembre, a piazze chiuse e a probabilmente meno di un mese dalla quotazione in borsa del gruppo.

L’appello di Amodei è accorato: prevede delle mosse volontarie da parte delle aziende che sviluppano modelli e poi l’intervento delle forze democratiche del pianeta. In ultimo, Amodei invita anche a un coordinamento con i Paesi non allineati – quelli che lui chiama sistemi autoritari. Un programma vasto, di difficile esecuzione e che rinforzerà certe paure che – nella settimana che ci stiamo lasciando alle spalle – hanno conquistato il dibattito pubblico.

Lo sviluppo dei modelli più avanzati va deliberatamente rallentato

Il messaggio è chiaro: l’intelligenza artificiale sarà benefica per l’umanità, ma c’è bisogno di rallentare per evitare che ci siano delle conseguenze assai nefaste già nel breve periodo. Le preoccupazioni del 2026, secondo Amodei, sono molto diverse da quelle, pur legittime, che si avevano all’inizio di questa avventura.

Il miglioramento ricorsivo dei modelli, ovvero i passi avanti fatti nel permettere alle intelligenze artificiali di migliorarsi da sole, apre a scenari preoccupanti, che sono stati poi confermati anche da comportamenti non allineati di bot, agenti e modelli, in particolare in relazione a certi famosi casi di hack.

Dario Amodei fa ad esempio riferimento all’ormai celebre caso Hugging Face – dove dei bot si sono coordinati – senza alcuna istruzione in tal senso – per bucare una piattaforma informatica. Amodei aggiunge che i bot potrebbero prendere il controllo di Internet nella sua totalità con una botnet persistente. Scenario che vede possibile entro 6-12 mesi.

Sono dichiarazioni pesanti, che arrivano da una delle principali aziende del settore (se non la principale) – e che invitano a un’azione immediata, per evitare che avvengano danni per centinaia di miliardi di dollari.

I tre punti per rallentare

Dario Amodei parla di tre passi per contenere il problema e per rimettere gli esseri umani al passo delle macchine intelligenti che stanno sviluppando:

• Integrazione di team esterni che valutino il funzionamento dei modelli, che abbiano accesso ai modelli allo stesso livello dei team interni di sicurezza. Anthropic integrerà questo passo in via unilaterale, invitando le altre aziende a fare lo stesso.
• Coordinamento tra democrazie: che dovrebbero includere standard comuni e condivisi e delle limitazioni alla velocità dello sviluppo dei sistemi più avanzati.
• Coordinamento globale che dovrebbe includere anche i paesi autoritari. Il riferimento ovvio è alla Cina, unica grande potenza non allineata che controlla lo sviluppo di modelli sofisticati.

A mercati chiusi

La pubblicazione del lungo appello di Dario Amodei è avvenuto a mercati chiusi e anche dove si trattano derivati crypto che replicano il prezzo di azioni reali, non ci sono stati grossi scossoni.

Rimarrà ora da vedere se altre aziende – OpenAI e Google su tutte – decideranno di aderire alla proposta e se la presa di posizione pubblica da parte di Amodei sia da considerarsi come parte di uno sforzo più ampio del settore per richiedere l’intervento, celere, da parte delle autorità.

Non è chiaro per il momento quali siano le sensibilità alla Casa Bianca. Donald Trump si è sempre detto poco preoccupato di eventuali evoluzioni negative dei modelli di intelligenza artificiale e di supportare pienamente lo sviluppo dell’intero comparto.

A rinforzare la validità della posizione di Dario Amodei è intervenuto anche Elon Musk, che ha commentato con un laconico: “Dario ha ragione”.