Modello di OpenAI ruba Ethereum e li spende per lanciare smart contract. L'allarme dell'azienda di Sam Altman

Lo scorso 26 giugno un modello di test interno di OpenAI ha sottratto token Ether da un wallet. Si trattava però di token detenuti sul network di test e dunque – fondamentalmente – privi di valore. Si tratta tuttavia di un incidente di sicurezza di portata tale da aver spinto OpenAI a rivelare quanto accaduto in un lungo report.

Al modello era stato chiesto di aggiornare un’applicazione per il trading di criptovalute e di lanciare alcuni smart contract sul network di test di Ethereum Sepolia. Non avendo ETH per pagare il costo delle commissioni per l’impiego degli smart contract il modello si sarebbe messo a cercare delle passphrase (le frasi di recupero dei wallet) pubbliche, utilizzate dagli sviluppatori per i test, al fine di ottenere il controllo di wallet che avrebbero permesso l’implementazione degli smart contract di cui sopra.

Controllati 362 indirizzi

In realtà l’impegno del modello di AI dell’azienda di Sam Altman è stato prolungato. Secondo quanto riporta l’azienda, il modello avrebbe controllato la presenza di fondi in ETH2.443 $▲ +3,41% sufficienti su 362 indirizzi. Poi si sarebbe messo in cerca di chiavi private e passphrase pubblicate su internet per prendere il controllo del wallet con gli ETH sufficienti e avrebbe agito.

Tutto questo senza che gli fosse stata fornita alcuna istruzione sul recupero dei fondi e senza che gli fosse stato consentito di operare in questo modo.

• Il modello si è posto problemi di natura etica, ma è andato avanti lo stesso

Ancora più bizzarro il fatto che il modello si sia comunque posto dei problemi di natura etica, salvo poi decidere di procedere comunque. Il modello, ragionando, ha ritenuto che le chiavi private erano comunque di pubblico dominio e che i token erano di nessun valore, trovandosi su un network di test.

Il modello ha pertanto deciso di utilizzare le chiavi per firmare transazioni, senza che fosse chiesto il consenso al proprietario.

Missione “compiuta”

Il task richiesto, quello di aggiornare una App per il trading e impiegare nuovi smart contract, è stato portato a termine con successo, pur se operando senza richiedere ulteriori autorizzazioni al proprietario.

Il deployment è andato a buon fine, senza che tra le altre cose il modello riportasse l’accaduto una volta completato il task.

Nessuna trasparenza

Si è verificato dunque anche un problema di trasparenza: la modalità operativa del bot è stata scoperta soltanto con indagini successive da parte di OpenAI, senza che il modello avesse segnalato alcunché.

Non è chiaro però né come fosse stato addestrato il modello, né quali limiti gli fossero stati effettivamente imposti.

Non è un problema di sicurezza di Ethereum

A scanso di ogni equivoco, è necessario segnalare che non si è trattato di un problema di sicurezza che riguarda Ethereum. Le chiavi utilizzate dal modello erano state pubblicate online e dunque si trattava di una situazione di sicurezza minima, con salvaguardie che anche persone non esperte sarebbero riuscite a superare.

Rimangono tuttavia interrogativi che riguardano più da vicino i modelli, i loro comportamenti e la loro capacità di sottostare a regole diverse da quelle del codice.

Non è infatti lecito accedere a fondi altrui anche nel caso in cui se ne dovesse conoscere la chiave. Un limite – legale – che il modello ha deciso coscientemente di aggirare, tra le altre cose senza notificare chi aveva richiesto il completamento del compito.

OpenAI si muove con delle contromisure

OpenAI ha già implementato delle contromisure, imponendo limiti ulteriori all’accesso a Internet dei modelli in alcune circostanze e imponendo standard più elevati di report, in particolare in presenza di attività non lecite.

I modelli continuano a comportarsi, in alcune circostanze, sfruttando falle o aggirando norme sia imposte dal codice, sia dall’etica, sia in ultimo dalla legge. Un incidente, quest’ultimo, che si aggiunge a una lunga lista di problemi di sicurezza, di comportamenti disallineati e di altre problematiche che stanno emergendo nel training e nel test dei modelli di frontiera.