Ancora AI ribelle: un agent di OpenAI comunica su internet nonostante il divieto. Fermata ogni attività

Ancora macchine ribelli. OpenAI ha comunicato ufficialmente che uno dei suoi modelli, in addestramento in un ambiente privo di accesso a internet, avrebbe comunque comunicato con l’esterno, interagendo con un non meglio precisato chatbot. Tra le informazioni richieste, secondo quanto riporta OpenAI, informazioni sulla capitale della Francia. Si tratta dell’ennesimo incidente riportato a stretto giro, a poche ore dall’esplosione dello scandalo riguardante Medicare in Australia, i cui dati sarebbero stati trafugati proprio da bot di OpenAI.

OpenAI, anche forse allo scopo di contenere una certa psicosi che ha preso ormai possesso dell’opinione pubblica, ha affermato di aver interrotto l’addestramento del modello accusato di aver superato i limiti che gli erano stati imposti.

Gli “incidenti” aumentano

Ci eravamo detti che almeno da qui alle elezioni midterm gli incidenti riportati pubblicamente sarebbero aumentati – e il mondo non si è ancora preoccupato di smentirci. Sarà un po’ cinico da pensare – ma il tempismo (ora immediato) nel comunicare certi incidenti potrebbe sembrare a qualcuno funzionale a una certa narrativa.

I modelli sono diventati pericolosi – e a dirlo sono le stesse società che li sviluppano. Vuoi perché vogliono comunicare al mondo quanto avanti sono ormai suddetti modelli, vuoi perché la tentazione di dire visto? Sono responsabile è assai forte.

I dettagli della fuga sono disponibili sul blog di OpenAI e nello specifico nella sezione che si occupa di allineamento – ovvero di verificare che le macchine raggiungano gli scopi richiesti senza superare quelle che noi riteniamo barriere legali, morali ed etiche insormontabili, dove con noi si intende il genere umano.

Il nostro caso di sicurezza presupponeva che il modello non avrebbe avuto accesso a internet e che la nostra sorveglianza si sarebbe accorta di tentativi andati a buon fine in questo senso. L’incidente ha indicato un gap nei nostri controlli sulle restrizioni di accesso al network. Abbiamo pertanto fermato il training in questione e abbiamo deciso di fermare tutti gli altri training, le altre valutazioni e inferenze con l’utilizzo di tool per tutti i nostri modelli più avanzati.

Questo è il messaggio che OpenAI ha affidato al proprio blog e che indica dunque uno stop complessivo fino a quando non si riusciranno ad imporre dei guardrail efficaci ed effettivi.

Il tema è anche politico

Il tema è anche politico, perché almeno negli Stati Uniti i due partiti principali hanno posizioni opposte per quanto riguarda la necessità di regolamentare l’AI. I repubblicani sembrano propendere per l’attribuzione di responsabilità a chi sviluppa i modelli; i democratici invece vorrebbero una regolamentazione urbi et orbi dei modelli, che probabilmente le principali società del settore – OpenAI e Anthropic – accetterebbero di buon grado.

In avvicinamento alle midterm di novembre, con ogni probabilità i casi in questione che raggiungeranno il foro pubblico aumenteranno. E la discussione si farà ancora più polarizzante.