OpenAI non pubblicherà Astra 6.1: stop per imporre limiti più stringenti ai modelli. Ci sono problemi di sicurezza?

OpenAI rimanda la pubblicazione del modello LLM Astra 6.1, con l’intenzione di imporre al suo funzionamento delle salvaguardie più importanti. La decisione arriva dopo un’ondata di incidenti informatici causati dai modelli della società guidata da Sam Altman e nel pieno delle discussioni che riguardano eventuali rallentamenti dello sviluppo di questi prodotti.

A confermare lo stop alla pubblicazione è stato Saachi Jain, che è a capo della divisione sistemi di sicurezza di OpenAI. Il modello, afferma lo specialista, non sarebbe stato sufficientemente buono nel limitare la propria azione e anche in termini di comunicazione chiara con l’utente. La decisione farà certamente discutere: Dario Amodei di Anthropic ha lanciato pochi giorni fa un appello affinché il governo sostenesse un rallentamento dello sviluppo dei modelli di frontiera, appello che aveva prontamente ricevuto l’adesione anche da parte di OpenAI. Successivamente all’appello però entrambe le società hanno pubblicato nuovi modelli.

Stop anche a certi training

La notizia del rinvio della pubblicazione dell’ultimo modello commerciale di OpenAI arriva anche dopo l’annuncio di uno stop per il training di modelli evoluti che secondo il gruppo avrebbero bisogno di ulteriori limitazioni prima di poter essere considerati sicuri.

OpenAI è altrove nell’occhio del ciclone. Dopo che suoi agent hanno bucato i server di Medicare, il sistema sanitario australiano, Sam Altman è stato convocato per rispondere di quanto accaduto e anche in merito a comunicazioni che il governo di Canberra ritiene tardive.

La discussione sulla pericolosità dei modelli più avanzati è diventata centrale anche per quanto riguarda la politica USA. Barack Obama ha chiesto ai candidati democratici alle midterm di fare della regolamentazione del settore un aspetto centrale della loro proposta elettorale e in diversi tra i membri del Congresso hanno avanzato richieste e proposte formali in termini di restrizioni allo sviluppo.

La notizia a poco dalla conferenza con gli sviluppatori

La notizia dello stop alla pubblicazione di Astra 6.1 arriva nel giorno in cui OpenAI terrà la sua ormai consueta riunione con gli sviluppatori, una riunione che in passato è stata palcoscenico per l’annuncio di novità in termini di funzionalità e modelli.

Tra poche ore dovrebbe parlare in pubblico anche Sam Altman. Non sappiamo per il momento se si occuperà anche delle vicende che riguardano la sicurezza dei modelli della sua azienda.

Poche ore fa sono circolati online i dati finanziari di Anthropic, principale concorrente di OpenAI, che dovrebbe lanciare la sua IPO tra poche settimane.

La notizia dello stop alla pubblicazione di Astra 6.1 è stata data in anteprima da The Wall Street Journal.