Anthropic e OpenAI: Dario Amodei e Sam Altman convocati per rispondere degli incidenti davanti al Senato australiano

Dario Amodei e Sam Altman dovranno comparire davanti al Senato dell’Australia, che ha aperto un’indagine sul recente caso di hack dei database del sistema sanitario pubblico. Si tratta dell’incidente di più alto profilo politico mai riportato, con il primo ministro australiano Anthony Albanese che ha condannato non solo l’accaduto, ma anche il ritardo con il quale OpenAI lo avrebbe comunicato alle autorità competenti.

Il Senato di Canberra ha già inviato richieste formali di comparizione ai CEO di OpenAI e Anthropic, secondo quanto è stato comunicato dalla portavoce della senatrice Sarah Hanson-Young, che è a capo dell’inchiesta.

Il caso Medicare

Durante l’estate, alcuni agenti di OpenAI hanno ottenuto accesso a documenti di Medicare, il sistema sanitario pubblico australiano. L’incidente è stato riportato con ritardo dall’azienda di Sam Altman, scatenando le ire delle massime autorità australiane non soltanto per l’attacco, ma anche per la scarsa tempestività delle comunicazioni.

Anthony Albanese ha dichiarato pubblicamente di ritenere inaccettabile il comportamento della società che sviluppa modelli AI di frontiera, anticipando almeno in parte che l’attacco avrebbe avuto conseguenze anche politiche.

Le prime conseguenze politiche sono già arrivate: è stata creata una commissione d’inchiesta presso il Senato australiano, che si occuperà di indagare l’accaduto e di raccogliere ulteriori informazioni. L’incidente – riporta Reuters – potrebbe spingere il governo a una regolamentazione ancora più restrittiva delle leggi sull’AI che verranno sottoposte al parlamento per l’approvazione il prossimo anno.

Arriva uno scoop di Axios che rincara la dose

Poche ore dopo l’annuncio del Senato australiano è stato pubblicato uno scoop di Axios che parla di indagini interne da parte dei ricercatori di OpenAI e Anthropic su decine di migliaia di incidenti che riguardano comportamenti dei modelli di frontiera sviluppati dalle due aziende.

Lo scoop mette in dubbio la capacità delle due società di controllare anche a livello generale il comportamento delle tecnologie che stanno sviluppando. Sempre secondo Axios, diversi incidenti non sono stati ancora resi pubblici.

Venerdì la stessa OpenAI aveva annunciato lo stop allo sviluppo e al testing di alcuni modelli di frontiera, sempre a causa di comportamenti anomali durante le fasi di test. Nel caso specifico, un modello avrebbe comunicato con non meglio precisati chatbot esterni nonostante gli fosse precluso l’accesso a internet.

L’accelerazione degli incidenti e del loro impatto pubblico arriva in una fase molto particolare della discussione sull’intelligenza artificiale e sui limiti che le andrebbero imposti anche a livello politico. Poco meno di un mese fa il CEO di Anthropic, Dario Amodei, aveva chiesto al governo di intervenire affinché fosse rallentato lo sviluppo di modelli di frontiera almeno fino a quando non fossero disponibili dei recinti efficaci per contenere comportamenti non allineati.

Il tema dei comportamenti dell’intelligenza artificiale è inoltre centrale per la campagna elettorale per le elezioni midterm negli Stati Uniti. Il governo USA non ha alcuna intenzione di rallentare, l’opposizione invece sta provando a cavalcare scontento, psicosi e anche questo tipo di notizie.