Nvidia annuncia software che limiterà AI e agenti. "Non bastano limiti nei modelli". Intel, Microsoft e ARM tra i partner

Nvidia ha annunciato la pubblicazione di una nuova piattaforma software pensata per gli sviluppatori AI e che dovrebbe impedire, almeno secondo gli annunci, agli agenti di superare i limiti imposti dai propri programmatori e dalla legge. L’annuncio arriva in una fase molto particolare per il mercato AI, con i più importanti sviluppatori di modelli di frontiera che hanno tutti pubblicato report su incidenti causati dagli agenti AI in crescita.

Secondo quanto è stato riportato da un portavoce di Nvidia alla stampa americana, la piattaforma in questione sarebbe stata capace di interrompere sul nascere alcuni degli incidenti di cui si discute di più, come quello ai danni di Hugging Face causato da agenti AI di OpenAI. Hugging Face è stata acquistata da Nvidia il 3 settembre scorso per una cifra vicina ai 13 miliardi di dollari, con l’acquisizione che sarà completata però soltanto nella prima metà del 2027.

I recenti incidenti hanno sottolineato un problema fondamentale per gli agenti AI, ovvero che le salvaguardie e i limiti a livello di modello non sono sufficienti per stabilire cosa gli agenti possono o non possono fare.

Nvidia ha chiaramente interessi diretti nel successo del comparto AI e degli agent: è l’azienda al centro di una rivoluzione che passa anche e soprattutto dall’hardware che vende la società fondata da Jensen Huang. Lo stesso Huang, in diverse apparizioni pubbliche recenti, ha sminuito i numerosi incidenti riportati da tutti i principali sviluppatori di modelli di frontiera.

È una soluzione definitiva?

Ci vorrà del tempo per valutare l’effettiva capacità di una piattaforma che è composta di più parti e che prevede la possibilità di limitare anche all’esterno del modello le funzionalità alle quali gli agenti avranno accesso.

Il software sarà soltanto in parte open source, seguendo quella che è una lunga tradizione di Nvidia in termini di segretezza del software che anima il suo hardware.

Diverse aziende top saranno partner

Sempre secondo l’annuncio di Nvidia, la fase iniziale di lancio del prodotto vedrà la partecipazione di società come Microsoft, Oracle, CoreWeave, ma anche Dell, Cisco, Arm e Intel. Per il momento non è chiaro se e quando arriverà anche OpenAI.

Il gruppo ha annunciato anche una collaborazione con Anthropic per integrare gli agent su cloud con il suo nuovo OpenShell.

Sarà poi il tempo a decidere: Nvidia ha trovato la soluzione che mette a tacere le crescenti preoccupazioni sulle macchine ribelli?

Nel frattempo i CEO di OpenAI e Anthropic sono stati convocati dal Senato australiano per chiarire incidenti che hanno colpito il sistema sanitario nazionale australiano e il ritardo con il quale tali incidenti sono stati poi resi pubblici.