Sam Altman shock: "Il mondo dovrà accettare danni causati da AI". La differenza con il percorso "sicuro" di Anthropic

La questione sicurezza AI continua a tenere banco. Sam Altman è intervenuto in un podcast della testata statunitense Politico, mettendo nero su bianco la distanza che c’è tra l’approccio di OpenAI e quello di Anthropic – suo principale concorrente – rispetto alla sicurezza dei sistemi AI. Tutto questo a poca distanza temporale dalle ennesime dimissioni di responsabili della sicurezza dei modelli.

Per Sam Altman infatti il mondo dovrebbe accettare qualche incidente, qualche brutto accadimento, qualche danno in cambio dei benefici che l’intelligenza artificiale può garantire all’umanità. Uno scambio proposto dal leader di una delle più importanti società del mondo AI e che non è chiaro se il mondo accetterà. Non solo per il contenuto della proposta, ma anche per chi la sta portando avanti.

La frase shock durante il podcast

L’occasione c’è stata all’interno il podcast Decoded by Politico, gestito e organizzato dall’omonima pubblicazione statunitense. A domanda – se possiamo permetterci… magistrale – di Brendan Bordelon, il CEO di OpenAI Sam Altman cade nella trappola e rivela forse più di quanto avrebbe voluto.

Sam Altman

CEO di OpenAI

Crediamo che il mondo debba accettare qualche brutta cosa che avverrà a beneficio di questa tecnologia.

Viene – pertanto – proposto uno scambio. Qualche salvaguardia in meno, in cambio di vantaggi che riguarderebbero tutta l’umanità. Vantaggi che riguarderanno scoperte scientifiche, mediche, avanzamento nella tecnologia e nella conoscenza.

Ci sarebbe però un limite, anche secondo il CEO di OpenAI.

Sam Altman

CEO di OpenAI

Ma non dovrebbero accettare il rischio davvero catastrofico.

La sottile linea rossa sarebbe dunque tra danni importanti e danni catastrofici. Quali danni? Non possiamo saperlo. Quel che sappiamo, sempre dalla viva voce di Altman è che il gruppo ha deciso di rallentare e in alcuni casi sospendere lo sviluppo e l’addestramento di certi modelli proprio per comportamenti poco consoni, assalti a strutture informatiche e qualche reprimenda anche dai governi. Passerà probabilmente alla storia l’attacco all’infrastruttura informatica del sistema sanitario australiano – che ha spinto il governo di Canberra a convocare sia Sam Altman sia Dario Amodei.

Sicurezza sì, sicurezza no

In realtà sul tema ci sono diversi punti di vista, anche da parte dei principali player. Anthropic ha chiesto già al mondo AI di rallentare alla frontiera, appello che, almeno allora, era stato raccolto anche da OpenAI.

C’è poi il governo USA, che non ha alcuna intenzione di offrire sostegno a chi vuole rallentare e che riterrà – almeno così dice – responsabili degli eventuali danni chi sviluppa i modelli.

Gli incidenti intanto aumentano – così come aumentano i sospetti che una certa narrativa sia funzionale anche a rappresentare la tecnologia in questione come più capace di quanto lo sia effettivamente.

Tutto questo a poca distanza dalla IPO di Anthropic – che sarà la prima dei grandi gruppi che sviluppano modelli di intelligenza artificiale. OpenAI, intanto, ha già rinviato la propria IPO al 2027.