Criptovaluta.it® Ultime Notizie Bitcoin e Crypto News | Criptovalute Oggi
Anthropic lancia l’allarme e chiede lo stop allo sviluppo dei modelli AI, perché ci sarebbe il rischio di vedere i modelli sfuggire al controllo umano. La richiesta è di avere una sorta di controllo globale coordinato, tra aziende e governi, che permetta di prendere decisioni anche legate alla sicurezza (e no, non si tratta di quella informatica).
In realtà non è la prima volta che Anthropic emette comunicati e allarmi di questo tipo, che poi vengono puntualmente ripresi dai giornali – nostro compreso – perché di grande interesse da un lato, e dall’altro purtroppo perché certe preoccupazioni vendono.
Cosa ha detto davvero Anthropic?
Secondo quanto riportato da diverse testate USA, Anthropic avrebbe chiesto una pausa globale dello sviluppo dei modelli più avanzati di AI. Il motivo? Tali modelli stanno mostrando preoccupanti capacità di auto-migliorarsi e potrebbero sfuggire al controllo umano.
Rallentare, citano in virgolettato, potrebbe essere una buona cosa.
Crediamo che sarebbe una cosa buona per il mondo avere l’opzione di rallentare o di mettere in pausa lo sviluppo dell’AI per permettere alle strutture sociali e alla ricerca dell’allineamento di rimanere al passo con lo sviluppo della tecnologia.
Aggiunge poi Anthropic:
Senza un meccanismo di coordinamento, compagnie e governi dovranno prendere decisioni di sicurezza difficili mentre hanno pressioni da concorrenti e a livello geopolitico.
Non tutti sono d’accordo: a quanto pare anche dalla Casa Bianca è emerso un certo scetticismo, con certe preoccupazioni che sarebbero più legate alla volontà di rallentare i concorrenti che legate a problemi effettivi di sicurezza. Una lettura cinica che però è relativamente diffusa anche tra gli operatori di mercato.
SpaceX sarà la prima del settore ad andare in borsa tramite IPO, con Anthropic che tra le altre cose dovrebbe arrivare con un certo ritardo.
C’è poi il problema geopolitico: nonostante si parli da tempo di un coordinamento quantomeno tra USA e Cina, e nonostante questo sia stato in parte oggetto di discussioni durante l’ultima visita di Trump a Pechino, arrivare al punto è molto difficile.
Un rallentamento unilaterale delle società USA non è percorribile proprio per questi motivi, con ulteriori pressioni che arrivano dal lancio di ben tre IPO, dove la maggior parte delle grandi banche d’affari USA guadagneranno commissioni da capogiro.
Quanto c’è di vero?
Sembrano crederci per ora in pochi. Tuttavia non è da sottovalutare il ruolo degli incentivi (dalla quotazione agli investimenti, passando per quelli geopolitici che abbiamo descritto poco sopra) affinché si prendano poco sul serio certi allarmi.
Allarmi che – anche se con modalità diverse – sono stati una parte rilevante della narrativa controllata dalle stesse società del mondo AI.
Una narrativa che ha reso il tema AI molto poco popolare tra la popolazione – non solo per preoccupazioni sul destino degli esseri umani – ma anche sui destini del singolo, messi in pericolo dall’avanzamento di modelli in grado di sostituire gli umani anche in lavori specialistici.
