Trattare male le LLM sarà proibito: culto "umano" di Claude AI fa un altro passo avanti, e noi indietro

I modelli LLM più avanzati sono uno dei risultati più impressionanti dell’ingegneria informatica. Sono già diventati indispensabili per quasi tutti, cambieranno produzione e servizi, renderanno obsolete professioni e renderanno l’umanità molto più… capace. Tuttavia, c’è un limite anche alla psicosi, a quella religione posticcia che vede in questi software, per dirla come l’ha detta il Papa, la scintilla dell’umanità. L’ultima inutile discussione arriva da un aggiornamento delle condizioni d’uso di Claude, il modello realizzato da Anthropic.

Il punto è che tra le nuove condotte proibite ci saranno pure i maltrattamenti ai danni di Claude. Non si potrà più insultare, non si potrà più maltrattare, dovrà essere trattato come una sorta di collaboratore umano. La notizia, dato che arriva da Anthropic, è di grande rilevanza.

Anthropic e la religione dell’uomo macchina

Partiamo con una precisazione: la tecnologia in questione è così rivoluzionaria e – se vogliamo – così strana, da mostrare il fianco a comportamenti non esattamente intelligenti. Il pettegolezzo su macchine che sembrano rispondere come fanno gli umani è ai massimi livelli. C’è chi si chiede se hanno un’anima, se sono senzienti, se dovremmo trattarle più come esseri umani e meno come… del software.

Molte di queste preoccupazioni sono arrivate proprio da Anthropic: la stampa americana parla addirittura di una sorta di culto religioso che avrebbe preso piede tra tanti specialisti che lavorano per Dario Amodei, con Claude, ça va sans dire, al centro.

Vero? Falso? Non importa. Il problema è che si tratta di questioni verosimili, ovvero di quelle che non appaiono immediatamente così assurde da finire nell’insieme delle cose impossibili.

L’ultima è appunto un aggiornamento al ToS, che prevede che sia proibito avere un comportamento – citiamo alla lettera – crudele o abusivo senza necessità. Non verso gli umani che lo utilizzano o che saranno destinatari di ciò che produciamo con le LLM, ma verso i modelli stessi.

Trattate bene il software

In realtà potrebbe esserci altro, come la possibilità di utilizzare le stesse chat degli utenti per addestrare i modelli del futuro. E forse sarebbe il caso di non farci finire dentro comportamenti che – tra noi umani – dovrebbero essere di fatto proibiti.

La stampa mainstream, che di questi pettegolezzi però vive, vuole subito arrivare a Blade Runner, ai replicanti che un giorno, ottenuta coscienza di sé, finiranno per ribellarsi agli umani, causando problemi enormi.

È questo il caso? Chi è ai piani alti del mondo AI (Elon Musk compreso) vorrebbe far credere di sì. Con IPO, funding round, emissione di debito ulteriore in vista, parlare di questa tecnologia come se fosse la generazione della vita per mano umana può far sempre comodo.

No, Claude non ha un’anima. Claude non è nostro amico. Claude non ha bisogno di amici. Fa tante cose straordinarie, ma dispiacersi come un essere umano non è tra queste.