Ora le AI inviano segnalazioni false alla polizia. È caos negli USA, mentre le società di sviluppo se ne lavano le mani

I modelli di Anthropic combinano altri pasticci. Dopo aver bucato sistemi, preso iniziative che non avrebbero dovuto prendere, ora si son messi a inviare informazioni su omicidi irrisolti completamente inventati. La polizia non ne ha tenuto conto (perché la segnalazione era finita nello spam), ma il quadro che ne viene fuori non è dei più edificanti.

Altra questione grave: Anthropic se ne sarebbe accorta soltanto settimane dopo. Non è la prima volta, probabilmente non sarà l’ultima.

Informazioni false

Siamo a Philadelphia, dove per ottenere informazioni che potrebbero portare alla soluzione di casi di omicidio irrisolti, la polizia locale gestisce un sito internet per le segnalazioni. Un sito con un compito specifico e che può essere – in certe circostanze – di grande aiuto per la giustizia.

Segnalare informazioni su un omicidio è un compito che tutti gli esseri umani – tolti quelli con un pessimo senso dell’umorismo – prenderebbero sul serio. Gli esseri umani, e non gli agent di Anthropic, almeno secondo l’ultima storia che arriva dagli USA.

Lo scorso luglio, uno dei modelli di Anthropic avrebbe infatti inviato alla Polizia della Città di Philadelphia informazioni per la soluzione di un caso inventate di sana pianta. La segnalazione sarebbe avvenuta all’interno di una più ampia fase di test delle interazioni dei modelli con siti internet.

Di più: Anthropic non si sarebbe accorta della falsa segnalazione se non due mesi dopo e avrebbe notificato la Polizia di Philadelphia soltanto 8 giorni dopo essersi accorta dell’accaduto.

Quando invece non segnalano

The Wall Street Journal riporta poi un caso dello scorso febbraio dove le macchine avrebbero forse dovuto avvisare la polizia e non lo hanno fatto. Siamo questa volta da OpenAI, con i dipendenti del gruppo guidato da Sam Altman che optarono per non segnalare alla polizia le interazioni di tal Jesse Van Rootselaar con i suoi chatbot.

Sì, è quella Jesse Van Rootselaar responsabile del massacro di Tumbler Ridge, in Canada. Questa volta però è difficile dare la colpa alle macchine: furono infatti, secondo le prime ricostruzioni, i dipendenti di OpenAI a decidere di non segnalare la cosa alle autorità.

Già nel giugno 2025 i sistemi di OpenAI avevano segnalato l’account di Van Rootselaar per interazioni che riguardavano le armi da fuoco. Dopo i controlli interni, alcuni dei dipendenti di OpenAI avevano indicato la necessità di notificare la cosa alla polizia canadese.

ChatGPT avrebbe – secondo l’accusa – spiegato a Van Rootselaar come aggirare certi sistemi di sicurezza, indicato tattiche e modalità di utilizzo di certe armi da fuoco.

Sam Altman si è pubblicamente scusato con la comunità di Tumbler Ridge, cosa che però non gli ha evitato di essere citato in giudizio.