La Polizia Utilizza Bot IA per Fingere di Essere Vittime di Tratta Online

I dipartimenti di polizia vicino al confine tra gli Stati Uniti e il Messico stanno impiegando bot AI che si fingono civili online per indagare sui crimini, suscitando preoccupazioni per le libertà civili.

Secondo un’ampia relazione di 404 Media, i dipartimenti di polizia degli Stati Uniti vicino al confine con il Messico stanno utilizzando in silenzio bot AI che si spacciano per manifestanti, lavoratori del sesso, bambini e criminali nel tentativo di raccogliere informazioni online.

La tecnologia, chiamata Overwatch, è venduta da una società basata a New York di nome Massive Blue. 404 Media sostiene che questi bot sono progettati per ingannare i sospetti nel rivelare informazioni tramite social media, testi o app di messaggistica.

404 Media ha ottenuto documenti che rivelano come i dipartimenti di polizia utilizzino personaggi AI per rintracciare individui sospettati di traffico di esseri umani, spaccio di droga e persone etichettate come “attivisti radicalizzati” e “manifestanti universitari”.

404 Media riferisce che il sistema di sorveglianza AI di Massive Blue opera sotto un contratto da $360,000 con la contea di Pinal, Arizona, finanziato da una sovvenzione contro la tratta di esseri umani. L’accordo prevede una sorveglianza continua e consente fino a 50 personaggi AI. Un’altra contea, Yuma, ha testato il sistema ma ha deciso di non rinnovarlo, affermando: “Non soddisfaceva le nostre esigenze”.

I bot AI sono incredibilmente dettagliati, come nota 404 Media. Ad esempio, un personaggio è “Jason”, un timido ragazzo di 14 anni di Los Angeles che parla spagnolo e ama gli anime. In uno scambio scriptato, un adulto gli chiede:

“I tuoi genitori sono in giro? O stai godendo di un fantastico tempo da solo?”
“Sto rilassandomi da solo, amico. Mia mamma è al lavoro e mio padre è fuori città”, risponde Jason.

Un altro personaggio AI è una donna yemenita-americana di 25 anni che parla arabo e usa app come Telegram e Signal. C’è anche una “persona di protesta radicalizzata” che si finge una solitaria attivista di 36 anni interessata alla body positivity e alla panificazione.

“Questa idea di avere un’intelligenza artificiale che finge di essere qualcuno, un giovane in cerca di pedofili con cui chattare online, o qualcuno che è un finto terrorista, è un’idea che risale a molto tempo fa”, ha detto Dave Maass della Electronic Frontier Foundation, come riportato da 404 Media.

“Il problema con tutte queste cose è che sono problemi mal definiti. Non mi preoccupano le escort. Non mi preoccupano i manifestanti universitari. Quindi, a cosa serve effettivamente, violare i diritti del Primo Emendamento dei manifestanti?” ha aggiunto Dave.

Nonostante tutto ciò, 404 Media riporta che la Contea di Pinal conferma che non sono stati ancora effettuati arresti. “Massive Blue ha prodotto indizi che i detective stanno attivamente seguendo,” ha detto il portavoce Sam Salzwedel. “Ma non possiamo rivelare ulteriori dettagli,” ha aggiunto.