La BBC Svela Truffa di Immagini dell’Olocausto AI su Facebook

Alcuni utenti di Facebook sono diventati vittime di spammer che traggono profitto da immagini dell’Olocausto create con l’IA, suscitando indignazione tra i sopravvissuti all’Olocausto.

Un’ indagine della BBC ha scoperto una rete internazionale di spammer che utilizza immagini generate da AI di vittime dell’Olocausto per trarre profitto dal sistema di monetizzazione di Facebook.

La pratica si scontra con l’opposizione delle organizzazioni commemorative dell’Olocausto, poiché ritengono che le immagini generate dall’IA possano essere dannose per i sopravvissuti e i loro familiari.

“Ci sono solo una manciata di foto autentiche scattate all’interno del campo di concentramento di Auschwitz durante la Seconda Guerra Mondiale”, ha osservato l’indagine alla BBC.

Gli spammer di intelligenza artificiale hanno iniziato a pubblicare contenuti artificiali che includono immagini in scena di prigionieri che suonano violini e innamorati che si incontrano vicino alle recinzioni delle prigioni, che hanno apparentemente ricevuto migliaia di mi piace e condivisioni.

“Qui abbiamo qualcuno che inventa le storie… per qualche tipo di strano gioco emotivo che sta succedendo sui social media,” ha detto Pawel Sawicki, un portavoce per il Memoriale di Auschwitz in Polonia, come riportato dalla BBC.

“Questo non è un gioco. Questo è un mondo reale, sofferenze reali e persone reali che vogliamo e dobbiamo commemorare”, ha aggiunto Sawicki.

La BBC ha collegato molti post a creatori di contenuti con base in Pakistan che sfruttano il programma di Monetizzazione dei Contenuti (CM) su invito di Meta. L’account, gestito da Abdul Mughees, avrebbe presumibilmente generato $20.000 da truffe sui social media, e raggiunto 1.2 miliardi di visualizzazioni durante i primi quattro mesi di attività.

I post ritraggono immagini generate dall’IA che mostrano scenari completamente inventati, come un bambino lasciato sui binari del treno in un campo di concentramento.

Le organizzazioni dell’Olocausto affermano che questa tendenza mina le testimonianze dei sopravvissuti. “Non capiscono del tutto ciò che stanno vedendo,” ha detto il Dottor Robert Williams dell’International Holocaust Remembrance Alliance Survivors, come riportato dalla BBC. Ha aggiunto, si sente “un certo senso di tristezza che questo sia stato permesso di accadere.”

Gli esperti avvertono che, sebbene l’IA possa preservare la memoria, un uso distorto rischia di trasformare la storia dell’Olocausto in finzione.

Recenti scoperte indicano che i rischi delle immagini generate dall’IA potrebbero andare oltre la semplice diffusione di informazioni false. Una nuova ricerca ha mostrato che i contenuti generati dall’IA possono impiantare falsi ricordi. Le persone spesso credevano che eventi fossero accaduti quando in realtà non lo erano mai stati, e si sentivano molto sicure riguardo a questi ricordi errati.

Gli esperti sostengono che ciò potrebbe influenzare seriamente la memoria dell’Olocausto. La visione ripetuta di immagini generate da intelligenza artificiale potrebbe distorcere la conoscenza storica collettiva, poiché le persone faticano a distinguere tra contenuti reali e sintetici, specialmente quando tali contenuti si diffondono rapidamente sui social media.

Sebbene l’intelligenza artificiale possa essere utile nell’educazione o nella terapia se utilizzata con attenzione, gli studiosi avvertono che in aree sensibili come la storia dell’Olocausto, l’uso negligente rischia di cancellare la verità stessa. I ricercatori sollecitano regolamentazioni potenziate, documentazione precisa e una migliore collaborazione tra storici, tecnologi e responsabili delle politiche per salvaguardare i documenti storici e proteggere le testimonianze dei sopravvissuti e la conoscenza storica pubblica.

Meta ha rimosso alcune pagine dopo che il Museo di Auschwitz le ha segnalate. La BBC riporta che un portavoce ha dichiarato: “Abbiamo rimosso le Pagine e i Gruppi che ci sono stati segnalati e abbiamo disabilitato gli account dietro di loro per aver violato le nostre politiche sullo spam e sui comportamenti non autentici”.