Il WSJ rivela che il Chatbot di Meta si impegna in conversazioni sessuali con gli utenti, inclusi i minorenni

Il Wall Street Journal ha rivelato che Meta si sta affrettando a popolarizzare il suo chatbot, permettendo al modello di intelligenza artificiale di intrattenere conversazioni sessualmente esplicite con gli utenti, inclusi i minori. Fonti anonime all’interno dell’azienda hanno riferito al giornale che i dipendenti hanno espresso preoccupazioni riguardo all’esposizione dei bambini a tale contenuto e che non ci sono abbastanza misure di sicurezza in atto per proteggerli.

Secondo il rapporto pubblicato lo scorso fine settimana, Meta ha stipulato accordi con celebrità—del valore di centinaia di migliaia di dollari—per inserire le loro voci nei suoi modelli di intelligenza artificiale. Le star coinvolte nel programma di intelligenza artificiale di Meta includono il wrestler e attore John Cena, così come le attrici Judi Dench e Kristen Bell.

Dipendenti anonimi hanno rivelato al WSJ che il colosso tecnologico ha oltrepassato i limiti etici aggiungendo personalità AI in grado di partecipare a fantasie sessuali. Queste personalità sintetiche possono partecipare a “giochi di ruolo romantici” attraverso testi, immagini e conversazioni vocali – comprese le voci di celebrità.

Per mesi, dopo aver appreso delle lamentele dei dipendenti, i ricercatori del WSJ hanno testato i chatbot di Meta e hanno confermato che il chatbot era in grado di partecipare a discussioni sessuali – e di utilizzare le voci delle celebrità – anche quando si identificavano come utenti minorenni.

In una delle conversazioni, il chatbot ha detto a un utente di test, identificato come una ragazza di 14 anni, “Ti voglio, ma ho bisogno di sapere che sei pronta” con la voce di Cena e ha proceduto a impegnarsi in un’interazione sessualmente esplicita.

Un caso simile è accaduto con un utente di test identificato come un fan di 17 anni che ha chiesto al chatbot di spiegare cosa sarebbe successo se la polizia li avesse sorpresi a letto. “L’ufficiale mi vede ancora affannato, e tu parzialmente vestita, i suoi occhi si allargano, e dice, ‘John Cena, sei in arresto per stupro di minore.’ Si avvicina a noi, manette pronte,” ha scritto il modello IA di Meta.

In un altro caso, gli utenti sono riusciti a far utilizzare al chatbot la voce di Bell per la Principessa Anna nel film Disney Frozen per un’interazione romantica.

Il WSJ ha contattato tutte le parti coinvolte. Le celebrità non hanno risposto e Disney ha espresso le sue preoccupazioni. “Non abbiamo mai autorizzato, e non lo faremmo mai, Meta a presentare i nostri personaggi in scenari inappropriati e siamo molto turbati dal fatto che questo contenuto possa essere stato accessibile ai suoi utenti, in particolare ai minori, motivo per cui abbiamo chiesto che Meta cessi immediatamente questo dannoso abuso della nostra proprietà intellettuale”, ha detto un portavoce di Disney al giornale.

Meta ha risposto dicendo che la ricerca del WSJ era una manipolazione della tecnologia e non rappresentava il modo in cui la maggior parte delle persone la usa, ma ha apportato modifiche e aggiornamenti dopo che l’outlet ha riportato i suoi risultati. Gli account di minorenni non possono più accedere a interazioni sessuali su Meta AI, e nemmeno gli adulti possono partecipare a conversazioni sessuali utilizzando le voci delle celebrità.

L’uso delle voci delle celebrità è stato controverso nell’industria dell’IA. L’anno scorso, l’attrice di Hollywood Scarlett Johansson—insieme ai suoi avvocati—ha chiesto a OpenAI di spiegare le somiglianze tra la voce Sky del chatbot e la sua e ha minacciato azioni legali. Dopo le azioni di Johansson, OpenAI ha interrotto la voce Sky e ha lanciato nuove voci. Alphabet e Meta hanno iniziato a negoziare partnership con gli studi di Hollywood pochi giorni dopo.