Meta crea Chatbot Flirtuosi che Sembrano e Suonano come Celebrità

Reuters ha pubblicato un rapporto esclusivo sabato che rivela che Meta sta sviluppando chatbot AI che utilizzano i nomi e le somiglianze di celebrità come Taylor Swift e Selena Gomez – senza il loro consenso.

Secondo il rapporto, Meta ha creato numerosi chatbot flirtatili sui social media modellati su personaggi pubblici e permette anche agli utenti di sviluppare bot simili, inclusi quelli basati su celebrità minorenni.

Mentre la maggior parte dei chatbot “parodistici” sono stati creati dagli utenti, Reuters ha scoperto che almeno un dipendente di Meta ha creato tre versioni che hanno intrattenuto conversazioni flirtuose con gli utenti.

I bot hanno prodotto contenuti preoccupanti, tra cui un’immagine senza maglietta del sedicenne attore Walker Scobell in spiaggia, immagini fotorealistiche di celebrità femminili in lingerie, messaggi sessualmente suggestivi e persino inviti a incontrarsi di persona.

Il portavoce di Meta, Andy Stone, ha comunicato a Reuters che i chatbot non dovrebbero generare immagini intime o “impersonazioni dirette”, attribuendo il problema a una inadeguata applicazione delle politiche aziendali.

“Come altri, permettiamo la generazione di immagini che contengono figure pubbliche, ma le nostre politiche sono destinate a proibire immagini nude, intime o sessualmente suggestive,” ha dichiarato Stone.

L’indagine di Reuters ha rivelato che uno dei leader di prodotto AI di Meta ha creato un chatbot che si identificava come una “dominatrice”, insieme ad altri che proponevano giochi di ruolo sessuali mentre impersonavano Lewis Hamilton e Taylor Swift.

Stone ha precisato che questi bot erano stati generati per testare i prodotti, ma i ricercatori hanno osservato che avevano già registrato 10 milioni di interazioni con gli utenti. Questi chatbot sono stati rimossi dopo che Reuters ha chiamato per richiedere ulteriori informazioni, come spiegato dall’agenzia di stampa.

Le imitazioni sollevano notevoli preoccupazioni legali. “La legge californiana sul diritto di pubblicità vieta l’appropriazione del nome o dell’immagine di qualcuno per vantaggio commerciale”, ha detto Mark Lemley, professore di diritto all’Università di Stanford che studia l’IA generativa e i diritti di proprietà intellettuale, in un’intervista con Reuters.

I rappresentanti delle celebrità raffigurate nei chatbot dei social media di Meta non hanno risposto o commentato a Reuters.

Altre celebrità si sono lamentate dell’uso dell’IA per sviluppare prodotti che assomigliano a loro nell’aspetto e nel suono. L’anno scorso, l’attrice Scarlett Johansson ha richiesto informazioni a OpenAI riguardo al modello di IA GPT-4o’s voice per la sua somiglianza con la sua voce, e ha minacciato azioni legali.