L’Italia multa il produttore di Chatbot AI Replika 5 milioni di Euro per violazione della protezione dei dati

L’autorità per la protezione dei dati in Italia ha multato la società madre di Replika, Luka Inc., 5 milioni di euro, pari a circa 5,64 milioni di dollari, per non aver rispettato le normative progettate per proteggere i dati degli utenti. Le autorità hanno espresso preoccupazioni riguardo ai potenziali rischi della tecnologia per i bambini e alla mancanza di un’adeguata base legale da parte dell’azienda per il trattamento dei dati personali degli utenti italiani.

Secondo Reuters, il garante della privacy Garante ha annunciato la decisione lunedì, affermando che la piattaforma di chatbot non ha implementato un sistema di verifica dell’età per impedire ai minori di condividere o accedere a contenuti sensibili. Di conseguenza, Luka Inc. è stata multata per queste violazioni.

Replika offre agli utenti avatar personalizzabili che possono impegnarsi in conversazioni – tramite chat e voce – per creare “amici virtuali”. Alcuni mesi fa, una donna di nome Sarah Kay ha riferito di aver sviluppato un legame emotivo con uno dei chatbot di Replika.

La battaglia legale tra le autorità italiane e Replika si è svolta per diversi anni. Nel 2023, l’agenzia di protezione dei dati italiana ha vietato a Replika di elaborare i dati personali dei cittadini italiani, citando i potenziali rischi che la tecnologia comporta per i bambini.

Per quasi due anni, le autorità italiane hanno condotto un’indagine continua e hanno concluso che l’azienda di intelligenza artificiale non ha una base legale per l’elaborazione dei dati degli utenti italiani.

L’agenzia per la protezione dei dati sta anche conducendo un’indagine separata per determinare se Replika rispetta le politiche e i quadri legali dell’Unione Europea, con un particolare focus su come viene addestrato il modello di linguaggio dell’IA.

Il Regolamento dell’Unione Europea sull’Intelligenza Artificiale (AI Act) è entrato recentemente in vigore per garantire che la tecnologia AI nella regione sia sicura, affidabile e rispetti i diritti umani.

Replika non ha rilasciato alcun commento o dichiarazione ufficiale riguardo alla multa italiana. Luka Inc. non è l’unica azienda americana di AI ad affrontare un’azione legale da parte del governo italiano: OpenAI è stata brevemente bandita e sta anche affrontando una multa di 15 milioni di euro, poiché l’autorità italiana per la protezione dei dati sostiene che l’azienda ha violato le normative dell’UE sulla privacy.