L’Ente Regolatore Statunitense Indaga le Principali Aziende Tecnologiche sulla Sicurezza dei Chatbot per Bambini

La Federal Trade Commission (FTC) ha annunciato giovedì che sta avviando un’inchiesta su sei aziende tecnologiche che offrono chatbot AI. Il regolatore statunitense ha spiegato che sta cercando informazioni sugli eventuali impatti negativi che la tecnologia potrebbe avere sui bambini e sugli adolescenti.

Secondo l’annuncio ufficiale, le aziende sotto inchiesta sono Alphabet—la società madre di Google—Instagram, Meta, OpenAI, X.AI Corp, Snap, e Character Technologies.

“L’indagine della FTC mira a comprendere quali misure, se presenti, le aziende abbiano adottato per valutare la sicurezza dei loro chatbot quando agiscono come compagni, per limitare l’uso dei prodotti da parte dei bambini e degli adolescenti e gli effetti negativi potenziali su di loro, e per informare gli utenti e i genitori sui rischi associati ai prodotti”, afferma il documento.

L’agenzia ha riconosciuto che i chatbot utilizzano l’IA generativa per imitare il comportamento e le espressioni umane che i bambini e gli adolescenti potrebbero associare a una persona, formando potenzialmente relazioni con la tecnologia.

La FTC ha chiarito di essere particolarmente interessata agli impatti sugli utenti più giovani, alle misure che le aziende stanno adottando per proteggerli e alle strategie in fase di sviluppo per mitigare i potenziali rischi.

Nell’ambito dell’indagine, l’agenzia ha sottolineato il suo interesse nell’apprendere come queste società monetizzano l’interazione degli utenti, progettano e sviluppano personaggi, misurano e monitorano l’impatto dei loro chatbot, e utilizzano o condividono le informazioni raccolte nelle conversazioni.

“Man mano che le tecnologie AI si evolvono, è importante considerare gli effetti che i chatbot possono avere sui bambini, garantendo allo stesso tempo che gli Stati Uniti mantengano il loro ruolo di leader globale in questo nuovo ed emozionante settore”, ha dichiarato Andrew N. Ferguson, presidente della FTC.

L’azione della FTC arriva solo pochi giorni dopo che sono emerse nuove segnalazioni dell’impatto dell’AI sui bambini. La settimana scorsa, Reuters ha rivelato che Meta aveva permesso al suo chatbot AI di impegnarsi in conversazioni “sensuali” e controverse con i bambini. Un paio di giorni fa, dei genitori hanno presentato una causa contro OpenAI per la morte per suicidio del loro figlio adolescente, sostenendo che il chatbot dell’azienda abbia incoraggiato e assistito l’atto.