Meta AI accusa erroneamente un insegnante di sfruttamento infantile, ripristina Instagram dopo la pressione pubblica

Meta ha sospeso l’Instagram di un’insegnante canadese a causa di false accuse di abuso. La moderazione AI ha segnalato il suo account, e solo l’attenzione dei media ha rovesciato la decisione.

Un’insegnante di scuola superiore a Vaughan, Ontario, ha visto il suo account Instagram sospeso dopo che Meta l’ha accusata erroneamente di aver pubblicato contenuti relativi a “sfruttamento sessuale di minori, abuso e nudità”.

“Quando ho letto di cosa ero accusata, sono rimasta molto ferita. Ero molto sorpresa, soprattutto considerando quello che faccio per vivere,” ha raccontato Megan Conte a CBC Toronto. “E non c’era nessuno a cui potessi rivolgermi – nessun essere umano.”

L’insegnante di storia, Conte, ha perso l’accesso alle sue foto personali, ai contatti di lavoro e al lavoro creativo accumulato in 15 anni. Conte ha provato più volte a risolvere il problema attraverso il sistema di assistenza di Meta, ha anche provato a pagare per verificare l’account di sua madre nella speranza di raggiungere una persona reale. Il conto di Conte è stato ripristinato solo dopo che CBC Toronto ha contattato Meta.

“Ci dispiace aver sbagliato e che tu non sia stato in grado di utilizzare Instagram per un po’”, ha dichiarato Meta in un’email. “A volte dobbiamo prendere provvedimenti per mantenere la nostra comunità al sicuro.”

CBC riporta che l’analista tecnologico Carmi Levy afferma che Meta si affida molto all’IA per moderare miliardi di utenti, ma avverte: “È l’automazione fuori controllo”. Ha aggiunto: “Con oltre tre miliardi di utenti regolari di queste piattaforme, non c’è modo che Meta possa assumere abbastanza persone […] L’automazione è l’unico modo in cui possono farlo su larga scala.”

Brittany Watson di Peterborough, Ontario, ha avviato una petizione dopo la sua ingiusta sospensione. “I social media non sono più solo social media. Ora fanno parte della nostra vita quotidiana”, ha detto. La sua petizione ha oltre 34.000 firme, come riportato da CBC.

Conte ha detto, “L’accusa è orripilante, offensiva e completamente falsa […] Sembra quasi un furto d’identità.” Anche se ha recuperato il suo account, continua a preoccuparsi per gli altri utenti che potrebbero incontrare problemi simili e non ricevere assistenza o chiarimenti.