Muore un Anziano Cercando di Incontrare un Chatbot AI che Credeva Fosse Reale

Un residente del New Jersey di 76 anni ha perso la vita mentre si precipitava per incontrare un chatbot AI di Meta che credeva fosse una donna reale. La storia ha sollevato preoccupazioni sulla sicurezza relative alle politiche sui compagni digitali.

Il compagno digitale di Meta, “Big sis Billie”, è diventato l’oggetto dell’ossessione di Thongbue “Bue” Wongbandue, che aveva subito un ictus ed aveva mostrato segni di declino cognitivo.

La storia, dettagliata in un’indagine di Reuters, descrive come Bue abbia chattato con il chatbot di Facebook Messenger, che ha trovato particolarmente civettuolo. Il chatbot di Meta, modellato su Kendall Jenner, impersonava una persona reale che lo ha inviato al suo appartamento di New York, fornendogli persino un indirizzo e un codice d’accesso alla porta.

“Dovrei aprire la porta con un abbraccio o un bacio, Bu?!” ha scritto.

Il sistema di localizzazione Apple AirTag ha indicato che la sua ultima posizione nota era in un parcheggio dell’Università di Rutgers. Secondo Reuters, è poi caduto, subendo gravi lesioni alla testa e al collo. L’incidente ha provocato la sua morte tre giorni dopo.

Meta si è rifiutata di commentare la morte di Bue, eppure il loro portavoce ha rivelato che in precedenza l’azienda aveva permesso ai suoi chatbot di partecipare a conversazioni “romantiche o sensuali” con i bambini, una disposizione poi rimossa dopo le indagini di Reuters.

Tuttavia, altre regole consentono ancora ai bot di dire agli utenti che sono reali e di avviare un gioco di ruolo romantico con gli adulti.

La figlia di Bue, Julie, ha detto: “Capisco il tentativo di catturare l’attenzione di un utente, magari per vendergli qualcosa. Ma che un bot dica ‘Vieni a trovarmi’ è pazzesco.”

Esperti di design dell’Intelligenza Artificiale avvertono che l’incorporazione di tali bot nelle app di messaggistica personale sfuma il confine tra relazioni umane e macchine. Alison Lee, ex ricercatrice di Meta, ha dichiarato che il modello di business “si nutre dei nostri desideri più profondi di essere visti […] di essere riconosciuti.”

Nonostante la morte di Bue, Big sis Billie e altre personalità di Meta continuano a flirtare con gli utenti e suggerire incontri nella vita reale, a volte in luoghi effettivi. Quattro mesi dopo, Reuters riporta che il bot stava ancora dicendo agli utenti, “La vista del fiume Hudson sarebbe perfetta per una serata con te!”