OpenAI Aggiungerà Parapetti di Salute Mentale per ChatGPT

OpenAI ha annunciato lunedì nuove modifiche al suo chatbot AI, ChatGPT, tra cui l’introduzione di “guardrail” per la salute mentale volti a supportare gli utenti vulnerabili. Gli aggiornamenti sono progettati per impedire a ChatGPT di prendere decisioni per gli utenti e includeranno promemoria per fare pause dopo interazioni prolungate con il sistema AI.

Secondo il comunicato ufficiale, OpenAI ha intenzione di rendere ChatGPT più utile, correggendo e ottimizzando il suo comportamento. L’azienda riconosce che gli aggiornamenti precedenti hanno reso il modello di intelligenza artificiale “troppo accomodante” e che molte persone lo utilizzano come terapista nei momenti difficili.

“L’IA può sembrare più reattiva e personale rispetto alle tecnologie precedenti, soprattutto per gli individui vulnerabili che stanno vivendo un disagio mentale o emotivo”, ha scritto OpenAI. “Per noi, aiutarti a prosperare significa essere presenti quando stai lottando, aiutarti a mantenere il controllo del tuo tempo, e guidare – non decidere – quando affronti sfide personali.”

ChatGPT è ora stato addestrato a riconoscere meglio quando un utente è in difficoltà emotiva o mentale e a fornire risposte più appropriate. Questi cambiamenti seguono diversi rapporti di utenti che si sono eccessivamente affezionati a ChatGPT, che hanno sperimentato un peggioramento della salute mentale, e l’emergere di casi descritti come “psicosi da IA.”

“Ci sono stati casi in cui il nostro modello 4o non è riuscito a riconoscere i segni di delirio o dipendenza emotiva”, ha spiegato OpenAI, aggiungendo che stanno per essere implementati nuovi strumenti per rilevare meglio potenziali problemi di salute mentale.

Il sistema AI includerà anche promemoria periodici per gli utenti per fare delle pause dalle interazioni, e si concentrerà nell’aiutare gli utenti a raggiungere le loro proprie conclusioni ponendo più domande guida invece di fornire risposte dirette. Questo approccio è simile al nuovo Study Mode di ChatGPT, in cui supporta gli studenti incoraggiando il pensiero critico e ponendo domande socratiche invece di fornire semplicemente soluzioni.

OpenAI ha anche notato che ha lavorato a stretto contatto con una serie di esperti, tra cui medici generici, psichiatri e pediatri, per garantire che ChatGPT offra un aiuto significativo nei momenti critici. L’azienda ha inoltre creato un gruppo di consulenza per consultare professionisti della salute mentale e guidare lo sviluppo di queste funzionalità.