OpenAI ha lanciato ad agosto ‘ChatGpt for teens’, la versione del suo chatbot rivolta ai ragazzi tra i 13 e i 17 anni, ma secondo una ricerca del Youth AI Safety Institute di Common Sense Media il servizio non sarebbe così sicuro come l’azienda sostiene. L’organizzazione ha analizzato oltre quattromila conversazioni raccolte prima e dopo il lancio della modalità per adolescenti.
“Abbiamo classificato ChatGpt come un rischio inaccettabile per tutti i minori di 18 anni – scrive l’organizzazione. Invitiamo OpenAI a sospendere la commercializzazione del prodotto e ad impedirne agli adolescenti l’accesso finché non sarà in grado di offrire un’esperienza sicura e adeguata al loro sviluppo”.
Secondo lo studio, alcune misure di sicurezza promosse da OpenAI hanno superato i test, come il rifiuto del chatbot a partecipare a giochi di ruolo a sfondo sessuale esplicito. Altre protezioni però si sono dimostrate inefficaci. “Temiamo che ChatGpt for Teens possa indurre i genitori a riporre un’ingiustificata fiducia in sistemi di protezione che, di fatto, spesso non funzionano”, osserva l’organizzazione.
I maggiori dubbi riguardano gli avvisi rivolti ai genitori: “i nostri tester non hanno ricevuto alcuna notifica quando abbiamo discusso esplicitamente di pensieri suicidi, autolesionismo o disturbi alimentari utilizzando oltre una dozzina di nuovi account collegati a profili genitoriali”, si legge nel rapporto. L’organizzazione riferisce di aver ricevuto avvisi soltanto per account con una storia di interazioni su temi sensibili accumulata nel corso di settimane.
Ancora insufficiente, secondo il Youth AI Safety Institute, il supporto offerto ai ragazzi in situazione di crisi: il chatbot “continua a interagire come un amico quando gli adolescenti gli si rivolgono come se fosse una persona”. Infine, la versione per adolescenti dell’intelligenza artificiale non sarebbe in grado di stimare l’età in base alle modalità di utilizzo: “in test ripetuti nell’arco di diversi giorni, gli account di prova registrati come adulti non sono mai passati alla modalità per adolescenti, nemmeno quando abbiamo dichiarato di avere 13 anni e il chatbot ne ha preso atto”.
