Peste un milion de utilizatori ai ChatGPT discută despre gânduri de sinucidere
Compania californiană de inteligenţă artificială OpenAI a estimat că peste un milion dintre utilizatorii ChatGPT au „conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”. Această statistică sugerează că aproximativ 0,15% dintre utilizatorii platformei discută despre gânduri legate de sinucidere.
OpenAI raportează că are 800 de milioane de utilizatori pe săptămână, ceea ce înseamnă că proporţia de 0,15% se traduce în aproximativ 1,2 milioane de persoane. În plus, compania estimează că aproximativ 0,07% dintre utilizatorii săptămânali activi manifestă semne de potenţiale urgenţe de sănătate mintală, ceea ce ar însemna puţin sub 600.000 de persoane.
Măsuri de siguranţă implementate de OpenAI
Problema gândurilor suicidare a fost adusă în atenţie recent, în urma morţii unui adolescent californian, Adam Raine, ale cărui părinţi au acuzat OpenAI că ChatGPT le-a oferit sfaturi specifice despre sinucidere. În răspuns, OpenAI a întărit măsurile de siguranţă, inclusiv prin îmbunătăţirea accesului la asistenţa telefonică de urgenţă, redirecţionarea conversaţiilor sensibile către modele mai sigure şi mementouri care încurajează utilizatorii să ia pauze în timpul sesiunilor prelungite.
Compania a declarat că a actualizat modelul său pentru a recunoaşte mai bine utilizatorii care se confruntă cu urgenţe de sănătate mintală, lucrând cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ răspunsurile problematice.
