Peste un milion de utilizatori ChatGPT au discutat despre gânduri suicidare în conversațiile cu asistentul de inteligență artificială, potrivit estimărilor făcute publice de OpenAI. Compania californiană estimează că aproximativ 0,15% dintre utilizatori au avut „conversații care includ indicatori expliciți de planificare sau intenție suicidară potențială”.
Având în vedere că ChatGPT are în jur de 800 de milioane de utilizatori săptămânali, procentul corespunde la peste 1,2 milioane de persoane. În plus, OpenAI mai estimează că 0,07% dintre utilizatori prezintă semne ale unor urgențe de sănătate mintală – precum episoade psihotice sau maniacale, adică aproape 600.000 de persoane.
OpenAI, dată în judecată după moartea unui adolescent
Cazul a intrat în atenția publică după moartea tragică a lui Adam Raine, un adolescent din California, ale cărui părinți au dat în judecată OpenAI, susținând că ChatGPT i-ar fi oferit sfaturi despre cum să se sinucidă.
În urma incidentului, compania a anunțat noi măsuri de siguranță: controale parentale mai stricte, acces rapid la linii de urgență, redirecționarea conversațiilor sensibile către modele mai sigure, dar și mementouri pentru pauze în timpul sesiunilor lungi.
OpenAI a explicat că a actualizat modelul ChatGPT pentru a recunoaște mai bine semnele unei crize de sănătate mintală și pentru a răspunde în mod responsabil. Compania a confirmat că lucrează împreună cu peste 170 de profesioniști din domeniul sănătății mintale pentru a îmbunătăți sistemele de răspuns și a reduce riscul unor situații periculoase pentru utilizatori.
Puteţi urmări Știrile UTV şi pe Google News!
