Conversații alarmante despre sinucidere
Compania californiană de inteligenţă artificială (IA) OpenAI a anunţat că aproximativ 0,15% dintre utilizatorii săi au conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară, conform unui articol publicat pe blogul oficial al companiei. Această statistică este alarmantă, având în vedere că OpenAI revendică 800 de milioane de utilizatori săptămânali, ceea ce înseamnă că în jur de 1,2 milioane de persoane discută despre gânduri legate de sinucidere cu acest asistent IA generativ.
De asemenea, OpenAI a estimat că aproximativ 0,07% dintre utilizatorii săptămânali activi prezintă semne de potenţiale urgenţe de sănătate mintală, legate de episoade psihotice sau maniacale, ceea ce reprezintă aproape 600.000 de persoane. Această problemă a fost pusă în centrul atenţiei media după moartea tragică a adolescentului californian Adam Raine, ai cărui părinţi au intentat un proces împotriva OpenAI, susţinând că ChatGPT i-a oferit sfaturi specifice despre cum să se sinucidă.
În urma acestei situaţii, OpenAI a implementat măsuri de siguranţă mai stricte, care includ întărirea controlului parental, acces îmbunătăţit la asistenţa telefonică de urgenţă, precum şi redirecţionarea automată a conversaţiilor sensibile către modele mai sigure. De asemenea, compania a introdus mementouri care încurajează utilizatorii să ia pauze în timpul sesiunilor prelungite, pentru a preveni potenţiale crize de sănătate mintală.
OpenAI a precizat că a actualizat modelul său pentru a recunoaşte mai bine utilizatorii care se confruntă cu urgenţe de sănătate mintală, afirmând că colaborează cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ numărul răspunsurilor problematice. Aceste măsuri sunt esenţiale în contextul în care utilizarea asistentelor IA devine din ce în ce mai răspândită, iar impactul asupra sănătăţii mintale a utilizatorilor este tot mai evident.
Această situaţie ridică întrebări importante cu privire la responsabilitatea companiilor de tehnologie în gestionarea conversaţiilor sensibile. OpenAI este sub presiune să îmbunătăţească continuu sistemele sale de securitate şi să asigure că utilizatorii care au nevoie de ajutor primesc sprijinul adecvat. Într-o lume în care tehnologia devine un sprijin din ce în ce mai important pentru utilizatori, protecţia sănătăţii mintale trebuie să fie o prioritate pentru toate platformele de IA.
În concluzie, problema gândurilor suicidale exprimate de utilizatorii ChatGPT subliniază nevoia urgentă de măsuri de protecţie mai eficiente şi de responsabilitate din partea dezvoltatorilor de tehnologie.
Este esenţial ca OpenAI şi alte companii similare să continue să colaboreze cu experţi în sănătatea mintală pentru a dezvolta soluţii care să protejeze utilizatorii vulnerabili, în special tinerii care se pot confrunta cu crize emoţionale severe.