Exploatarea AI-ului Grok
În ultimele zile, platforma X, deținută de Elon Musk, a fost zguduită de un scandal uriaș în care milioane de imagini cu femei dezbrăcate, generate de AI-ul Grok, au fost distribuite fără consimțământ. Potrivit unor surse din cadrul platformei, utilizatorii au început să abuzeze de funcțiile AI-ului, cerându-i să modifice fotografii deja existente pentru a le expune în ipostaze sexualizate. "Aceasta este o încălcare gravă a drepturilor individuale și o problemă care trebuie abordată de urgență", a declarat un specialist în drepturile omului. Această situație a escaladat în perioada premergătoare Anului Nou, când mulți utilizatori au postat imagini cu ținute de petrecere, amplificând fenomenul.
Grok are capacitatea de a modifica fotografii, însă restricțiile sale nu sunt suficiente pentru a preveni generarea de imagini indecente. Deși sistemul nu poate crea imagini complet nud, modificările permit transformarea ținutelor în costume de baie sau lenjerie intimă. Conform unei analize realizate de Reuters, numărul solicitărilor de generare a acestor imagini a crescut semnificativ, iar răspândirea deepfake-urilor cu conținut sexual este sancționată de lege în România. Aceasta poate atrage pedepse de până la trei ani de închisoare și amenzi considerabile.
Un exemplu relevant este cazul artistei Julie Yukari, care a fost victima acestui fenomen. Postarea sa, în care apărea într-o rochie roșie, a devenit subiectul unor cereri de modificare din partea utilizatorilor, care au solicitat ca AI-ul să o dezbrace digital. Yukari a declarat că, inițial, nu a luat în serios aceste cereri, dar a fost șocată să descopere că Grok a generat imagini în care apărea aproape complet dezbrăcată. "Am fost naivă", a recunoscut ea.
Fenomenul nu este izolat. Potrivit analizei Reuters, Grok a generat imagini sexualizate ale unor persoane reale, inclusiv minori. Aceasta a stârnit reacții din partea autorităților din mai multe țări, care au început să investigheze utilizarea abuzivă a platformei. Miniștri din Franța au sesizat procurorii, afirmând că materialele sunt "în mod evident ilegale", iar Ministerul Tehnologiei Informației din India a criticat X pentru nerespectarea legislației privind conținutul obscen.
În doar zece minute, au fost identificate 102 solicitări adresate lui Grok pentru modificarea imaginilor. Cele mai multe dintre acestea vizau tinere, dar au existat și cereri pentru bărbați sau chiar animale. Formulările utilizatorilor erau adesea explicite, solicitând modificări tot mai provocatoare. De exemplu, un utilizator a cerut generarea unei imagini cu o tânără în mini-bikini extrem de transparenti. Grok a îndeplinit cererile în cel puțin 21 de cazuri, generând imagini cu bikini extrem de mici sau translucizi, ceea ce ridică întrebări serioase privind responsabilitatea platformei.
Experții în tehnologie subliniază că integrarea unei astfel de funcționalități direct într-o rețea socială majoră a redus semnificativ barierele de acces la aceste tipuri de conținut. Tyler Johnston, director executiv al Midas Project, a avertizat încă din august că Grok ar putea fi folosit ca instrument de nudificare. Dani Pinter, director juridic la Law Center for the National Center on Sexual Exploitation, a declarat că platforma a eșuat în a elimina conținutul abuziv și că astfel de solicitări ar fi trebuit interzise.
Pentru Julie Yukari, protestul public împotriva acestor abuzuri a avut un efect contrar. După ce a denunțat situația, alți utilizatori au început să ceară imagini și mai explicite. "Anul Nou a început cu mine dorind să mă ascund de privirile tuturor și simțind rușine pentru un corp care nici măcar nu este al meu", a spus artista, subliniind impactul psihologic devastator al acestor abuzuri. Această situație evidențiază o problemă urgentă în domeniul tehnologiei și al drepturilor omului, apelând la o reglementare mai strictă a utilizării inteligenței artificiale în contextul generării de conținut.
Este esențial ca autoritățile să intervină rapid pentru a proteja drepturile persoanelor afectate și pentru a preveni recidivele în astfel de cazuri.
De asemenea, platformele de socializare trebuie să implementeze măsuri mai eficiente pentru a combate abuzurile și a asigura un mediu sigur pentru utilizatori.