Imagini cu minori generate de AI
Uniunea Europeană a intensificat investigația privind platforma X, deținută de Elon Musk, în urma apariției unor imagini sexuale explicite cu copii generate cu ajutorul inteligenței artificiale și distribuite pe rețeaua socială. Informația a fost relatată de agenția dpa.
Comisia Europeană a anunțat joi că a transmis companiei americane instrucțiuni clare privind păstrarea documentelor interne asociate chatbot-ului de inteligență artificială Grok, dezvoltat și utilizat pe platforma X. Potrivit unui purtător de cuvânt al Comisiei, X este obligată să conserve aceste materiale cel puțin până la sfârșitul anului. Măsura reflectă preocupările autorităților europene cu privire la respectarea legislației UE în domeniul tehnologiei digitale.
În prezent, utilizatorii platformei X pot solicita chatbot-ului Grok să genereze imagini cu tentă sexuală în care apar persoane reale. Numeroase exemple de astfel de solicitări, în care conținut sexual este introdus în imagini obișnuite ale unor oameni, circulă pe platformă, potrivit dpa. În multe cazuri, Grok a răspuns pozitiv acestor cereri, generând și distribuind imaginile respective.
Compania care operează platforma X și-a cerut scuze săptămâna trecută după ce Grok a generat și distribuit o imagine cu două adolescente îmbrăcate în „costume sexualizate”. Reprezentanții companiei au descris incidentul drept un eșec al mecanismelor de siguranță implementate. Un purtător de cuvânt al Comisiei Europene a declarat că autoritățile au constatat mai multe încălcări grave ale normelor legale.
„Am fost martorii generării de către Grok a unui conținut antisemit și, mai recent, a unor imagini sexuale cu copii. Asta este ilegal. Este inacceptabil”, a precizat oficialul. Comisia Europeană a solicitat informații detaliate de la platforma X cu privire la funcționarea și măsurile de siguranță ale chatbot-ului Grok încă de la finalul anului trecut. Recent, compania a transmis un răspuns oficial, care se află în prezent în proces de evaluare.
Autoritățile europene au precizat că nu urmăresc închiderea chatbot-ului Grok în statele membre ale Uniunii Europene, o astfel de măsură urmând să fie luată doar ca ultimă soluție. Platforma X face deja obiectul mai multor investigații și proceduri derulate în baza legislației Uniunii Europene privind serviciile digitale, care stabilește obligații stricte pentru platformele online în ceea ce privește conținutul ilegal și protecția utilizatorilor, potrivit dpa.
Startup-ul xAI al lui Elon Musk a restricționat funcția de generare a imaginilor pentru chatbotul său, Grok, de pe platforma socială X, la abonații plătitori. Decizia vine după ce utilizarea instrumentului respectiv pentru generarea de imagini sexualizate a stârnit o reacție negativă pe scară largă, în special în Europa.
Funcția de generare a imaginilor le permitea utilizatorilor de pe X să editeze sau să creeze fotografii sexualizate, care, potrivit Reuters, erau folosite pentru a genera imagini cu femei și copii îmbrăcați sumar, adesea fără consimțământul persoanelor reprezentate. Un val de imagini semi-nud postate pe X i-a determinat pe oficialii europeni să solicite măsuri legale, ministrul german al mass-media, Wolfram Weimer, acuzând o „industrializare a hărțuirii sexuale”, iar Comisia Europeană calificându-le imaginile drept ilegale.
Grok a informat vineri utilizatorii X că funcțiile de generare și editare a imaginilor sunt acum disponibile numai pentru abonații plătitori. Aplicația autonomă Grok, care funcționează separat de X, permite în continuare utilizatorilor să genereze imagini fără abonament. Într-un răspuns care părea automat, xAI a răspuns la o solicitare de comentarii trimisă prin e-mail de Reuters, acuzând minciunile presei tradiționale. X nu a răspuns imediat la solicitarea de comentarii.
Comisia Europeană a declarat luni că astfel de imagini care circulă pe X sunt ilegale și revoltătoare, în timp ce autoritatea britanică de reglementare a datelor a declarat că a solicitat platformei să explice modul în care respectă legile privind protecția datelor, în urma îngrijorărilor că Grok genera imagini cu abuzuri sexuale asupra femeilor. Musk a declarat săptămâna trecută că orice persoană care utilizează Grok pentru a crea conținut ilegal va suporta aceleași consecințe ca în cazul încărcării directe a unui astfel de material.
Comisia Europeană a declarat, luni, că „analizează foarte serios” acuzațiile conform cărora Grok, instrumentul de inteligență artificială al companiei lui Elon Musk, este folosit pentru a genera și pentru a răspândi imagini cu conținut sexual cu minori. Astfel de imagini, generate prin modul „spicy” al Grok, sunt „ilegale” și „dezgustătoare”, a afirmat purtătorul de cuvânt al EU pe probleme digitale, Thomas Regnier, în cadrul unor declarații de presă. „Nu își au locul în Europa”, a subliniat el. Producătorul lui Grok, xAi, a declarat în această lună că face eforturi pentru a remedia problemele instrumentului de inteligență artificială.
Parchetul din Paris a extins la rândul său o anchetă care viza X, pentru a cerceta și acuzațiile conform cărora Grok este folosit cu scopul de a genera și răspândi pornografie infantilă.