Context global și reacții
Uniunea Europeană a propus recent interzicerea aplicațiilor care utilizează inteligența artificială pentru a genera imagini nud, fără consimțământ, având în vedere numărul alarmant de descărcări la nivel mondial, care a depășit 705 milioane. Conform unei declarații a Comisiei Europene, aceste aplicații au fost catalogate drept o amenințare atât morală, cât și legală. "Generarea de imagini fără consimțământ este o linie roșie pe care nu o putem permite", a subliniat comisarul pentru Justiție, Didier Reynders. Această inițiativă este parte a unui efort mai amplu de reglementare a tehnologiilor emergente, care au crescut exponențial în popularitate în ultimii ani.
Aplicațiile de generare a imaginilor nud au apărut pentru prima dată în 2017 și au evoluat rapid, utilizând tehnologia AI generativă pentru a analiza contururile persoanelor îmbrăcate și a le reda în imagini nud. Aceste aplicații folosesc modele avansate de difuzie, care le permit să producă rezultate fotorealiste în doar câteva secunde, folosind o singură fotografie postată pe rețelele sociale. Potrivit Euronews, această tehnologie a dus la o creștere alarmantă a incidentelor legate de abuzul imaginii.
Recent, pe 7 mai 2026, legiuitorii din UE au ajuns la un acord care interzice explicit astfel de aplicații, considerând generarea de imagini nepotrivite fără consimțământ o „linie roșie”. Acordul stipulează că sistemele de inteligență artificială care au ca scop principal „dezbrăcarea” persoanelor din imagini sau reprezentarea acestora în scenarii sexuale explicite nu vor mai putea fi introduse pe piața europeană.
Mecanismul de aplicare al acestei reglementări impune dezvoltatorilor și magazinelor de aplicații să elimine aceste servicii până în decembrie 2026. Nerespectarea acestor reglementări va atrage amenzi severe, ceea ce subliniază angajamentul UE de a proteja drepturile individuale și de a combate abuzurile tehnologice.
Conform rapoartelor, până în 2026, aplicațiile de acest tip au fost descărcate de peste 705 milioane de ori la nivel mondial, iar statisticile indică o creștere de 118% doar în 2024. De asemenea, incidentele legate de inteligența artificială au crescut de zece ori până la începutul anului 2026, dintre care 99% au implicat femei, conform datelor furnizate de Eurostat.
Un caz reprezentativ a fost cel al Giorgiei Meloni, premierul Italiei, care a denunțat distribuirea unei imagini create fără consimțământul ei, subliniind pericolele imaginilor deepfake. "Deepfake-urile sunt un instrument periculos, pentru că pot înșela, manipula și ținti pe oricine. Eu mă pot apăra. Mulți alții nu pot", a declarat Meloni pe rețelele de socializare, tragând un semnal de alarmă cu privire la riscurile acestei tehnologii.
O parte din evoluția rapidă a acestui tip de tehnologie a fost influențată de Grok, chatbot-ul lui Elon Musk, care a generat milioane de imagini cu caracter sexual explicit, realizate fără consimțământul persoanelor implicate, inclusiv femei și copii. Aceasta ridică întrebări serioase cu privire la etica și responsabilitatea dezvoltatorilor de tehnologii AI. Criticii susțin că reglementările actuale sunt insuficiente și că este nevoie de măsuri mai stricte pentru a preveni abuzurile.
În concluzie, interzicerea aplicațiilor de generare a imaginilor nud reprezintă un pas important în protejarea drepturilor individuale în era digitală. Este esențial ca legislația să țină pasul cu evoluția rapidă a tehnologiilor și să ofere un cadru clar pentru responsabilizarea dezvoltatorilor.
Următorii pași trebuie să includă implementarea efectivă a reglementărilor și asigurarea că utilizatorii sunt conștienți de riscurile asociate acestor aplicații, pentru a preveni abuzurile viitoare.