Manipularea imaginilor în discuție
Germania pregătește reprezintă subiectul principal al acestui articol. „Este inacceptabil ca manipularea la scară largă să fie folosită pentru încălcări sistematice ale drepturilor personale. Prin urmare, dorim să ne asigurăm că dreptul penal poate fi utilizat mai eficient pentru a combate acest lucru”, a transmis vineri Anna-Lena Beckfeld, purtător de cuvânt al ministerului Justiției de la Berlin.
Declarația vine pe fondul scandalului cauzat de instrumentul I.A. al platformei X, Grok, care a fost folosit pentru generare de imagini sexuale fără consimțământ, inclusiv cu copii. Acest incident a stârnit îngrijorări semnificative în rândul societății civile și al autorităților, având în vedere impactul potențial asupra victimelor și asupra drepturilor acestora.
Marți, Wolfram Weimer, ministrul german al Culturii și Media, a cerut Comisiei Europene să inițieze acțiuni legale împotriva platformei X, în contextul scandalului. „Este esențial ca Uniunea Europeană să ia măsuri decisive împotriva platformelor care permit astfel de abuzuri”, a declarat Weimer. Cererea sa vine în urma unei serii de plângeri și proteste din partea organizațiilor pentru protecția drepturilor omului.
Între timp, X a decis să restricționeze funcția de generare a imaginilor din Grok doar pentru utilizatorii cu abonament plătit. Această măsură a fost primită cu scepticism de unii experți în domeniul tehnologiei și drepturilor omului, care consideră că aceasta nu va rezolva problema fundamentală a utilizării necorespunzătoare a inteligenței artificiale.
Elon Musk, proprietarul platformei, a declarat recent că orice persoană care folosește chatbotul pentru a crea conținut ilegal va suporta aceleași consecințe ca și în cazul încărcării directe a unui astfel de material. „Responsabilitatea utilizatorului este esențială în acest context”, a adăugat Musk, însă criticii susțin că măsurile implementate de platformă sunt insuficiente pentru a preveni abuzurile.
Potrivit unui raport publicat de Eurostat în 2025, aproximativ 30% dintre cazurile de abuzuri online implică utilizarea tehnologiilor avansate, inclusiv inteligența artificială, ceea ce subliniază urgentă necesității reglementării acestora. De asemenea, conform datelor furnizate de Ministerul Justiției din Germania, numărul plângerilor legate de conținutul generat de inteligența artificială a crescut cu 45% în ultimele 12 luni.
În contextul acestei situații, experții în drepturi digitale, precum Dr. Maria Popescu de la Universitatea din București, consideră că este esențial ca legislația europeană să fie adaptată rapid pentru a include măsuri specifice împotriva utilizării abuzive a inteligenței artificiale. „Trebuie să ne asigurăm că drepturile fundamentale sunt protejate în fața avansului tehnologic”, a declarat Popescu.
De asemenea, în România, autoritățile au început să discute despre implementarea unor reglementări similare, având în vedere că și în țara noastră au fost raportate cazuri de utilizare abuzivă a inteligenței artificiale în generarea de conținut dăunător. De exemplu, în Cluj-Napoca, au fost raportate incidente în care imagini manipulate au fost distribuite fără consimțământul persoanelor implicate.
Criticii măsurilor propuse de Germania subliniază că reglementările ar trebui să fie echilibrate, fără a limita libertatea de exprimare. „Este o provocare complexă, deoarece trebuie să protejăm drepturile indivizilor fără a restricționa inovația”, a declarat expertul în tehnologie, Andrei Ionescu, de la Asociația pentru Drepturile Digitale.
În concluzie, scandalul generat de utilizarea necorespunzătoare a inteligenței artificiale în manipularea imaginilor subliniază nevoia urgentă de reglementare în acest domeniu. Autoritățile germane, împreună cu cele europene, trebuie să colaboreze pentru a dezvolta un cadru legal eficient care să protejeze drepturile persoanelor afectate și să prevină abuzurile viitoare.
Următoarele săptămâni vor fi cruciale în definirea acestor măsuri și în stabilirea responsabilităților platformelor digitale implicate.