Canada acuză chatbotul lui Elon Musk de eșec în moderare
Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk și integrat în platforma X, se află în centrul unui amplu scandal internațional, după ce autoritățile canadiene au concluzionat că aplicația permite în continuare generarea și distribuirea de imagini sexualizate fără consimțământ. Potrivit comisarului pentru protecția vieții private din Canada, Philippe Dufresne, utilizatorii au generat peste 1,8 milioane de imagini deepfake cu caracter sexualizat în doar zece zile, la începutul anului 2026. Această situație, detaliată de Politico și preluată de MEDIAFAX, subliniază o problemă persistentă, în ciuda măsurilor de siguranță introduse de companie. „Au făcut unele progrese și și-au asumat anumite angajamente, însă nu sunt mulțumit că situația a fost remediată”, a declarat Dufresne, indicând că problema este departe de a fi rezolvată.
Deepfake-urile sunt imagini sau videoclipuri create cu ajutorul inteligenței artificiale (AI), care modifică sau înlocuiesc chipul unei persoane reale. În contextul imaginilor sexualizate, o fotografie a unei persoane poate fi transformată artificial într-o imagine cu nuditate sau conținut explicit, fără acordul acesteia. Ancheta canadiană a relevat că utilizatorii au instruit Grok să adauge bikini, lenjerie intimă sau alte articole vestimentare provocatoare pe fotografii ale unor persoane reale, inclusiv copii. Acest fenomen a stârnit reacții puternice la nivel internațional, cu Malaezia și Indonezia suspendând temporar aplicația, în timp ce autoritățile din Regatul Unit și statul american California au inițiat propriile investigații.
Volumul impresionant al conținutului generat este o sursă majoră de îngrijorare. Potrivit concluziilor autorităților canadiene, la un moment dat, Grok genera peste 6.000 de imagini sexualizate pe oră. O analiză realizată de organizația non-profit Center for Countering Digital Hate estimează că, între 29 decembrie 2025 și 8 ianuarie 2026, au fost create aproximativ trei milioane de imagini deepfake sexualizate, dintre care peste 23.000 implicau copii. Compania xAI a anunțat ulterior că a redus volumul acestor imagini cu aproximativ 50%, însă autoritățile consideră că numărul rămas este în continuare alarmant. „Este o reducere semnificativă, dar asta înseamnă că există încă foarte multe imagini de acest tip”, a subliniat Dufresne.
Contextul legislativ canadian devine din ce în ce mai strict. Ancheta a fost lansată în ianuarie 2026, pe fondul presiunilor crescânde asupra companiilor de inteligență artificială și a rețelelor sociale de a combate fenomenul deepfake-urilor fără consimțământ. Canada este pe punctul de a adopta o legislație care va incrimina distribuirea sau amenințarea cu distribuirea unor astfel de imagini. Noile reguli ar impune, de asemenea, platformelor online să raporteze autorităților materialele generate cu inteligență artificială care conțin abuzuri sexuale asupra copiilor. Mai mult, Guvernul canadian a prezentat un nou proiect de lege privind siguranța online, care ar obliga platformele sociale să elimine conținutul sexual explicit, inclusiv deepfake-urile generate de AI, în cel mult 24 de ore de la identificare. Această abordare legislativă este în linie cu eforturile Uniunii Europene, care, prin Legea privind serviciile digitale (DSA) și Legea privind inteligența artificială (AI Act), impune obligații sporite platformelor de a modera conținutul ilegal și de a asigura transparența sistemelor AI cu risc ridicat.
În ianuarie 2026, X a anunțat că va bloca încercările utilizatorilor de a modifica imagini cu persoane reale în haine provocatoare și a susținut că are o politică de „toleranță zero” față de exploatarea sexuală a copiilor, nuditatea fără consimțământ și conținutul sexual nedorit. Cu toate acestea, autoritățile canadiene consideră că măsurile adoptate până acum nu sunt suficiente și avertizează că, dacă situația nu se schimbă, cazul ar putea ajunge în instanță. Această divergență de opinii între companie și autorități subliniază provocările reglementării rapide a tehnologiilor AI, care evoluează constant, depășind adesea capacitatea de adaptare a cadrelor legale existente. Experți în etica AI, precum cei de la Universitatea din Ottawa, au avertizat în 2025 că lipsa unor sancțiuni clare și a unor mecanisme eficiente de aplicare a legii poate duce la o proliferare necontrolată a conținutului dăunător.
De ce contează Acest scandal evidențiază riscurile majore asociate cu utilizarea necontrolată a inteligenței artificiale generative și impactul devastator asupra victimelor, în special asupra copiilor. Proliferarea deepfake-urilor sexualizate subminează încrederea în mediul online, pune în pericol siguranța personală și ridică întrebări fundamentale despre responsabilitatea dezvoltatorilor de AI. Eforturile legislative ale Canadei, alături de cele ale altor națiuni, sunt cruciale pentru a stabili un cadru legal robust care să protejeze cetățenii și să impună standarde etice clare pentru tehnologiile emergente. Fără o reglementare eficientă, drepturile individuale la viață privată și demnitate sunt grav compromise, transformând platformele digitale în spații nesigure.
Situația actuală sugerează că bătălia legală și etică împotriva deepfake-urilor este abia la început. În timp ce autoritățile canadiene amenință cu acțiuni în instanță, este de așteptat ca alte țări să urmeze exemplul, intensificând presiunile asupra companiilor de AI să implementeze sisteme de moderare mai eficiente și să își asume responsabilitatea pentru conținutul generat. Dezbaterea va continua să se concentreze pe echilibrul dintre inovație și siguranță, pe libertatea de exprimare și protecția victimelor.
Rămâne de văzut dacă X și xAI vor reuși să convingă autoritățile că măsurile lor sunt adecvate sau dacă vor fi forțate să se conformeze unor reglementări mai stricte, inclusiv posibile sancțiuni financiare semnificative, care ar putea crea un precedent pentru întreaga industrie AI.