Fenomenul accelerează radicalizarea
Explozia inteligenței artificiale zguduie industrii întregi, de la muzică la publicitate. Însă, dincolo de aceste domenii vizibile, o altă zonă mult mai periculoasă profită rapid de noile tehnologii: mișcările extremiste, care folosesc clonarea vocală pentru a-și răspândi ideologia și a-și extinde influența online. Potrivit cercetătorilor în securitate și combaterea terorismului, grupările extremiste – de la neo-naziști la organizații jihadiste – utilizează tot mai des instrumente generative pentru a recrea vocile liderilor sau figurilor emblematice din propria propagandă, adaptându-le pentru audiențe globale. „Adoptarea traducerii și a clonării vocale bazate pe inteligență artificială reprezintă o evoluție majoră a strategiilor de propagandă digitală”, explică Lucas Webber, analist senior în informații de amenințare la organizația Tech Against Terrorism și cercetător la Soufan Center. „Anterior, aceste grupuri se bazau pe traducători umani sau pe sisteme primitive de traducere automată, care pierdeau nuanțe importante. Astăzi, AI-ul permite mesaje fluide, coerente, care păstrează tonul emoțional și intensitatea ideologică în mai multe limbi.”
În mediul extremismului de dreapta, utilizarea clonării vocale a devenit deja larg răspândită. Versiuni în limba engleză ale discursurilor lui Adolf Hitler, generate cu ajutorul AI, au adunat zeci de milioane de vizualizări și ascultări pe platforme precum X, Instagram sau TikTok. Un raport recent al Global Network on Extremism and Technology (GNet) arată că creatorii de conținut extremist folosesc servicii comerciale de clonare vocală, precum ElevenLabs, alimentate cu discursuri originale din perioada Germaniei naziste. Rezultatul este o voce care îl imită pe Hitler vorbind fluent în engleză, cu o acuratețe tulburătoare. Aceleași tehnologii sunt utilizate și de neo-naziștii așa-numiți „acceleraționiști” – indivizi sau grupuri care promovează violența și prăbușirea societății occidentale. Un exemplu este transformarea în audiobook a lucrării Siege, un manual insurgent scris de James Mason, extremist american desemnat terorist. Cartea, considerată de ani buni un text de bază pentru grupări precum The Base sau Atomwaffen Division, a fost „reinterpretată” audio cu ajutorul AI, la finalul anului trecut. „În ultimele luni am lucrat la realizarea unui audiobook Siege”, a declarat un influencer neo-nazist activ pe X și Telegram. „Folosind un model vocal personalizat al lui Mason, am recreat fiecare newsletter și majoritatea materialelor originale.” Pentru acesta, forța noii tehnologii constă în capacitatea de a aduce ideologia extremistă „din America pre-internet” în prezent, sub forma unei voci moderne, ușor de consumat.
Fenomenul nu este însă limitat la extrema dreaptă. Potrivit lui Webber, canalele de propagandă pro–Stat Islamic folosesc deja inteligența artificială pentru a transforma texte ideologice în materiale audio atractive, distribuite pe rețele criptate. „Textul propagandistic este transformat în narațiuni multimedia, mult mai ușor de consumat și de distribuit”, explică expertul. Grupările jihadiste folosesc AI mai ales pentru traducerea conținutului din arabă în mai multe limbi. În trecut, figuri precum Anwar al-Awlaki – imam american devenit lider al-Qaeda – trebuiau să înregistreze personal discursuri în limba engleză. Vocea sa a fost ulterior identificată de FBI și CIA drept un factor-cheie în radicalizarea multor recruți occidentali. Pe Rocket.Chat, platforma preferată de Statul Islamic, utilizatorii distribuie deja clipuri cu grafică sofisticată și subtitrări în limbi dificile, precum japoneza. Un utilizator recunoștea, într-o postare din octombrie, că realizarea unui astfel de material ar fi fost aproape imposibilă fără ajutorul inteligenței artificiale.
Dincolo de clonarea vocală, grupările extremiste folosesc și aplicații gratuite de inteligență artificială, inclusiv chatbot-uri populare, pentru a genera imagini, a structura mesaje sau a eficientiza cercetarea și planificarea. Unele dintre aceste practici sunt documentate încă din 2023. Autoritățile antiteroriste avertizează că asistăm la un nou capitol într-un joc permanent de „prindere din urmă”, în care tehnologia evoluează mai rapid decât mecanismele de control. Deja, grupări precum The Base sau Statul Islamic au folosit criptomonede pentru finanțare anonimă și au distribuit fișiere pentru arme imprimate 3D. Pentru experți, utilizarea inteligenței artificiale în propaganda extremistă nu este doar o problemă tehnologică, ci una profund socială și de securitate.
Pe măsură ce aceste instrumente devin mai accesibile și mai sofisticate, riscul ca ideologiile violente să ajungă la publicuri tot mai largi crește exponențial.