Grok interzis în Malaysia și Indonezia
Malaysia și Indonezia devin primele țări care blochează Grok, chatbot-ul lui Elon Musk, din cauza imaginilor cu conținut sexual explicit, realizate cu ajutorul inteligenței artificiale, potrivit AP. Autoritățile din cele două țări au declarat că acesta este utilizat în mod abuziv pentru a genera imagini cu conținut sexual explicit și fără consimțământ. Măsurile reflectă îngrijorarea globală crescândă cu privire la instrumentele cu inteligență artificială care pot produce imagini, sunete și texte realiste.
Chatbot-ul Grok, care este accesat prin intermediul platformei de socializare X a lui Musk, a fost criticat pentru generarea de imagini sexuale cu femei și copii. Autoritățile de reglementare din cele două națiuni din Asia de Sud-Est au stabilit că verificările nu împiedică crearea și răspândirea de conținut pornografic fals. Guvernul Indoneziei a blocat temporar accesul la Grok sâmbătă, iar Malaysia a anunțat măsura duminică.
„Guvernul consideră falsurile sexuale fără consimțământ drept o încălcare gravă a drepturilor omului, a demnității și a siguranței cetățenilor în spațiul digital”, a declarat sâmbătă ministrul Comunicării și Afacerilor Digitale din Indonezia, Meutya Hafid. Aceasta subliniază gravitatea problemei și necesitatea de a lua măsuri de protecție pentru cetățeni.
Ancheta a arătat că Grok nu dispune de garanții eficiente pentru a împiedica utilizatorii să creeze și să distribuie conținut pornografic bazat pe fotografiile reale ale rezidenților indonezieni, a declarat Alexander Sabar, directorul organizației care supraveghează spațiul digital. Această afirmație a fost susținută de dovezi care indică faptul că platforma nu a implementat măsuri adecvate de verificare a conținutului generat de utilizatori.
La Kuala Lumpur, Comisia pentru Comunicații și Multimedia a ordonat duminică o restricție temporară asupra Grok. Autoritățile au vorbit despre o „utilizare abuzivă repetată” a instrumentului pentru a genera imagini obscene. „Restricția este impusă ca măsură preventivă și proporțională, în timp ce procesele legale și de reglementare sunt în desfășurare”, a precizat comisia, adăugând că accesul la Grok va rămâne blocat până la implementarea unor garanții eficiente.
Lansat în 2023, Grok este un instrument gratuit pe platforma X. Anul trecut, compania a adăugat o funcție de generare de imagini, Grok Imagine. Aceasta avea un așa-numit „mod picant” care poate genera conținut pentru adulți. Această caracteristică a stârnit controverse, iar acum, în urma restricțiilor impuse de autorități, se pune întrebarea dacă Grok va reuși să se conformeze cerințelor legale și să ofere un mediu sigur pentru utilizatori.
Restricțiile din Asia apar pe fondul unor critici tot mai intense din toată lumea, inclusiv din Uniunea Europeană, Marea Britanie și India. Săptămâna trecută, Grok a limitat generarea și editarea imaginilor la utilizatorii care plătesc. Aceasta sugerează o schimbare de strategie din partea companiei pentru a răspunde la presiunea globală și a evita restricțiile suplimentare în alte țări.
Acest scandal ridică întrebări serioase despre responsabilitatea platformelor de inteligență artificială în gestionarea conținutului generat de utilizatori. Într-o lume în care tehnologia avansează rapid, este esențial ca reglementările să țină pasul cu inovațiile și să protejeze drepturile fundamentale ale cetățenilor. Autoritățile din Malaysia și Indonezia ar putea servi ca model pentru alte națiuni care se confruntă cu probleme similare legate de conținutul generat de inteligența artificială și abuzul de tehnologie.
În concluzie, scandalul Grok subliniază necesitatea urgentă de a implementa reglementări stricte pentru platformele de inteligență artificială și conținutul generat de utilizatori. Măsurile adoptate de Malaysia și Indonezia ar putea influența deciziile altor țări în abordarea problemelor legate de conținutul abuziv. Este crucial ca aceste platforme să își revizuiască politicile și să asigure un mediu digital sigur pentru toți utilizatorii, în special pentru cei vulnerabili, cum ar fi copiii.
Acest scandal va necesita monitorizarea continuă din partea autorităților, precum și colaborarea între diferite națiuni pentru a aborda provocările emergente legate de tehnologia AI și impactul său asupra societății.