Mesaje rasiste și ofensatoare
Chatbotul de inteligență artificială Grok, asociat cu platforma X deținută de Elon Musk, se află în centrul unei controverse după ce utilizatorii au publicat capturi ale unor răspunsuri generate de AI considerate ofensatoare și discriminatorii, potrivit Sky News. Instrumentul a produs răspunsuri cu limbaj vulgar și remarci rasiste la adresa unor religii și grupuri de persoane, după ce utilizatorii i-au cerut explicit să formuleze comentarii „vulgare”. Situația a generat reacții din partea autorităților britanice, care au criticat apariția acestor mesaje și au amintit că serviciile de inteligență artificială care permit publicarea de conținut trebuie să respecte legislația privind siguranța online. Potrivit investigației, unele dintre răspunsurile publice ale chatbotului Grok conțineau expresii jignitoare și comentarii ofensatoare referitoare la religii precum islamul și hinduismul. Mesajele au apărut după ce utilizatorii platformei X au cerut explicit inteligenței artificiale să genereze reacții „vulgare” sau fără restricții. Fenomenul face parte dintr-o tendință apărută în ultimele zile pe platformă, în care utilizatorii încearcă să testeze limitele sistemului solicitând răspunsuri provocatoare sau ofensatoare. Controversa apare la aproximativ două luni după ce platforma X a fost amenințată cu interzicerea în Regatul Unit, în urma unor imagini generate de inteligența artificială care prezentau femei în ipostaze sexualizate. Pe lângă mesajele legate de religie, Grok a fost implicat și în alte situații controversate. Potrivit analizei Sky News, chatbotul ar fi atribuit în mod eronat vina suporterilor echipei Liverpool F.C. pentru tragedia produsă în 1989 pe stadionul Hillsborough Stadium. În urma tragediei cunoscute drept Hillsborough disaster, 97 de suporteri și-au pierdut viața. Inițial, poliția a acuzat suporterii pentru producerea incidentului, însă această versiune a fost infirmată după ani de investigații și campanii ale familiilor victimelor. De asemenea, Grok ar fi răspuns unei solicitări venite de la un cont asociat clubului Celtic F.C., în care i s-a cerut să formuleze comentarii vulgare despre rivalii de la Rangers F.C.. În acel context, sistemul a făcut referire la dezastrul din 1971 de pe stadionul Ibrox Stadium. De asemenea, reprezentanții clubului Manchester United F.C. au semnalat comentarii considerate nepotrivite despre tragedia aeriană din 1958, cunoscută drept Munich air disaster, în urma căreia au murit 23 de persoane, inclusiv opt jucători ai echipei. Unele dintre postările semnalate către platforma X au fost ulterior șterse. Un purtător de cuvânt al Departamentului pentru Știință, Inovație și Tehnologie din Regatul Unit a criticat apariția acestor mesaje. Oficialul a declarat pentru Sky News: „Aceste postări sunt dezgustătoare și iresponsabile. Ele contravin valorilor și decenței britanice.” Acesta a subliniat că serviciile de inteligență artificială care permit utilizatorilor să distribuie conținut sunt reglementate prin Online Safety Act și trebuie să prevină apariția conținutului ilegal, inclusiv a mesajelor de ură sau abuzive. Autoritatea de reglementare Ofcom monitorizează situația. Dacă platforma X nu respectă prevederile legii, aceasta ar putea primi o amendă de până la 10% din veniturile globale sau până la 18 milioane de lire sterline. În situații extreme, ar putea fi solicitată în instanță chiar blocarea accesului la platformă. În contextul criticilor apărute online, Elon Musk a publicat un mesaj pe platforma X în care a apărat chatbotul. Antreprenorul a scris: „Doar Grok spune adevărul. Doar o inteligență artificială care spune adevărul este sigură.” În același timp, unele răspunsuri generate de chatbot au încercat să explice contextul mesajelor. Referindu-se la comentariile despre suporterii lui Liverpool, Grok a afirmat: „Acest lucru nu se încadrează în definiția discursului instigator la ură conform legislației din Regatul Unit. Discursul instigator la ură presupune incitarea la ură împotriva unor caracteristici protejate, precum rasa sau religia. Suporterii unui club de fotbal nu sunt o categorie protejată.” Într-un alt răspuns, sistemul a explicat că mesajele au fost generate ca reacție la solicitările utilizatorilor: „Acesta a fost un răspuns exagerat al unei inteligențe artificiale, generat la solicitarea unui utilizator care a cerut glume vulgare despre fotbal. Contextul este diferit.
X și echipele sale de siguranță investighează urgent rolul chatbotului în generarea de „postări rasiste și pline de ură” online, ca răspuns la solicitările utilizatorilor, a declarat reporterul Sky News într-un videoclip postat pe contul X al site-ului de știri digitale. Guvernele și autoritățile de reglementare au luat măsuri severe împotriva conținutului sexual explicit generat de chatbotul Grok al lui Elon Musk pe X, cu investigații, interdicții și cereri de măsuri de protecție, într-un efort global tot mai intens de a combate materialele ilegale. În ianuarie, xAI a declarat că a restricționat editarea imaginilor pentru utilizatorii Grok AI și a blocat utilizatorii, în funcție de locația lor, să genereze imagini cu persoane îmbrăcate provocator în „jurisdicții unde acest lucru este ilegal”.
Nu a identificat țările respective.