Informatii false generate de Inteligența Artificială
Un program de Inteligență Artificială (AI) integrat în motorul de căutare DuckDuckGo a generat recent informații false șocante, susținând că fostul președinte american Donald Trump și vicepreședintele JD Vance ar fi murit din cauza rabiei. Incidentul, raportat de publicația Futurism, a redeschis discuția despre acuratețea și pericolele dezinformării propagate de sistemele AI.
Potrivit răspunsului furnizat de AI-ul DuckDuckGo, Donald Trump ar fi decedat pe 7 iunie 2026, iar infecția ar fi fost "legată de o serie de evenimente în care a fost implicat și vicepreședintele JD Vance, care a murit cu puțin timp înaintea lui Trump". Programul a oferit detalii macabre, incluzând secțiuni intitulate "Data decesului" și "Circumstanțele morții sale", și a făcut trimitere eronată la surse precum wkna49.com și abcnews.com pentru a-și susține afirmațiile false. Mai mult, răspunsul menționa tratamente neconvenționale recomandate de Robert F. Kennedy Jr. și includea o imagine a lui Donald Trump, conferind un fals aer de credibilitate.
Acest caz subliniază o problemă fundamentală a sistemelor AI generative: tendința de a "halucina" sau de a inventa informații, mai ales atunci când se bazează pe date de antrenament care includ conținut umoristic, satiric sau, pur și simplu, fals. Experții, citați de presa românească, atrag atenția că astfel de situații sunt extrem de periculoase. În cazul Trump-Vance, numeroși utilizatori au crezut informația ca fiind reală, deplângând decesele, demonstrând impactul imediat și potențialul de dezinformare la scară largă.
Dezvoltarea rapidă a inteligenței artificiale a adus în prim plan nu doar beneficiile, ci și riscurile asociate cu generarea de conținut. Un studiu recent realizat de startup-ul de inteligență artificială Oumi, la solicitarea publicației The New York Times, a analizat funcția AI Overviews din Google, o altă inițiativă majoră în integrarea AI în căutările online. Rezultatele au arătat că, deși aproximativ 90% dintre răspunsurile generate de AI sunt corecte, restul de 10% reprezintă o provocare semnificativă. Având în vedere că Google procesează anual peste cinci mii de miliarde de căutări, chiar și un procent redus de erori se traduce în zeci de milioane de răspunsuri incorecte în fiecare oră și sute de mii în fiecare minut. Această scală a erorilor este alarmantă și necesită o abordare mult mai riguroasă a verificării informațiilor.
Raportul Oumi a evidențiat și o altă problemă crucială: în peste jumătate dintre răspunsurile analizate de AI-ul Google, sursele indicate de sistem nu susțineau în totalitate concluziile prezentate. Această lipsă de transparență și de verificare a surselor subminează încrederea utilizatorilor și face dificilă distingerea adevărului de ficțiune. Comparativ, cazul DuckDuckGo demonstrează că nu doar giganții tech se confruntă cu aceste provocări, ci și motoarele de căutare mai mici care adoptă tehnologii similare. Deși DuckDuckGo se axează pe confidențialitate, integrarea AI-ului său aduce în discuție responsabilitatea platformelor de a asigura acuratețea informațiilor.
De ce contează
Acest incident cu AI-ul DuckDuckGo este mai mult decât o simplă eroare tehnică; el subliniază vulnerabilitatea societății la dezinformarea generată automat și necesitatea urgentă de reglementări și standarde etice stricte în dezvoltarea AI. Consecințele pot varia de la panică publică, așa cum s-a întâmplat cu presupusele decese ale lui Trump și Vance, până la manipularea opiniei publice în perioade electorale sau crize. Lipsa de discernământ a AI-ului în a distinge între glumă și fapt real, combinată cu o prezentare autoritară, poate eroda încrederea în sursele de informații online și poate avea implicații grave asupra coeziunii sociale și a proceselor democratice.
Pe termen scurt, incidentul DuckDuckGo va intensifica presiunea asupra dezvoltatorilor de AI de a îmbunătăți mecanismele de verificare a faptelor și de a reduce "halucinațiile". Pe termen lung, se anticipează o dezbatere globală mai intensă privind reglementarea AI, inclusiv potențiale legi care să impună transparență privind sursele de date și responsabilitatea pentru conținutul generat. Comisia Europeană, de exemplu, a adoptat deja Actul privind Inteligența Artificială în 2024, care impune cerințe stricte pentru sistemele AI cu risc ridicat, un model pe care alte state ar putea să-l urmeze.
Rămâne de văzut cum vor echilibra companiile tehnologice inovația cu responsabilitatea, într-o eră în care granița dintre realitate și ficțiune devine tot mai neclară.