Riscurile rezumatelor AI
O investigație publicată de The Guardian a scos în evidență un risc major legat de modul în care Google afișează pe prima pagină a rezultatelor rezumatele generate de inteligența artificială, cunoscute sub numele de AI Overviews. Aceste fragmente automate de text, create de algoritmi pentru a sintetiza rapid informații despre întrebări frecvente din căutări, pot conține sfaturi medicale eronate sau periculoase, punând în pericol sănătatea utilizatorilor care se bazează pe ele fără a verifica sursa originală. Potrivit The Guardian, funcția AI Overviews a fost introdusă pentru a oferi utilizatorilor o sinteză a celor mai relevante date imediat ce își încep căutarea în Google. În loc să deschidă un articol sau un link, motorul de căutare plasează deasupra rezultatelor tradiționale un bloc generat de inteligență artificială care, teoretic, ar trebui să ajute utilizatorul să înțeleagă subiectul mai rapid. Însă această tehnologie, deși promovată de companie ca fiind “utile și de încredere”, a început să genereze semne de întrebare serioase cu privire la acuratețea sa, mai ales în domenii sensibile cum ar fi sănătatea.
Mecanismul AI Overviews își bazează rezumatele pe învățarea dintr-un volum imens de date de pe internet și își sintetizează răspunsurile folosind inteligența artificială. Deși funcția este concepută să economisească timp, experții avertizează că rezultatele pot fi incomplete, scoase din context sau – în anumite cazuri – complet greșite, dacă modelul nu interpretează corect complexitatea subiectelor medicale. Conform investigației, unele dintre cele mai problematice erori se referă la sfaturi medicale ce pot afecta deciziile persoanelor bolnave. Într-un exemplu descris ca „extrem de periculos”, rezumatul AI a recomandat pacienților cu cancer pancreatic să evite alimentele bogate în grăsimi, ceea ce contrazice recomandările medicale standard și ar putea reduce șansele de supraviețuire deoarece afectează aportul caloric necesar în tratament.
Alte situații includ informații greșite despre testele de funcție hepatică, unde rezumatele nu au luat în calcul factori esențiali precum vârsta, sexul sau etnia pacienților, ceea ce poate face ca un rezultat anormal să fie interpretat ca normal. Într-un alt caz, informațiile afișate despre simptomele și testele pentru cancerul vaginal au fost complet inexacte, riscând să deturneze utilizatorii de la consultarea medicală corectă. Aceste erori pot avea consecințe grave. Specialiști din organizații de sănătate au avertizat că informațiile inexacte despre starea de sănătate pot determina persoane să ignore simptome reale, să întârzie consultul medical sau să ia decizii care le pot afecta grav sănătatea.
Organizații caritabile și profesioniști din domeniul medical au fost printre cei mai vocali critici ai acestor rezumate automate. Reprezentanții unor instituții precum Pancreatic Cancer UK și British Liver Trust au atras atenția că sfaturile inexacte promovate prin AI pot duce la pierderea tratamentului sau la renunțarea la îngrijirea necesară. Reprezentanții unor organizații pentru sănătate mintală au ridicat, de asemenea, probleme legate de modul în care rezumatele AI tratează subiecte sensibile precum psihiatria sau tulburările alimentare, unde informațiile incomplete sau eronate pot încuraja comportamente dăunătoare în loc să sprijine utilizatorii în găsirea unor resurse de ajutor.
Reprezentanții Google susțin că majoritatea rezumatelor generate de AI sunt corecte și provin din surse de încredere și că polițele companiei prevăd revizuirea și corectarea conținutului problematic atunci când acesta este identificat. Compania a afirmat că aceste rezumate au o rată de acuratețe comparabilă cu funcțiile tradiționale de afișare a snippet-urilor, dar recunoaște că pot apărea erori și că lucrează continuu la îmbunătățiri. Pe de altă parte, critici independenți și experți în AI spun că utilizatorii tind să aibă încredere în informațiile afișate la începutul căutării, fără să verifice sursele originale, ceea ce poate amplifica impactul negativ al unor date incorecte sau scoase din context. Acest fenomen pune în discuție rolul algoritmilor în influențarea opiniei publice și riscul ca inteligența artificială să devină un filtru decisiv în accesul la informație, mai ales în domenii critice precum sănătatea.
Pe lângă riscurile directe pentru sănătate, cercetări academice arată că rezumatele generate de AI pot influența semnificativ modul în care utilizatorii își formează opiniile și credințele despre un subiect. Un studiu recent a constatat că plasarea rezumatelor AI în partea superioară a paginii de căutare poate modela percepțiile utilizatorilor, chiar dacă aceștia nu parcurg conținutul original, ceea ce ridică întrebări despre responsabilitatea designului acestor instrumente.
Aceste constatări sugerează că tehnologiile bazate pe inteligența artificială care sintetizează informații pentru utilizatorii de internet ar putea avea un impact amplu asupra educației, sănătății și atitudinilor sociale, dacă nu sunt însoțite de garanții solide de calitate și transparență.