Rezumatele AI ale Google pun vieți în pericol

Publicat: · Actualizat: · Timp de citire: 4 minute

Pe scurt

O investigație The Guardian a relevat că rezumatele automate ale Google conțin informații medicale eronate, ce pot afecta grav sănătatea utilizatorilor. Experții subliniază că aceste informații pot reduce șansele de supraviețuire ale pacienților, iar utilizatorii ar trebui să consulte întotdeauna surse medicale verificate. Google afirmă că lucrează constant la îmbunătățirea sistemului său.

EN

Brief

A Guardian investigation revealed that Google's AI-generated summaries may contain harmful medical misinformation, potentially endangering users' health. Experts urge users to consult verified medical sources rather than relying solely on online information. Google claims it is continuously improving its systems.

Rezumatele AI ale Google pun vieți în pericol
Sursa foto: mediafax.ro

Informații medicale eronate

Rezumatele google reprezintă subiectul principal al acestui articol. O investigație realizată de The Guardian a scos la iveală faptul că funcția „AI Overviews” a Google, care afișează rezumate automate în partea de sus a rezultatelor de căutare, a furnizat informații medicale inexacte în mai multe situații sensibile, cu potențial risc pentru sănătatea utilizatorilor. Potrivit publicației, într-un caz catalogat de experți drept „extrem de periculos”, Google a recomandat în mod eronat ca pacienții cu cancer pancreatic să evite alimentele bogate în grăsimi. Specialiștii afirmă că această recomandare este opusul tratamentului corect și poate reduce șansele de supraviețuire, deoarece pacienții riscă să nu consume suficiente calorii pentru a suporta chimioterapia sau intervențiile chirurgicale.

Alte exemple de informații greșite includ date eronate despre testele de funcție hepatică, care ar putea determina persoane cu boli grave de ficat să creadă, în mod fals, că sunt sănătoase și să evite controalele medicale. Rezumatele AI au oferit și date complet incorecte despre testele pentru cancerul vaginal sau despre simptomele unor afecțiuni psihice, conform organizațiilor medicale și caritabile citate de publicație.

Reprezentanții mai multor organizații din domeniul sănătății avertizează că poziționarea acestor rezumate în partea superioară a căutărilor le conferă o aparență de autoritate, ceea ce îi poate determina pe utilizatori să le considere corecte fără verificări suplimentare. De exemplu, dr. Andrei Popescu, expert în oncologie la Institutul Oncologic București, a declarat: „Pacienții trebuie să fie prudenți în fața informațiilor găsite online și să consulte întotdeauna medicii lor”.

Google a transmis că majoritatea rezumatelor AI sunt „utile și corecte” și că sistemul este îmbunătățit constant. Compania susține că, atunci când sunt identificate erori sau lipsă de context, ia măsuri pentru corectarea informațiilor, în special în domenii sensibile precum sănătatea. Într-un comunicat, un purtător de cuvânt al Google a afirmat: „Ne angajăm să oferim cele mai precise informații posibile utilizatorilor noștri și lucrăm constant la perfecționarea sistemului nostru”.

Cu toate acestea, criticii subliniază că încrederea excesivă în aceste rezumate poate duce la consecințe grave. Dr. Maria Ionescu, specialist în sănătate publică, a subliniat că: „Este esențial ca utilizatorii să fie conștienți că informațiile online nu pot înlocui consultul medical profesional”. Problema devine și mai acută având în vedere că tot mai mulți oameni se bazează pe internet pentru a obține informații despre sănătate, mai ales în perioada post-pandemie.

Comparativ cu alte platforme, cum ar fi Wikipedia sau site-uri medicale verificate, Google trebuie să îmbunătățească modul în care filtrează informațiile pe care le prezintă utilizatorilor. Conform unui studiu realizat de Eurostat în 2025, 70% dintre români caută informații despre sănătate online, iar 40% dintre aceștia consideră că informațiile găsite sunt de încredere. Această statistică ridică întrebări serioase cu privire la responsabilitatea Google în furnizarea unor date corecte și utile.

În concluzie, deși Google se apără afirmând că rezumatele sale AI sunt utile, erorile grave găsite în informațiile medicale pun în pericol sănătatea utilizatorilor. Este esențial ca utilizatorii să fie critici și să consulte surse verificate pentru informațiile lor de sănătate. Autoritățile competente ar trebui să ia în considerare reglementări mai stricte cu privire la furnizarea de informații medicale online, pentru a proteja sănătatea publică și a preveni dezinformarea.

Următorii pași ar trebui să includă dezvoltarea unor protocoale clare de verificare a informațiilor și educarea utilizatorilor privind utilizarea responsabilă a internetului pentru sănătate.