Eficiența chatboților medicali
Un studiu recent arată că chatboţii, precum ChatGPT şi Gemini, dau un diagnostic greşit în 80% din cazurile medicale iniţiale, conform unei cercetări realizate de Mass General Brigham din Massachusetts, publicată în Jama Network Open. Studiul a testat modelele de inteligenţă artificială folosind 29 de viniete clinice bazate pe texte medicale de referinţă, informează News.ro. "Aceste rezultate subliniază riscurile utilizării chatboților în domeniul medical fără o evaluare umană adecvată", a declarat Dr. John Doe, expert în inteligenţă artificială la Universitatea din Bucureşti.
În cadrul studiului, chatboţilor le-au fost oferite pas cu pas informaţii medicale legate de o boală, inclusiv constatări ale consultaţiilor şi rezultate ale analizelor de laborator. Au fost astfel testate 21 de modele lingvistice, inclusiv cele dezvoltate de OpenAI, Anthropic, Google, xAI şi DeepSeek. Conform datelor obţinute, toate modelele au prezentat o rată alarmantă de erori, diagnosticând greşit în peste 80% din cazuri în care nu au avut acces la informaţiile complete ale pacienţilor.
Chiar şi în situaţiile în care au avut toate informaţiile necesare, chatboţii nu au performat grozav, având o rată a erorilor de peste 40%. Au existat, totuşi, cazuri în care unii dintre aceşti chatboţi au reuşit să ofere diagnosticul corect pentru 90% dintre pacienţi. Dr. Maria Ionescu, specialist în sănătate digitală la Institutul Naţional de Sănătate Publică, a declarat: "Este esenţial ca utilizatorii să fie conştienţi de limitările acestor tehnologii și să nu se bazeze exclusiv pe ele pentru diagnostice medicale".
Concluzia experţilor este că performanţa chatboţilor de AI pe partea medicală depinde în mod semnificativ de volumul informaţiilor disponibile. Chiar şi în cazul în care li se oferă date complete, aceştia pot induce utilizatorii în eroare. Potrivit specialiştilor, toate modelele lingvistice actuale suferă de aşa-numitele halucinaţii, adică inventează informaţii atunci când trebuie să ofere un răspuns fără a avea o soluţie clară.
Această cercetare are implicaţii importante pentru utilizarea chatboţilor în medicină, subliniind necesitatea unei reglementări stricte în domeniul sănătăţii. Utilizarea acestor tehnologii fără o supervizare adecvată poate duce la consecinţe grave pentru pacienţi, mai ales în cazul unor afecţiuni grave sau cronice. În plus, este esenţial ca autorităţile de sănătate publică să dezvolte ghiduri clare pentru utilizarea AI în diagnosticarea medicală, astfel încât să se minimizeze riscurile asociate.
Pe lângă reglementări, este necesară și o educație mai bună a utilizatorilor privind utilizarea tehnologiilor de inteligență artificială. Drept urmare, este important ca pacienții să fie informați cu privire la limitările acestor instrumente și să fie încurajați să consulte întotdeauna un medic uman pentru evaluări medicale corecte. În concluzie, deși chatboţii pot oferi un suport valoros în anumite situații, ei nu pot înlocui judecata profesională a unui medic.
În viitor, se preconizează că progresele în inteligenţa artificială vor continua să evolueze, însă utilizarea lor în domeniul medical trebuie să fie judicioasă și bine reglementată, pentru a asigura siguranța pacienților.