Riscuri majore în utilizarea tehnologiei AI în sănătate
OpenAI, cunoscutul dezvoltator al tehnologiei ChatGPT, a lansat recent Whisper, un instrument de transcriere bazat pe inteligență artificială. Deși prezentat ca având o "soliditate și o acuratețe apropiată de nivelul uman", Whisper se confruntă cu critici severe din partea experților, care susțin că acesta este predispus să inventeze fragmente de text, inclusiv propoziții complete.
Conform interviurilor realizate cu peste 10 ingineri de software, dezvoltatori și cercetători universitari, "halucinațiile" generate de Whisper includ nu doar erori minore, ci și tratamente medicale imaginare, retorică violentă și comentarii rasiale. Aceste descoperiri ridică semne de întrebare cu privire la utilizarea sa în domenii critice precum sănătatea publică.
Utilizarea rapidă a Whisper în spitale pentru transcrierea consultațiilor pacienților este alarmantă, având în vedere că OpenAI a avertizat că acest instrument nu ar trebui folosit în "domenii cu risc ridicat". Alondra Nelson, fostă conducătoare a Biroului de politici științifice și tehnologice al Casei Albe, a subliniat că astfel de erori pot avea "consecințe extrem de serioase" în sectorul medical.
Peste 30.000 de medici și 40 de sisteme de sănătate din SUA, inclusiv Clinica Mankato din Minnesota și Spitalul de Copii din Los Angeles, au început să adopte tehnologia Whisper. Nelson a declarat: "Nimeni nu își dorește un diagnostic greșit. Ar trebui să existe un standard mai ridicat". De asemenea, Whisper este folosit pentru a crea subtitrări pentru persoanele surde și cu deficiențe de auz, un grup expus unui risc crescut de erori de transcriere.
În contextul în care tehnologia avansează rapid, este esențial ca instituțiile medicale să reevalueze utilizarea instrumentelor bazate pe AI și să asigure că acestea îndeplinesc standarde de siguranță și precizie necesare pentru a proteja sănătatea pacienților.