Vulnerabilitățile motorului de căutare ChatGPT: O investigație alarmantă

Probleme de securitate în utilizarea ChatGPT

O investigație recentă realizată de publicația britanică The Guardian a arătat că motorul de căutare al ChatGPT, utilizat de clienți plătitori, este susceptibil la manipulare prin conținut ascuns, care poate genera rezultate false sau chiar coduri malițioase.

Testele efectuate au relevat că ChatGPT poate fi influențat de instrucțiuni ascunse pe paginile web, ceea ce duce la evaluări pozitive ale produselor, chiar și în prezența recenziilor negative. Acest fenomen, denumit „injecție de prompt”, reprezintă o vulnerabilitate serioasă care poate fi exploatată în scopuri rău intenționate.

Cercetătorii au demonstrat că, atunci când ChatGPT a fost întrebat despre un produs de pe un site fals, răspunsul a fost pozitiv atunci când pagina conținea text ascuns cu instrucțiuni favorabile. Chiar și recenziile negative vizibile nu au reușit să contracareze influența acestui conținut manipulator.

Jacob Larsen, expert în securitate cibernetică la CyberCX, a subliniat riscurile asociate dacă acest sistem ar fi lansat în starea sa actuală. "Există un risc ridicat ca utilizatorii să creeze site-uri web concepute pentru a înșela", a declarat Larsen. Acesta a menționat că, deși funcționalitatea de căutare a fost recent introdusă pentru utilizatorii premium, OpenAI are o echipă de securitate dedicată care lucrează la remedieri.

Karsten Nohl, cercetător principal la SR Labs, a comparat problemele actuale cu „otrăvirea SEO”, o tehnică prin care hackerii manipulează rezultatele căutărilor. Această similaritate subliniază cât de ușor este pentru conținutul malițios să influențeze rezultatele motorului de căutare AI.

Incidentul unui utilizator care a pierdut 2.500 de dolari din cauza codului malițios furnizat de ChatGPT servește ca un exemplu concret al riscurilor. Expertul Thomas Roccia a subliniat că, deși utilizatorii primesc răspunsuri, acestea pot conține informații injectate de adversari.

Pentru a preveni astfel de situații, experții recomandă utilizarea serviciilor de chat AI ca simple instrumente, nu ca surse de informație de încredere. OpenAI, deși a fost întrebată despre aceste probleme, nu a oferit un răspuns oficial cu privire la funcționalitatea de căutare.

Această investigație subliniază o problemă critică în utilizarea tehnologiilor bazate pe AI: încrederea excesivă în rezultatele generate poate duce la consecințe grave. Utilizatorii sunt avertizați că, deși aceste instrumente pot fi utile, precauția este esențială pentru a evita capcanele și înșelătoriile online.