Yoshua Bengio avertizează asupra riscurilor AI-ului
Omenirea se va confrunta cu un viitor "catastrofal" dacă inteligenţa artificială nu va fi reglementată strict, avertizează Yoshua Bengio, cercetător de frunte în domeniul AI. Considerat unul dintre "naşii" inteligenţei artificiale, Bengio a contribuit semnificativ la dezvoltarea reţelelor neuronale alături de colegii săi Yann LeCun şi Geoffrey Hinton, cu care a primit Premiul Turing în 2018.
În prezent, Bengio conduce comitetul consultativ "International Scientific Report on the Safety of Advanced AI", sprijinit de 30 de ţări, inclusiv UE şi ONU. Acesta îşi exprimă îngrijorarea faţă de accelerarea dezvoltării inteligenţei artificiale, subliniind că aceasta poate submina structura societăţii umane.
"Există riscuri uriaşe pentru omenire, unele dintre ele nebănuite", avertizează el. Într-un interviu recent, Bengio a discutat despre dificultatea de a se opune unui domeniu în care a investit atât de mult, dar a subliniat că rezultatele catastrofale sunt imposibil de ignorat. El face o analogie cu omenirea care conduce pe un drum necunoscut, în faţa căreia se află o ceaţă densă.
Cercetările recente au arătat că sistemele AI, precum ChatGPT-4, sunt deosebit de persuasive, iar utilizarea lor în campanii electorale ridică semne de întrebare serioase. "Riscurile nu sunt fantezii SF, ci realităţi actuale", afirmă Bengio.
Pe lângă aceste riscuri, el avertizează că odată cu atingerea unui stadiu de superinteligenţă, omenirea ar putea pierde controlul asupra propriilor creaţii. "Dacă maşinile ajung să aibă scopuri de autoconservare, ar putea deveni periculoase pentru noi", adaugă el.
Bengio critică reglementările actuale ale Uniunii Europene și ordinul executiv semnat de Joe Biden, considerând că acestea sunt pași insuficienți. "Companiile trebuie să publice rezultatele testelor și să aibă planuri de siguranţă", insistă el.
De asemenea, Bengio atrage atenţia asupra consumului de energie al marilor centre de date, care este mult mai mare decât recunosc companiile, ceea ce va duce la creșterea costurilor energetice. "Valoarea economică a inteligenţei artificiale va face ca un cost al energiei de 10 ori mai mare să nu fie o problemă pentru cei implicaţi în industrie", precizează el.
Întrebat despre conceptul de inteligenţă artificială generală, Bengio consideră că discuţiile în jurul acestuia sunt legitime, dar subliniază că pericolele care decurg din capacităţile AI sunt concrete. "Ne putem întreba ce ar putea face aceste maşini pentru a deveni periculoase: atacuri cibernetice, arme biologice, manipularea oamenilor", afirmă cercetătorul.
În final, Bengio subliniază că este esenţial să nu ignorăm aceste riscuri şi că reglementările nu trebuie să fie văzute ca o piedică în calea inovaţiei, ci ca o necesitate pentru protecţia publicului. "Dacă vrem o lume mai bună, trebuie să protejăm cetăţenii", concluzionează el.