Avertisment de la un analist
Un analist a monitorizat programul de inteligență artificială Copilot de la Microsoft și a descoperit numeroase erori, potrivit publicației Futurism. Dennis Xu, analist de cercetare la firma Gartner, a aflat că programul a inventat unele lucruri, a expus parole și a dezvăluit e-mailuri confidențiale. Descoperirea a stârnit temeri legate de securitate, deoarece utilizarea sa în medii corporative și guvernamentale devine mai frecventă. Dennis Xu a sugerat ca firmele care utilizează Copilot să îl interzică în după-amiaza zilei de vineri, dar și în weekend. Register anunță că avertismentul, pe jumătate în glumă, pe jumătate serios, a venit la un panel Gartner intitulat „Atenuarea celor mai importante 5 riscuri de securitate Microsoft 365 Copilot”, care a avut loc la Sydney, Australia. „Copilot face documentele partajate excesiv mai accesibile. Acesta nu este un risc nou, ci un risc cunoscut, dar amplificat de inteligența artificială”, a avertizat Xu. Xu a petrecut 30 de minute vorbind despre cele cinci riscuri, dintre care 20 au fost dedicate înclinației Copilot de a expune date sensibile. Concluzia experților a fost că interdicția de vineri după-amiază ar trebuie să fie impusă tuturor programelor cu inteligență artificială.
Motivul este că la începutul weekend-ului nu există oameni care să supravegheze activitățile programelor IA. Asta în condițiile în care programele produc erori, unele potențial periculoase. Dennis Xu a continuat să sublinieze că utilizarea Copilot în medii sensibile, cum ar fi cele guvernamentale sau corporative, trebuie să fie reglementată cu strictețe. Potrivit unui raport Gartner din 2023, utilizarea inteligenței artificiale în companii a crescut cu 40% față de anul anterior, ceea ce accentuează necesitatea unei evaluări riguroase a riscurilor.
În România, utilizarea inteligenței artificiale în sectorul public și privat este în expansiune rapidă, iar autoritățile locale sunt în căutarea unor soluții pentru a proteja datele sensibile. De exemplu, în București, primăria a început să implementeze soluții de inteligență artificială pentru gestionarea traficului, dar specialiștii subliniază că trebuie să existe o structură de monitorizare eficientă. Conform unui studiu al Institutului Național de Statistică (INS) din 2025, 65% dintre companiile românești consideră că inteligența artificială va avea un impact semnificativ asupra afacerilor lor în următorii cinci ani.
Criticii avertizează că fără o reglementare corespunzătoare, utilizarea necontrolată a programelor de inteligență artificială poate duce la pierderi semnificative de date și la expunerea informațiilor confidențiale. Reprezentanții Ministerului Cercetării și Inovării au declarat recent că lucrează la un cadru legislativ pentru a proteja datele personale în era digitală. De asemenea, experții din domeniu subliniază că educația și formarea continuă a angajaților sunt esențiale pentru a preveni riscurile asociate utilizării inteligenței artificiale.
În concluzie, recomandarea de a interzice utilizarea inteligenței artificiale în după-amiaza zilei de vineri și în weekend ar putea fi un pas necesar pentru a preveni eventualele breșe de securitate. În contextul în care tehnologia avansează rapid, este imperativ ca organizațiile să impună măsuri de siguranță stricte și să dezvolte politici clare pentru utilizarea responsabilă a inteligenței artificiale.
Următorii pași vor include consultarea experților și elaborarea unor linii directoare care să asigure utilizarea în siguranță a acestor tehnologii avansate.