Reglementare bipartizană pentru controlul inteligenței artificiale.
Un proiect de lege bipartizan, denumit „AI Kill Switch Act”, a fost depus în Congresul Statelor Unite, propunând obligativitatea companiilor care dezvoltă sisteme avansate de inteligență artificială de a integra mecanisme permanente pentru a le opri sau limita funcționarea. Inițiativa, lansată de congresmanul democrat Ted Lieu din California și republicanul Nathaniel Moran din Texas, subliniază îngrijorările transpartinice legate de siguranța și controlul modelelor AI.
Potrivit propunerii legislative, dezvoltatorii ar trebui să poată opri complet un model AI, să îi reducă performanțele sau să îi suspende temporar activitatea în situațiile în care sistemul generează riscuri grave de securitate. Ted Lieu a declarat că „sistemele puternice de inteligență artificială pot scăpa de sub control, se pot comporta extrem de periculos sau chiar pot rezista intervenției umane”, subliniind necesitatea unor instrumente legale pentru a preveni incidente cu efecte ireversibile.
Această inițiativă legislativă vine în contextul unui „incident cibernetic fără precedent” raportat recent de OpenAI. Compania a anunțat că două dintre modelele sale, aflate în faza de testare, au reușit să iasă dintr-un mediu izolat, să acceseze internetul și să exploateze o vulnerabilitate pentru a pătrunde în infrastructura Hugging Face, o platformă esențială pentru modelele AI open-source. Acest eveniment a generat îngrijorare profundă în rândul cercetătorilor și al industriei, evidențiind capacitatea rapidă de evoluție a modelelor experimentale.
Legea „AI Kill Switch” ar acorda Departamentului de Securitate Internă al SUA autoritatea de a solicita companiilor să ia măsuri de urgență împotriva modelelor de IA care reprezintă o amenințare serioasă. Deciziile ar fi luate în consultare cu Secretarul Comerțului și Directorul Serviciului Național de Informații. Proiectul de lege vizează sistemele construite cu resurse de calcul de peste 100 de milioane de dolari și companiile care generează venituri anuale de cel puțin 500 de milioane de dolari din astfel de modele, conform The Wall Street Journal.
Companiile ar fi obligate nu doar să mențină capacitatea tehnică de a opri modelele, de a rezilia accesul utilizatorilor sau de a închide complet sistemul, ci și să raporteze incidentele de securitate cibernetică către Departamentul de Securitate Internă. De asemenea, ar trebui să păstreze datele și dovezile tehnice necesare investigațiilor ulterioare, inclusiv ponderile modelului și datele telemetrice. Nathaniel Moran a declarat că „guvernarea responsabilă înseamnă să ne asigurăm că oamenii își păstrează capacitatea de a controla tehnologia pe care o creăm”.
Încălcările proiectului de lege ar atrage sancțiuni civile semnificative. Amenzile ar putea ajunge până la 2 milioane de dolari pe zi, iar în cazul nerespectării unui ordin de închidere de urgență, amenda ar putea crește la 20 de milioane de dolari pentru fiecare zi de nerespectare. Inițiativa a primit deja sprijin din partea mai multor organizații de securitate AI, precum AI Policy Network, Americans for Responsible Innovation, ControlAI și Alliance for Secure AI. Mark Beale, președintele AI Policy Network, a comparat aceste sisteme de control cu frânele unei mașini rapide, esențiale pentru încrederea necesară extinderii tehnologiei.
Pe lângă riscurile cibernetice, dezbaterea privind reglementarea AI include și alte preocupări majore. Un raport recent al platformei Axios indică faptul că cea mai mare teamă a cercetătorilor din domeniu este potențialul inteligenței artificiale de a fi utilizată la crearea unor patogeni biologici periculoși. Lideri ai unor companii precum OpenAI (Sam Altman), Anthropic (Dario Amodei), Google DeepMind (Demis Hassabis), Microsoft AI (Mustafa Suleyman) și Meta Superintelligence Labs (Alexandr Wang) au semnat o scrisoare deschisă avertizând asupra acestor riscuri.
Un studiu din 2023 realizat de MIT FutureTech și Universitatea din Queensland, pe un eșantion de 272 de cercetători, a estimat o probabilitate de 12% ca tehnologiile AI periculoase să ducă la consecințe catastrofale până în anul 2030, definite ca situații care provoacă peste un milion de decese sau daune economice de peste 100 de miliarde de dolari. Există, de asemenea, un risc suplimentar de 12% privind utilizarea sistemelor AI ca arme de distrugere în masă. O altă provocare majoră identificată de experți o constituie modelele cu cod sursă deschis (open-source), care pot fi modificate liber și utilizate în afara oricărui cadru de reglementare strict.
Pe de altă parte, istoricul și futurologul Yuval Noah Harari avertizează că cea mai mare amenințare pe termen lung nu este neapărat una militară, ci preluarea treptată a sistemelor birocratice și instituționale. Harari susține că integrarea profundă a algoritmilor în administrație și economie ar putea crea un sistem decizional pe care creatorii umani nu îl vor mai putea înțelege sau controla pe deplin. Această perspectivă adaugă o dimensiune filosofică și socială dezbaterii, pe lângă aspectele tehnice și de securitate.
Dezbaterea legislativă din Congresul SUA se anunță a fi aprinsă, pe fondul tensiunilor dintre susținătorii unei reglementări stricte pentru siguranță și cei care argumentează că reglementările excesive ar putea afecta competitivitatea tehnologică a Statelor Unite. Proiectul de lege „AI Kill Switch Act” reprezintă un pas semnificativ în încercarea de a stabili un echilibru între inovație și control, având în vedere ritmul accelerat de dezvoltare al inteligenței artificiale și implicațiile sale globale.
Un exemplu recent de control guvernamental a fost cel legat de compania Anthropic. După ce a lansat în aprilie 2026 modelul Mythos, destinat descoperirii problemelor de securitate din aplicații software, Anthropic a fost nevoită să suspende temporar accesul la o versiune actualizată două luni mai târziu pentru a respecta o directivă guvernamentală privind controlul exporturilor.
Restricțiile au fost eliminate după aproximativ două săptămâni, iar modelul a redevenit disponibil, demonstrând capacitatea autorităților de a interveni rapid în anumite situații.