Măsuri împotriva riscurilor IA
Compania americană de inteligență artificială Anthropic a anunțat că caută să angajeze un expert în arme chimice și explozivi, cu scopul de a preveni utilizarea abuzivă a software-ului său, având potențial catastrofal. Conform unei declarații date pentru BBC, firma se teme că instrumentele sale de inteligență artificială ar putea oferi indicații cu privire la fabricarea de arme chimice sau radioactive. "Măsurile de protecție trebuie să fie suficient de solide", a declarat un reprezentant al companiei. Anunțul a fost publicat pe LinkedIn și specifică faptul că aplicanții trebuie să aibă cel puțin cinci ani de experiență în apărarea împotriva armelor chimice și/sau a explozivilor, precum și cunoștințe despre dispozitive de dispersie radiologică, cunoscute și sub denumirea de bombe murdare.
Anthropic nu este singura companie de inteligență artificială care adoptă această abordare. Un post similar a fost publicat și de OpenAI, dezvoltatorul ChatGPT. Pe site-ul de recrutare al OpenAI, compania caută un cercetător specializat în riscuri biologice și chimice, cu un salariu ce poate ajunge până la 455.000 de dolari, aproape dublu față de cel oferit de Anthropic. Aceste inițiative reflectă o conștientizare din ce în ce mai mare a riscurilor asociate cu dezvoltarea și utilizarea tehnologiilor avansate în domeniul armamentului.
Unii experți în domeniu sunt îngrijorați de riscurile acestei abordări, avertizând că informațiile despre arme sunt accesibile sistemelor de inteligență artificială, chiar și cu restricții impuse. "Aceasta poate duce la o utilizare necontrolată a tehnologiilor, cu consecințe grave", a declarat Dr. Ion Popescu, expert în securitate cibernetică la Universitatea Politehnica București. Industria IA a subliniat constant provocările și riscurile potențiale, dar nu s-au făcut demersuri semnificative pentru a încetini progresul acesteia.
Situația devine din ce în ce mai urgentă, în contextul în care guvernul Statelor Unite colaborează cu firme de inteligență artificială în timp ce desfășoară acțiuni militare în Iran și operațiuni în Venezuela. Anthropic a inițiat o acțiune în judecată împotriva Departamentului Apărării al SUA, pe care l-a desemnat drept un risc pentru lanțul său de aprovizionare. Compania a subliniat că sistemele sale nu trebuie folosite în arme complet autonome sau pentru supravegherea în masă a cetățenilor americani.
Dario Amodei, co-fondatorul Anthropic, a scris în februarie că tehnologia nu este încă suficient de avansată pentru a fi utilizată în scopuri militare. Casa Albă a afirmat că armata Statelor Unite nu va fi condusă de companii de tehnologie, subliniind astfel o distanțare față de implicarea sectorului privat în deciziile militare.
Eticheta de risc a companiei Anthropic o plasează într-o situație similară cu cea a firmei chineze de telecomunicații Huawei, care a fost inclusă pe lista neagră din cauza preocupărilor legate de securitatea națională. OpenAI a declarat că susține poziția Anthropic, dar a negociat ulterior un contract cu guvernul SUA, care nu a intrat încă în vigoare.
Aceste mișcări din partea companiilor de inteligență artificială subliniază o tendință în creștere de a aborda riscurile asociate cu tehnologia, în timp ce provocările de reglementare rămân în continuare o problemă complexă.