Inteligența artificială și armele biologice
Dezvoltatorii de tehnologie solicită Congresului SUA monitorizarea strictă a comenzilor de ADN și ARN sintetic, avertizând că aceleași instrumente care revoluționează medicina pot deveni arme în mâinile actorilor maligni. Directorii celor mai mari companii din domeniul inteligenței artificiale au cerut Congresului Statelor Unite să înăsprească urgent controlul asupra comenzilor de ADN și ARN sintetic. Demersul experimental are ca scop prevenirea utilizării Inteligenței Artificiale în crearea unor patogeni periculoși. Scrisoarea deschisă a fost semnată de nume grele din industrie, printre care șeful OpenAI, Sam Altman, directorul executiv al Anthropic, Dario Amodei, și liderul Google DeepMind, Demis Hassabis, scrie The Wall Street Journal.
Autorii apelului propun obligarea prin lege a companiilor care comercializează acizi nucleici sintetici să verifice riguros identitatea clienților și să analizeze comenzile pentru a depista riscurile potențiale. În cazul în care sunt detectate combinații periculoase de secvențe genetice, aceste comenzi ar trebui blocate automat. Documentul evidențiază faptul că evoluția accelerată a inteligenței artificiale reduce semnificativ barierele tehnice din calea dezvoltării armelor biologice. În opinia semnatarilor, algoritmii care astăzi accelerează descoperirile științifice și conceperea de noi medicamente pot fi exploatați în oglindă de actori statali sau rețele teroriste pentru a genera noi amenințări biologice.
„Sistemele de inteligență artificială se perfecționează într-un ritm amețitor. Pe lângă beneficiile incredibile pentru știință și medicină, există probabilitatea reală ca barierele de cunoaștere – care istoric au împiedicat atacatorii să obțină arme biologice – să slăbească substanțial”, se arată în apelul liderilor din tehnologie. Inițiativa a fost coordonată de două think-tank-uri americane specializate în politici tehnologice. Acestea au descris securitatea biologică drept una dintre puținele teme capabile să unească tabere politice divergente, cercetători de renume și lideri ai unor companii tech aflate într-o competiție acerbă. Pe lista semnatarilor se mai regăsesc Mustafa Suleyman, șeful diviziei de IA a Microsoft, și Alexander Wang, directorul executiv al companiei Scale AI.
În prezent, mecanismele de control din Statele Unite sunt în mare parte voluntare sau se aplică exclusiv organizațiilor care beneficiază de finanțare federală. Susținătorii noilor reguli argumentează că este nevoie de o legislație federală dedicată, care să acopere toți cumpărătorii de acizi nucleici sintetici. Totuși, tabăra criticilor avertizează că introducerea unor bariere birocratice suplimentare ar putea exercita o presiune financiară uriașă asupra startup-urilor și ar risca să încetinească dinamica din industria biotehnologică.
Dean Ball, fost consilier pe probleme de inteligență artificială la Casa Albă și unul dintre organizatorii acestei campanii, susține însă că amploarea riscurilor justifică pe deplin costurile. Potrivit acestuia, verificarea riguroasă a materialelor biologice sintetice reprezintă o măsură de prudență elementară în fața spectrului proliferării armelor biologice. Acest avertisment colectiv survine la scurt timp după ce președintele american Donald Trump a semnat un decret executiv privind supravegherea modelelor de inteligență artificială și securitatea cibernetică. Documentul marchează o nouă abordare a administrației de la Washington în ceea ce privește reglementarea sectorului tehnologic, după revocarea normelor anterioare instituite în mandatul lui Joe Biden.
De la vaccinuri la potențiale arme biologice ADN-ul sintetic reprezintă material genetic creat artificial în laboratoare și poate fi comandat online de la companii specializate, la fel ca alte materiale de cercetare. Tehnologia are numeroase utilizări benefice. Ea contribuie la dezvoltarea vaccinurilor, a unor tratamente inovatoare, la cercetarea biomedicală și chiar la noi metode de stocare a informațiilor digitale. Totuși, experții avertizează că aceeași tehnologie ar putea fi utilizată pentru recrearea sau modificarea unor agenți patogeni periculoși. Marile companii AI cer verificări obligatorii în scrisoarea trimisă legislatorilor americani, semnatarii solicită introducerea unor verificări obligatorii pentru comenzile de ADN sintetic și pentru identitatea cumpărătorilor. În prezent, unele companii efectuează astfel de controale în mod voluntar, însă nu există obligații legale uniforme. Reprezentanții industriei consideră că verificarea comenzilor reprezintă una dintre cele mai eficiente și mai puțin costisitoare măsuri de biosecuritate disponibile în prezent. De asemenea, aceștia cer păstrarea unor evidențe detaliate ale comenzilor, astfel încât eventualele activități suspecte să poată fi urmărite și investigate.
AI reduce barierele de acces la cunoștințe sensibile Potrivit semnatarilor, problema nu este nouă, însă viteza cu care evoluează inteligența artificială schimbă radical situația. Experții susțin că anumite sisteme AI pot deja să ofere răspunsuri la nivelul unor specialiști cu doctorat în virologie pentru întrebări legate de proceduri complexe de laborator. Acest lucru ridică îngrijorări că barierele de cunoaștere care au împiedicat până acum dezvoltarea armelor biologice de către grupuri neautorizate s-ar putea diminua semnificativ în următorii ani.
Avertismente și din mediul academic Îngrijorările nu vin doar din partea industriei tehnologice. La începutul anului, cercetători de la instituții precum Universitatea Oxford, Universitatea Stanford și Universitatea Johns Hopkins au avertizat că accesul necontrolat la anumite baze de date biologice ar putea permite sistemelor AI să contribuie la proiectarea sau îmbunătățirea unor virusuri periculoase. Aceștia au propus dezvoltarea unor mecanisme de verificare a utilizatorilor, precum și sisteme de monitorizare care să permită identificarea eventualelor utilizări abuzive.
Europa pregătește propriile reguli Uniunea Europeană urmărește deja problema prin viitorul Act European pentru Biotehnologie, prezentat de Comisia Europeană în 2025. Documentul avertizează că dezvoltarea rapidă a biotehnologiilor aduce și noi riscuri de biosecuritate, pe măsură ce accesul la aceste tehnologii devine mai larg. Comisia consideră ADN-ul și ARN-ul sintetic drept produse biotehnologice sensibile și propune un cadru comun la nivel european pentru verificarea clienților și raportarea comenzilor suspecte. În prezent, nu există o legislație europeană unitară care să reglementeze în mod direct achizițiile de ADN sintetic.
O nouă provocare pentru era inteligenței artificiale Dezbaterea apare într-un moment în care AI avansează într-un ritm fără precedent, iar specialiștii încearcă să anticipeze efectele secundare ale tehnologiilor emergente.
Dacă până acum discuțiile s-au concentrat în principal pe dezinformare, automatizarea locurilor de muncă sau securitatea cibernetică, tot mai mulți experți avertizează că biosecuritatea ar putea deveni următorul mare front al reglementării inteligenței artificiale.