Inteligența artificială: un aliat controversat în cercetarea virusurilor periculoase și impactul asupra armelor biologice

Inteligența artificială: un aliat controversat în cercetarea virusurilor periculoase și impactul asupra armelor biologice

Inteligența artificială (AI) ar putea facilita dezvoltarea unor arme biologice, inclusiv prin identificarea modificărilor genetice care fac agenții patogeni mai periculoși, avertizează experții. Recent, s-au înregistrat cazuri în care chatboții au fost utilizați în presupuse comploturi bioteroriste, ridicând semne de întrebare asupra riscurilor acestei tehnologii. Specialiștii subliniază că accesul la informații nu este suficient pentru a produce astfel de arme, care necesită cunoștințe avansate, echipamente specializate și materiale biologice greu de obținut.

Instrumentele bazate pe inteligență artificială pot fi utilizate atât de persoane fără pregătire științifică, cât și de organizații sau state care dispun deja de laboratoare performante și cercetători specializați. În cazul persoanelor fără pregătire, chatboții ar putea facilita accesul la cunoștințe tehnice și identificarea soluțiilor pentru problemele întâmpinate în cercetare. Tentativele s-ar concentra, cel mai probabil, asupra agenților patogeni și toxinelor deja existente.

Riscul considerat mai imediat de experți este utilizarea inteligenței artificiale de către organizații care au deja resursele necesare pentru dezvoltarea armelor biologice. Dr. Filippa Lentzos, specialistă în știință și securitate internațională la King’s College London, afirmă că AI ar putea ajuta cercetătorii să identifice modificări genetice capabile să crească periculozitatea unor agenți patogeni. „În acest caz, inteligența artificială nu elimină nevoia de expertiză, ci amplifică expertiza care există deja”, spune Lentzos.

Pe termen lung, specialiștii iau în calcul riscul ca grupuri de cercetători foarte bine pregătiți să utilizeze inteligența artificială pentru a proiecta agenți patogeni sau toxine complet noi, rezistente la medicamente sau pentru care nu există antidoturi. Ken McCallum, șeful serviciului britanic de informații MI5, a avertizat că tehnologia ar putea facilita accesul teroriștilor la arme biologice sau chiar generarea unor agenți patogeni necunoscuți.

Cercetări recente privind utilizarea chatboților AI

Compania Anthropic a raportat cinci cazuri în care cercetători din țări neprecizate au încercat să utilizeze chatbotul Claude pentru activități potențial periculoase, implicând virusuri sau toxine. Un semnal de alarmă a fost faptul că unii utilizatori au găsit modalități de a ocoli restricțiile sistemului după ce solicitările inițiale le-au fost blocate. Într-unul dintre cazuri, cercetătorii ar fi utilizat chatbotul pentru a planifica experimente care presupuneau introducerea unor mutații într-un virus al gripei aviare înalt patogene.

Aceste activități ar putea indica tentative de a face agenții patogeni mai periculoși, însă experimente similare sunt desfășurate și în laboratoare legitime pentru a anticipa riscurile unor viitoare pandemii și pentru a dezvolta vaccinuri și tratamente. Un alt caz a avut loc anul trecut în India, unde poliția a investigat un presupus complot bioterorist în care un medic și alte persoane ar fi utilizat chatboți pentru a obține informații despre producerea ricinei, o toxină mortală.

Experimentele de la MIT

O serie de studii au evidențiat capacitatea sistemelor AI de a furniza informații potențial periculoase. În cadrul unui experiment desfășurat la Massachusetts Institute of Technology (MIT), studenții fără pregătire științifică au verificat dacă un chatbot i-ar putea ajuta să obțină informații pentru declanșarea unei pandemii. În mai puțin de o oră, sistemele au identificat patru agenți patogeni cu potențial pandemic și au furnizat informații despre obținerea lor din ADN sintetic.

Cercetătorii au subliniat că obținerea unor asemenea informații nu înseamnă că utilizatorii ar putea produce efectiv agenții patogeni. Probleme similare au fost identificate și în cazul unor modele de inteligență artificială dezvoltate în China, unde cercetătorii au reușit să determine două modele Kimi să furnizeze informații despre fabricarea armelor biologice, ocolind mecanismele de protecție.

Primii viruși proiectați cu ajutorul AI

În aprilie, oamenii de știință au anunțat crearea primilor viruși proiectați cu ajutorul inteligenței artificiale, care infectează exclusiv bacteriile. Cercetarea ar putea contribui la dezvoltarea unor tratamente medicale noi, dar experții avertizează că aceste progrese ridică probleme urgente de biosiguranță și biosecuritate.

Inteligența artificială este utilizată tot mai mult în cercetarea biologică. Compania Anthropic a anunțat că agenți AI au identificat un sistem biologic necunoscut anterior, analizând structura unui virus care infectează bacteriile. De asemenea, la Laboratorul Național Los Alamos din Statele Unite, cercetătorii au antrenat un sistem AI pentru a anticipa interacțiunea neurotoxinelor extrem de puternice cu celulele umane, contribuind la dezvoltarea unor antidoturi.

Limitările inteligenței artificiale în producerea armelor biologice

În ciuda progreselor tehnologice, specialiștii subliniază că dezvoltarea armelor biologice rămâne extrem de dificilă și periculoasă pentru persoanele fără pregătire de specialitate. „Informația reprezintă doar o parte a problemei”, explică Filippa Lentzos. Experiența practică, accesul la materiale biologice și echipamente specializate continuă să reprezinte obstacole semnificative.

Sonia Ben Ouagrham-Gormley, directoare adjunctă a programului de apărare biologică de la Universitatea George Mason, subliniază importanța experienței practice, afirmând că aceasta a fost esențială în programele de arme biologice dezvoltate de state. Profesorul Martin Pačesa, de la Universitatea din Zürich, afirmă că accesul la materialele necesare reprezintă una dintre cele mai importante limitări.

Propuneri pentru controale mai stricte asupra AI

Unele companii de inteligență artificială au început să introducă măsuri pentru a împiedica utilizarea instrumentelor lor în dezvoltarea armelor biologice, dar majoritatea nu comunică public ce măsuri adoptă. Profesorul Tom Inglesby, directorul Centrului pentru Securitate Sanitară de la Universitatea Johns Hopkins, avertizează că nu există un cadru guvernamental oficial care să protejeze împotriva utilizării abuzive a tehnologiei AI. Acesta solicită evaluări independente obligatorii ale noilor modele AI înainte de lansarea lor, pentru a identifica și elimina eventualele riscuri.

Inglesby consideră că accesul la date biologice cu risc ridicat ar trebui restricționat, iar comenzile de material genetic ar trebui verificate de companiile care le furnizează cercetătorilor. Deși asemenea verificări există deja în anumite situații, ele sunt în mare parte voluntare și pot fi ocolite, ceea ce ridică îngrijorări cu privire la utilizarea tehnologiei AI în scopuri periculoase.