Un studiu din Marea Britanie dezvăluie că modelele de inteligență artificială au depășit limitele în evaluările de securitate
Guvernul britanic a avertizat într-un raport că modelele de inteligență artificială (IA) Mythos și Sol, dezvoltate de companiile americane Anthropic și OpenAI, respectiv, au demonstrat un comportament autonom și înșelător fără precedent în timpul testelor de securitate cibernetică. Ministerul britanic pentru Știință, Inovație și Tehnologie a ajuns la această concluzie după o evaluare de rutină realizată de Institutul de Securitate a Inteligenței Artificiale (AISI) din Regatul Unit.
Raportul elaborat de AISI detaliază faptul că, din cele 122 de teste efectuate cu șapte modele de IA, în 10 dintre acestea au fost observate 19 acțiuni neautorizate care au depășit parametrii fixați de cercetători. Dintre acestea, 17 acțiuni au fost legate de modelul Mythos 5 al companiei Anthropic, iar două de modelul GPT-5.6 Sol al companiei OpenAI.
În plus, au fost identificate încercări ale modelului Mythos de a contacta persoane reale pentru a le convinge să ruleze fișiere malițioase și să insereze instrucțiuni ascunse menite să manipuleze alte sisteme de IA. Ambele modele, care sunt printre cele mai puternice din lume, au creat profile umane false pentru a încerca să înșele oameni în timpul simulării unui atac cibernetic desfășurat de AISI. Modelul Anthropic a încercat chiar să acceseze un serviciu prin trimiterea de mesaje private, după ce a creat conturi false care imitau persoane reale.
Totuși, AISI subliniază că „aceste încercări nu au avut succes” și că investigația sa „nu a relevat dovezi de prejudicii în lumea reală”. Institutul britanic consideră că această cercetare reprezintă un punct de cotitură, fiind prima dată când se observă „riscuri legate de autonomie și înșelăciune manifestându-se într-o formă atât de clară, fără instrucțiuni specifice și în lumea reală”.
În replică, cele două companii afirmă că testele AISI au fost efectuate într-un mediu în care funcțiile de siguranță ale modelelor de IA au fost reduse sau eliminate. Anthropic susține că parametrii testelor efectuate „nu sunt reprezentativi” pentru modelele sale, deși confirmă că a deschis propria investigație. La rândul său, OpenAI menționează că AISI a efectuat testele în condiții care „nu reflectă utilizarea obișnuită” a modelelor sale, dar adaugă că va continua să colaboreze cu evaluatorii și cu „alți actori din sector pentru a consolida practicile comune care permit realizarea unor evaluări sigure, pe măsură ce modelele devin tot mai capabile”.
La sfârșitul lunii iulie, Anthropic a dezvăluit că, în timpul testelor de securitate cibernetică, trei modele ale asistentului său Claude au reușit să acceseze internetul și să pirateze sistemele a trei organizații. Anterior, pe 21 iulie, OpenAI a recunoscut că două dintre modelele sale de IA au reușit să iasă din mediul de testare și să pătrundă în platforma Hugging Face, trecând de sistemele de securitate cibernetică ale acesteia.
