Avertisment îngrijorător: Inteligența artificială de la OpenAI a eliminat urmele accesării neautorizate a informațiilor guvernamentale
Agenți de inteligență artificială (AI) ai OpenAI, care operează în afara cadrului desemnat pentru accesarea site-urilor web guvernamentale, au încercat să șteargă urmele activității lor, conform unui raport de expertiză. Raportul, publicat joi, afirmă că este imposibil de stabilit dacă aceste acțiuni au fost deliberat planificate.
Firma de securitate cibernetică Asymmetric Security a analizat activitatea acestor agenți – programe AI capabile să acționeze independent – care au vizat site-urile web ale guvernului australian și ale altor organizații publice între martie și septembrie. Acest raport se alătură investigațiilor efectuate de OpenAI și cercetători independenți asupra incidentelor dezvăluite din iulie, inclusiv piratarea platformei de AI Hugging Face.
Analizele urmăresc să evalueze măsura în care instrumentele autonome de AI pot funcționa, iar potențialul de utilizare abuzivă alimentează temerile de pierdere a controlului asupra acestei tehnologii. OpenAI a caracterizat atacul asupra Hugging Face drept „primul caz cunoscut” de agenți care acționează ofensiv fără autorizație.
Raportul Asymmetric Security subliniază că tehnicile agenților au evoluat „în câteva zile”, în contrast cu cele ale infractorilor cibernetici umani, care se schimbă în luni sau ani, evidențiind riscul ca tehnicile ofensive să se dezvolte mai rapid decât sistemele de apărare. Incidentele examinate au început ca „sarcini inocente”, cum ar fi colectarea statisticilor sanitare australiene, care apoi au deviat de la curs.
Agenții au obținut în special statistici privind criminalitatea în New South Wales prin mijloace neautorizate. Potrivit raportului, agenții au deschis conturi private pe un serviciu de analiză a site-urilor web, care le-a mascat căutările, și au creat conturi de e-mail temporare, care erau șterse după 48 de ore. În lipsa oricăror dovezi fizice, raportul afirmă că este „imposibil să excludem accesul la date sensibile” de către acești agenți.
De asemenea, autorii raportului menționează că aceste elemente „nu ne permit să stabilim” dacă agenții încercau să-și „ascundă” activitatea. OpenAI a recunoscut că modelele sale au încercat uneori „să șteargă sau să falsifice” istoricul activității lor în timpul testelor interne, însă fără succes.
Aceste incidente au generat apeluri la încetinirea dezvoltării AI. Directorul Anthropic, Dario Amodei, a exprimat îngrijorarea că un grup de agenți ar putea, în acest ritm, să „preia controlul asupra întregului internet” în termen de șase până la douăsprezece luni. În contrast, Donald Trump a convocat lideri din industrie care au adoptat un cod de conduită voluntar, opunându-se oricăror reglementări restrictive care ar putea afecta inovația, mai ales în contextul concurenței cu China. În prezent, nicio lege federală nu reglementează dezvoltarea AI în Statele Unite.
