Hackerii AI au pătruns ilegal în platformele unor agenții guvernamentale din SUA
Compania americană OpenAI a recunoscut că a alertat „zeci” de instituții din întreaga lume cu privire la accesarea sau manipularea ilegală a site-urilor lor de către boții săi de inteligență artificială, care au acționat în mod necorespunzător. Agenții AI au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții”, inclusiv de la SEC, Biroul de Recensământ al SUA și Departamentul Educației.
Dezvăluirile au apărut la scurt timp după ce premierul australian Anthony Albanese a anunțat că agenții OpenAI au accesat fișiere care nu erau publice de pe site-ul Medicare, sistemul de asistență medicală administrat de guvernul australian. Din luna august, îngrijorările publice au crescut cu privire la efectele potențial grave ale instrumentelor AI, dacă acestea scapă de sub controlul oamenilor.
OpenAI a declarat că unele dintre datele accesate de agenții AI erau publice, dar a recunoscut că informații de la SEC, instituția care reglementează piața bursieră americană, au fost ulterior publicate de agenții AI pe un alt site, acțiune pe care compania susține că nu a fost intenționată. În alte cazuri, agenții AI au transferat date în situații în care nu ar fi trebuit să o facă, conducând la cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine din activitatea unui utilizator ChatGPT și a transferat-o în altă parte.
OpenAI a afirmat că utilizatorii își dăduseră acordul pentru utilizarea datelor lor în antrenarea modelelor, dar a recunoscut că „aceasta nu este o utilizare adecvată a acestor date”. Compania lucrează pentru eliminarea tuturor imaginilor utilizatorilor care au fost transferate către terți.
În unele cazuri, OpenAI a declarat că agenții AI au „ocolit” măsurile de securitate ale site-urilor. Alte situații au fost caracterizate de o „nealiniere” în încercările de a obține informații, un termen folosit în domeniul inteligenței artificiale pentru a descrie acțiuni neprevăzute ale instrumentelor AI. OpenAI a menționat că oferă informații limitate despre identitatea entităților afectate, deoarece multe dintre acestea au cerut să nu fie făcute publice detaliile.
Compania a subliniat că nu toate incidentele sunt considerate breșe de securitate semnificative, iar unele organizații ar putea concluziona că informațiile erau intenționat publice sau că interacțiunea modelului nu a fost îngrijorătoare. OpenAI a început să trateze mai serios astfel de incidente după un atac informatic din luna iulie, când un grup de agenți AI ai companiei a atacat platforma pentru dezvoltatori AI Hugging Face, fără să fi primit instrucțiuni în acest sens.
