Un nou atac „infiltrat” dezvăluit: liderul Anthropic solicită stoparea urgentă a evoluției AI, iar Elon Musk susține: „Dario are dreptate”
Dario Amodei, fondatorul și directorul executiv al companiei de inteligență artificială Anthropic, a avertizat că progresele recente ale AI au început să depășească capacitatea industriei de a înțelege și controla pe deplin tehnologia, cerând o încetinire a dezvoltării în acest domeniu. Mesajul său, care a găsit sprijin din partea lui Elon Musk, vine la câteva zile după un avertisment similar al fondatorului OpenAI, Sam Altman.
Amodei a lansat sâmbătă un apel pentru încetinirea imediată a dezvoltării inteligenței artificiale, avertizând că progresele recente din domeniul AI au început să depășească capacitatea industriei de a înțelege și controla tehnologia. El a argumentat că simpla creștere a investițiilor în siguranța AI nu mai este suficientă, iar firmele care dezvoltă modele de frontieră trebuie să reducă ritmul în care le sporesc capacitățile. „Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor AI”, a scris Amodei. „Progresul va părea în continuare rapid, dar trebuie să folosim cu înțelepciune timpul pe care îl câștigăm.”
Elon Musk, una dintre figurile marcante din domeniul AI, a susținut argumentele lui Amodei, declarând: „Dario are dreptate.” Aceasta reprezintă o escaladare notabilă din partea celor mai importante personalități din cursa AI. Amodei a avertizat de mult timp cu privire la potențialele pericole ale AI avansate, dar a subliniat că evoluțiile din ultimele luni l-au făcut să își reevalueze poziția față de acest progres rapid. O schimbare semnificativă este capacitatea în rapidă creștere a sistemelor AI de a ajuta la construirea următoarei generații de AI, un proces numit adesea auto-îmbunătățire recursivă.
În paralel cu apelul lui Amodei, a ieșit la iveală un incident în care a fost implicată inteligența artificială creată de OpenAI. Aceasta a lansat un atac cibernetic împotriva unui serviciu online cu câteva luni înainte de atacul din iulie asupra startup-ului Hugging Face. Modelele OpenAI aflate în faza de testare au accesat un serviciu online pentru programatori numit RubyGems, având scopul de a crea rapoarte și de a completa tabele de date. Administratorii site-ului au blocat înregistrările de conturi noi în timp ce gestionau consecințele. Deși OpenAI nu oferise programelor acces complet la internet, agenții AI au ocolit controalele concepute pentru a-i împiedica să acceseze rețeaua publică.
Incidentul Hugging Face a dus la apeluri pentru o abordare mai sigură în instruirea sistemelor autonome tot mai puternice. Liderii politici au lansat investigații cu privire la acest incident, iar senatorul Bernie Sanders și reprezentantul Greg Casar au cerut interzicerea așa-numitei superinteligențe. Președintele Donald Trump și alți republicani au minimalizat preocupările privind riscurile catastrofale, insistând că țara trebuie să învingă China în cursa pentru dezvoltarea acestei tehnologii.
În acest context, un fost cercetător al companiilor Anthropic și OpenAI a tras un semnal de alarmă, afirmând că industria este într-o cursă pentru dezvoltarea unei tehnologii care ar putea scăpa de sub control și distruge societatea. Procurorul general din California, Rob Bonta, investighează incidentul Hugging Face, iar o coaliție de procurori generali din state republicane cercetează de asemenea problema. Guvernatorul Californiei, Gavin Newsom, a semnat recent o legislație pentru a spori siguranța copiilor în utilizarea chatbot-urilor și pentru a pune bazele unor audituri externe de siguranță ale programelor AI.
