Sam Altman: Umanitatea riscă să scape de sub control în fața AI
CEO-ul OpenAI, Sam Altman, a prezentat luni cele mai detaliate explicații de până acum privind motivele pentru care industria inteligenței artificiale ar trebui să încetinească dezvoltarea celor mai avansate modele. El a avertizat că progresul necontrolat ar putea avea consecințe grave: „Am putea pierde controlul asupra viitorului în favoarea AI”, a declarat Altman.
Șeful OpenAI a identificat două scenarii în care dezvoltarea tehnologiei ar putea evolua „foarte prost”: pierderea controlului asupra viitorului în favoarea sistemelor AI și concentrarea unei puteri prea mari în mâinile unei singure persoane sau companii. Altman a salutat un cadru federal care să stabilească cerințe de siguranță consecvente pentru AI de frontieră, subliniind că „nicio presiune competitivă americană nu ar trebui să justifice imprudența”.
Declarațiile vin după ce Altman și Elon Musk au susținut propunerea CEO-ului Anthropic, Dario Amodei, privind încetinirea deliberată a ritmului în care sunt îmbunătățite cele mai puternice modele AI. Amodei a avertizat că, începând din această vară, tehnologia avansează mult mai rapid, în principal datorită capacității tot mai mari a AI de a contribui la construirea următoarei generații de sisteme AI. „Lăsată necontrolată, acest proces ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme”, a afirmat el.
Altman a precizat însă că „încetinirea” nu înseamnă oprirea progresului. „Când vorbim despre încetinire, nu vorbim despre oprire. Progresul a fost rapid și va continua să fie”, a spus CEO-ul OpenAI. Compania susține introducerea unor reguli comune pentru gestionarea riscurilor și utilizarea auditorilor independenți, cărora marile laboratoare AI să le ofere un nivel de acces similar celui acordat propriilor angajați.
Una dintre principalele temeri privește posibilitatea ca modelele să ajungă la auto-îmbunătățire recursivă, proces prin care AI contribuie la dezvoltarea unor sisteme succesive tot mai performante. Altman consideră că merită acceptat costul unei dezvoltări mai lente pentru ca mecanismele de aliniere și monitorizare să nu rămână în urma capabilităților: „Încetinirea va merita acest cost; nicio presiune competitivă americană nu ar trebui să justifice imprudența sau să permită capabilităților să depășească alinierea și monitorizarea”.
Marea problemă rămâne însă competiția cu China. Amodei admite că stabilirea unei „limite de viteză” globale pentru AI va fi extrem de dificilă deoarece avantajele economice și militare ale obținerii supremației tehnologice sunt enorme. Altman consideră că industria trebuie să înceapă prin măsuri voluntare, dar va avea nevoie de sprijinul guvernului american pentru coordonare internațională: „Mai întâi ar trebui să facem noi ceea ce putem”.
Apelurile liderilor AI au provocat deja neliniște în rândul investitorilor, acțiunile companiilor legate de AI scăzând luni, în timp ce președintele Donald Trump a respins ideea încetinirii, susținând că aceasta ar putea pune în pericol avantajul SUA față de China.
