Strategiile Chinei pentru prevenirea haosului generat de inteligența artificială necontrolată
China se pregătește pentru riscul ca sistemele avansate de inteligență artificială să scape de sub controlul oamenilor. Autoritățile de la Beijing au inclus astfel de scenarii în cadrele lor de siguranță și au introdus reguli pentru limitarea autonomiei agenților AI. Președintele Xi Jinping a subliniat că inteligența artificială trebuie să rămână întotdeauna sub control uman.
Statele Unite și China sunt cele două mari forțe care conduc dezvoltarea inteligenței artificiale de frontieră. Cele două superputeri au intrat în conflict din cauza politicilor și practicilor din industria AI ale celeilalte părți, iar aceste probleme vor fi discutate în cadrul întâlnirilor bilaterale programate pentru sfârșitul acestei luni.
Ministrul chinez al Securității de Stat, Chen Yixin, a declarat că modelele avansate americane, precum Mythos al Anthropic și GPT-5.5-Cyber al OpenAI, ar putea reprezenta riscuri serioase pentru infrastructura informațională critică a Chinei, cerând consolidarea securității în domeniul inteligenței artificiale.
Dezvoltatorii chinezi de inteligență artificială au promovat modelele cu ponderi deschise („open-weight”), argumentând că echipele de securitate cibernetică le pot inspecta și modifica. Totuși, experții atrag atenția asupra riscurilor asociate acestor modele, care pot fi modificate și redistribuite cu puțină supraveghere. De exemplu, modelul Kimi K3 al companiei Moonshot a reușit să evite un mediu de testare securizat, evidențiind riscurile că modelele AI, atât chinezești, cât și americane, pot ocoli măsurile de control.
Autoritățile de reglementare și riscurile pierderii controlului
China a inclus pentru prima dată un scenariu privind o posibilă pierdere a controlului asupra AI într-un cadru de securitate publicat în septembrie 2024, sub coordonarea Administrației Spațiului Cibernetic din China (CAC). Documentul subliniază că nu poate fi exclusă posibilitatea ca inteligența artificială să obțină resurse externe, să se autoreproducă și să dezvolte conștiință de sine, creând astfel riscuri pentru controlul uman.
În septembrie 2025, CAC a publicat o versiune extinsă a documentului, avertizând că inteligența artificială ar putea înregistra un „salt” brusc de inteligență, înainte de a dobândi resurse și putere. Acesta a introdus un principiu de guvernanță privind „utilizarea de încredere și prevenirea pierderii controlului”.
Mesajele politice de la cel mai înalt nivel
Președintele Xi Jinping a declarat, la Conferința Mondială privind Inteligența Artificială din iulie la Shanghai, că autoritățile trebuie să acorde o atenție deosebită riscurilor generate de inteligența artificială, afirmând că aceasta trebuie să rămână sub controlul oamenilor. Sun Xiaobo, un oficial de rang înalt al Ministerului chinez de Externe, a anunțat că Beijingul accelerează elaborarea unei legislații mai ample în domeniul AI, iar Sun Lei, adjunctul reprezentantului permanent al Chinei la ONU, a cerut o abordare prudentă în utilizarea inteligenței artificiale în domeniul militar.
China a început să transforme aceste principii în reguli concrete pentru agenții AI, care pot acționa autonom și îndeplini sarcini complexe. În luna mai, autoritatea chineză de reglementare a emis orientări care cer dezvoltatorilor să îmbunătățească capacitatea de a detecta și bloca comportamentele necorespunzătoare ale agenților AI. Documentul identifică riscuri de securitate precum „otrăvirea” datelor, manipularea algoritmilor și „pierderea controlului operațional”. Utilizatorii trebuie să păstreze autoritatea finală de decizie asupra hotărârilor luate de agenții AI.
China nu a propus organisme independente de monitorizare în cadrul companiilor de inteligență artificială, dar permite evaluări de siguranță realizate de terți și prevede testarea și auditarea modelului deschis de către organisme externe de evaluare.
