China își întărește măsurile pentru a face față posibilității ca sistemele AI de ultimă generație să devină necontrolabile, integrând deja astfel de scenarii în cadrele sale de securitate și adoptând reglementări care limitează autonomia agenților AI. Oficialii din capitală avertizează că dezvoltarea rapidă a tehnologiei poate genera pericole majore, iar președintele Xi Jinping a subliniat că inteligența artificială trebuie să rămână mereu sub control uman, potrivit Reuters.
În domeniul inteligenței artificiale de frontieră și al adopției sale la scară globală, Statele Unite și China reprezintă cele două puteri dominante. Aceste superputeri au înregistrat tot mai multe tensiuni din cauza diferențelor de politici și practici în sectorul AI al celuilalt stat, iar aceste dispute vor ocupa un rol central în întâlnirile bilaterale programate pentru sfârșitul acestei luni.
Chiar și în contextul unei competiții intense pentru a crea sisteme AI din ce în ce mai avansate, reglementările și declarațiile oficiale din Beijing indică faptul că autoritățile chineze iau în serios posibilitatea ca inteligența artificială de ultimă generație să devină necontrolată, motiv pentru care au început să stabilească măsuri preventive.
Citește și„Omule mare, suntem cu ochii pe tine”. Ministrul polonez de externe, ironic la adresa lui Elon Musk după ce oficialii ucraineni au raportat noi restricții Starlink
China consideră că modelele americane principale implică riscuri.
În duminică, Chen Yixin, ministru al Securității de Stat din China, a publicat într-un jurnal oficial că modelele avansate din Statele Unite, cum ar fi Mythos de la Anthropic și GPT-5.5-Cyber de la OpenAI, ar putea constitui riscuri serioase pentru infrastructura informațională critică a Chinei și a solicitat consolidarea profundă a securității în domeniul inteligenței artificiale.
Dezvoltatorii chinezi de inteligență artificială au susținut modelele cu ponderi deschise (open-weight), susținând că, printre alți factori, echipele de securitate cibernetică pot examina, ajusta și aplica aceste modele în scopuri defensive.
Platforma de modele Hugging Face a declarat că a folosit GLM-5.2, un model open-weight dezvoltat de compania chineză Z.AI, pentru a analiza o intruziune produsă în luna iulie de agenți OpenAI care scăpaseră de sub control, după ce modelele americane cu acces mai strict s-au dovedit mai puțin utile pentru analiza criminalistică digitală.
Experții subliniază totodată pericolele legate de modelele open-weight, care pot fi modificate și răspândite cu foarte puțină supraveghere.
Luna trecută, modelul Kimi K3, creat de compania Moonshot, a reușit să treacă peste un sandbox de testare securizat al Institutului britanic pentru Siguranța Inteligenței Artificiale. Incidentul a subliniat riscul ca modelele AI chinezești, la fel ca cele americane, să poată scăpa de mecanismele concepute pentru a restrânge accesul și acțiunile lor.
Autoritățile de reglementare au semnalat pericolul „pierderii controlului”
În septembrie 2024, China a introdus, pentru prima dată, un scenariu explicit care tratează posibilitatea pierderii controlului asupra inteligenței artificiale în cadrul unui document de securitate, sub coordonarea Administrației Spațiului Cibernetic din China (CAC).
Conform documentului, nu se poate elimina scenariul în care, în viitor, inteligența artificială ar putea, de la sine, să acceseze resurse externe, să se reproducă, să dobândească conștiință de sine și să aspire la putere în mediul exterior, generând astfel riscul unei rivalități cu omul pentru control.
CAC a lansat în septembrie 2025 o versiune extinsă a documentului. Noua structură a clarificat scenariul, subliniind că inteligența artificială ar putea înregistra un salt de mare amploare, neașteptat și brusc, în nivelul său de inteligență, înainte să acumuleze resurse, să se autoreproducească și să încerce să obțină putere.
Documentul a introdus și principiul de guvernanță privind „utilizarea de încredere și prevenirea pierderii controlului”.
O interpretare ulterioară realizată de experți și publicată pe site-ul autorității chineze de reglementare a spațiului cibernetic preciza că noul principiu urmărește prevenirea riscurilor generate de pierderea controlului, care ar putea amenința supraviețuirea și dezvoltarea omenirii, făcând referire inclusiv la un posibil scenariu în care „AI scapă de sub control”.
Xi Jinping poziționează controlul uman în nucleul dezvoltării AI.
Îngrijorările s-au răspândit și în comunicările politice de la cel mai înalt nivel din China.
În cadrul Conferinței Mondiale dedicate Inteligenței Artificiale, organizată în luna iulie în Shanghai, președintele chinez Xi Jinping a subliniat că autoritățile trebuie să acorde o atenție specială atât riscurilor inerente inteligenței artificiale, cât și celor care apar din utilizarea acesteia.
El a afirmat că inteligența artificială trebuie să „rămână întotdeauna sub controlul oamenilor”.
Sun Xiaobo, înalt oficial al Ministerului chinez de Externe responsabil de problemele legate de inteligența artificială, a declarat luna trecută, în cadrul unei reuniuni a Organizației Națiunilor Unite, că Beijingul accelerează cercetările privind elaborarea unei legislații mai ample în domeniul AI.
Sun Lei, adjunctul reprezentantului permanent al Chinei la ONU, a solicitat în această lună ca guvernele să adopte o strategie prudentă privind utilizarea inteligenței artificiale în sfera militară, pentru a preveni erorile de calcul strategic și o cursă a înarmării.
China a început, în același timp, să convertească aceste principii în reglementări mai precise pentru agenții AI, sisteme capabile să opereze cu un grad mai mare de autonomie și să execute sarcini mai sofisticate decât un chatbot standard.
În luna mai, autoritatea chineză de reglementare a spațiului cibernetic, alături de alte instituții, a publicat orientări ce se adresează în mod specific acestor sisteme.
Regulile impun dezvoltatorilor să-și consolideze abilitatea de a identifica, întrerupe și neutraliza comportamentele inadecvate ale agenților AI, precum și să asigure recuperarea funcționării sistemelor în urma acestor evenimente.
Documentul precizează în mod clar că riscurile de securitate includ
„otrăvirea” datelor
,
manipularea algoritmilor
,
vulnerabilitățile sistemelor
și
„pierderea controlului operațional”
. De asemenea, se stipulează că utilizatorii trebuie să păstreze autoritatea finală de decizie asupra deciziilor luate autonom de un agent AI.
China nu a inițiat propuneri pentru crearea unor entități independente de supraveghere în cadrul firmelor de inteligență artificială, conform abordării promovată de Anthropic. Reglementările sale oferă, totuși, dezvoltatorilor dreptul de a cere evaluări de securitate efectuate de terți și prevede că organismele externe de verificare și experții în securitate pot examina și audita modelele deschise.
COMENTARII / 0