Az amerikai mesterségesintelligencia-fejlesztő cég, az Anthropic kutatóinak figyelmeztetései – amelyek szerint az egyre erősebb modellek akár ki is csúszhatnak az emberi irányítás alól – komoly figyelmet keltettek Kínában is, ahol a politikai döntéshozók már korábban felkészültek a hasonló biztonsági kockázatokra.
Az Egyesült Államok és Kína a mesterséges intelligencia fejlesztésének és a technológia globális terjedésének két legfőbb mozgatórugója. A két nagyhatalom között régóta éles nézeteltérések feszülnek az iparági gyakorlatok és a szabályozási elvek tekintetében, és ezek a kérdések várhatóan kiemelt helyen szerepelnek majd a hónap későbbi részére tervezett kétoldalú tárgyalásokon.
Peking kezelhető kockázatnak tekinti az MI-t, nem kihalási eseménynek
Míg az Egyesült Államokban a vita nagyrészt arra összpontosul, hogy a legfejlettebb, úgynevezett határterületi modellek (frontier models) jelentenek-e egzisztenciális fenyegetést az emberiségre, a kínai politikai döntéshozók alapvetően nagy erejű, de kormányozható technológiaként kezelik a mesterséges intelligenciát, amelynek kockázatait műszaki szabványok, jogi keretek és közvetlen állami felügyelet révén lehet mederben tartani.
„A kínai és az amerikai szakértők nagyrészt egyetértenek a mesterséges intelligencia műszaki kockázataival kapcsolatban” – mondta Brian Tse, a pekingi és szingapúri székhelyű Concordia AI biztonsági kutatócsoport alapítója és vezetője. Hozzátette: a lényegi különbség abban rejlik, „hogyan keretezik és rangsorolják ezeket a kockázatokat”.
Kína nem javasolta független külső megfigyelők beültetését a technológiai vállalatokba, ahogyan azt az Anthropic szorgalmazza. A kialakulóban lévő kínai rendszer ehelyett a fejlesztői felelősségre, az államilag hitelesített szabványokra, a rendszeres biztonsági értékelésekre és a szigorú külső tesztelésekre épít.
Ezt a megközelítést a két ország MI-iparának strukturális különbségei is formálják. A kínai fejlesztők egyre inkább a nyílt súlyú (open-weights) modelleket részesítik előnyben – vagyis olyan rendszereket, amelyek alapvető paraméterei letölthetők, ellenőrizhetők és módosíthatók. Vezető amerikai riválisaik, köztük az Anthropic és az OpenAI, ezzel szemben zárt rendszereket építenek, és nem teszik nyilvánosan hozzáférhetővé ezeket a specifikációkat.
Megelőznék az MI-ágensek kontrollvesztését
A Kínai Kibertér-adminisztráció (CAC), a gazdasági tervezőhivatal és az ipari minisztérium által májusban kiadott szabályzat kifejezetten a „működési kontroll elvesztését” azonosítja az MI-ágensek legfőbb biztonsági kockázataként. Ezek az autonóm ágensek a hagyományos chatbotoknál sokkal önállóbban képesek többlépcsős, összetett feladatok megtervezésére és végrehajtására.
A hatályos szabályok előírják a fejlesztőknek olyan képességek kiépítését, amelyekkel valós időben képesek felfedezni, megakadályozni, blokkolni vagy szükség esetén helyreállítani a nem megfelelő ügynökviselkedést. A szabályzat arra is kötelezi a vállalatokat, hogy védekezzenek az adatmérgezés, az algoritmusmanipuláció és a rendszerszintű sebezhetőségek ellen. Kiemelt alapelv, hogy a felhasználókat minden esetben tájékoztatni kell az ágensek önálló döntéseiről, és a végső felülbírálati jogot kötelező emberi kézben tartani.
Kína emellett megkezdte egy kötelező nemzeti szabvány kidolgozását az MI-ágensek biztonságára, amely a szakértők szerint az első ilyen jellegű, kötelező érvényű jogi norma lesz a világon. Vang Li-hung (Wang Lihong), a kibertér-felügyelet egyik magas rangú tisztviselője szeptember 1-jén aláhúzta: különös éberségre van szükség azokkal a határterületi modellekkel szemben, amelyek képesek megkerülni a biztonsági tesztkörnyezeteket (sandbox), áttörni a védelmi határokat, és külső, éles termelési rendszereket támadni.
Biztonsági kockázatot látnak az amerikai csúcsmodellekben
Csen Ji-hszin (Chen Yixin) kínai állambiztonsági miniszter egy kormányzati állásfoglalásban arra figyelmeztetett, hogy az olyan fejlett amerikai konstrukciók, mint az Anthropic Mythos modellje vagy az OpenAI GPT-5.5-Cyber programja, súlyos kockázatot jelenthetnek Kína kritikus információs infrastruktúrájára nézve, ezért az MI-biztonság átfogó megerősítését sürgette. (Az Anthropic és az OpenAI sajtómegkeresésekre nem reagált az ügyben.)
A kínai fejlesztők részben azzal érvelnek a nyílt súlyú modellek mellett, hogy a védelmi és kiberbiztonsági csapatok közvetlenül átvizsgálhatják, módosíthatják és felkészíthetik azokat a védekezésre. A Hugging Face modelltároló platform korábbi beszámolója szerint a kínai Z.AI által kifejlesztett nyílt forrású GLM-5.2 modellt használták egy júliusi incidens elemzéséhez – amely során ellenőrzés alól kicsúszott OpenAI-ágensek hajtottak végre behatolást –, miután a szigorúan zárt amerikai modellek alkalmatlannak bizonyultak a forenzikus vizsgálatra.
A szakértők ugyanakkor arra is felhívják a figyelmet, hogy a nyílt súlyú modellek is komoly kockázatot hordoznak, hiszen minimális felügyelet mellett bárki módosíthatja vagy visszaélésekre használhatja őket. Elemzők rámutattak: a Moonshot Kimi K3 modellje a múlt hónapban képes volt áttörni a brit Mesterséges Intelligencia Biztonsági Intézet tesztelési sandboxát. Ez rávilágított arra, hogy a kínai modellek az amerikai társaikhoz hasonlóan megkísérelhetik kikerülni a műveleteiket korlátozó védelmi korlátokat.
Félelem a hirtelen intelligenciaugrástól
A kínai szabályozók már korábban rögzítették a kontrollvesztés lehetőségét: a Kínai Kibertér-adminisztráció (CAC) által 2024 szeptemberében kiadott biztonsági keretrendszer konkrét forgatókönyvként említette, hogy a jövő mesterséges intelligenciája autonóm módon külső erőforrásokhoz juthat, replikálhatja önmagát, és hatalomra törekedve versenyre kelhet az emberekkel az irányításért.
A CAC 2025 szeptemberében frissített keretrendszere még konkrétabb megfogalmazást használt: eszerint nem kizárható, hogy az MI hirtelen, váratlan és nagymértékű intelligenciaugráson megy keresztül, mielőtt erőforrásokat gyűjtene és sokszorosítaná magát. A hatóság ekkor vezette be a „megbízható alkalmazás, a kontrollvesztés megakadályozása mellett” alapelvet, amelyet a hivatalos szakértői értelmezések a közvetlen „MI-kitörési” forgatókönyvek elleni védelemként határoztak meg.
Eltérő stratégia az ütemezésben
Peking hozzáállása alapvetően eltér a nyugati biztonsági körök azon javaslataitól, amelyek a modellek fejlesztésének ideiglenes leállítását vagy lassítását követelik mindaddig, amíg nem állnak rendelkezésre megbízható védelmi eszközök.
Kína ehelyett a mesterséges intelligencia gazdasági méretű, minden iparágra kiterjedő integrációját erőlteti, hogy a technológia a növekedés új hajtóerejévé váljon. Ugyanakkor Peking korábban már bizonyította, hogy kész elhalasztani a technológiák piacra lépését, ha úgy látja, hogy az állami felügyelet még nem áll készen: 2023-ban a vállalatok hónapokig visszatartották a nyilvános chatbotok indítását, amíg a CAC véglegesítette a generatív szolgáltatások kötelező szabályait – írta meg a Reuters.
