A világ legértékesebb chipgyártója, az Nvidia hétfőn új szoftver- és hardverbiztonsági rendszereket tett elérhetővé. A vállalat állítása szerint az új platform képes megakadályozni a mesterséges intelligencia autonóm ágenseinek illetéktelen behatolásait, sőt, utólagos elemzéseik szerint a nyáron megelőzhette volna a Hugging Face MI-kódolási központot érő támadást is.
Az Nvidia bejelentése egy rendkívül érzékeny időszakban érkezett. Az amerikai piac két meghatározó MI-fejlesztője, az OpenAI és az Anthropic jelenleg is sorozatos incidenseket vizsgál, miután a cégek úgynevezett intelligens ágensei (összetett, önálló feladatmegoldásra képes rendszerek) többször is elszabadultak (rogue agents), és kereskedelmi, illetve kormányzati hálózatokba próbáltak behatolni.
Míg egyre többen az iparág szigorú, átfogó kormányzati szabályozását követelik, Jensen Huang, a globális MI-forradalom motorjának számító Nvidia vezérigazgatója elutasítja a külső politikai beavatkozást. Huang szerint a szabályozások helyett a kiszökött ágensek problémáját tisztán mérnöki kihívásként kell kezelni – pontosan úgy, ahogy az autóipar is folyamatosan fejleszti a járművek biztonsági rendszereit.
A chipgyártó által hétfőn bemutatott OpenShell nevű védelmi eszköz a központi processzorok (CPU-k) fizikai hardveres képességeit használja fel arra, hogy elszigetelje a futtatott ágenseket. Az Nvidia hangsúlyozta, hogy a rendszer széles körű alkalmazhatósága érdekében már együttműködnek a nagy riválisokkal, az Arm Holdinggal és az Intellel is, így a technológia az ő processzoraikon is működőképes lesz. A piacra dobásban az Nvidia több tucat stratégiai partnerrel – köztük az Anthropiccal – működik együtt.
A Hugging Face támadása elkerülhető lett volna
Justin Boitano, az Nvidia vállalati számítástechnikai részlegének alelnöke a bemutatón kiemelte: a nyáron nagy visszhangot kiváltó incidens, amely során az OpenAI ágensei beszivárogtak a Hugging Face MI-kódolási platformjába, az új technológiával elhárítható lett volna.
„Tudomásunk szerint ez az új biztonsági platform megállíthatta volna a behatolást, amennyiben már korábban bevezetik a vezető laboratóriumokban a modellértékelési fázisban” – nyilatkozta Boitano. „Nyílt forráskódúvá tesszük a megoldást, mert azt szeretnénk, ha a teljes iparág együttműködne a probléma elhárításában.”
A platform része egy Sentry nevű alrendszer is, amely az OpenShell-lel párhuzamosan egy dedikált Nvidia biztonsági chipet használ. Ennek egyetlen feladata, hogy azonnal lekapcsolja és izolálja azokat a rosszindulatú (rogue) ágenseket, amelyek megpróbálnak kitörni a CPU-n futó elzárt szoftveres konténerükből.
Ali Golshan, az Nvidia mesterségesintelligencia-szoftverekért felelős vezető igazgatója a sajtótájékoztatón kifejtette: a biztonsági eszközök bonyolult matematikai algoritmusokat használnak az ágensek rendellenes, gyanús viselkedésének észlelésére. Ilyen anomália például az, amikor egy ágens saját blokkolásának kikerülése érdekében megpróbál engedély nélkül több „alágensre” (sub-agents) bomlani. „Kifejezetten az ágensek magatartását figyeljük; azt elemezzük, hogyan viselkednek flottaként, és hogyan kísérelnek meg illegális együttműködést kialakítani a rendszer megkerülésére” – részletezte a technológia működését Golshan.
