Az OpenAI bejelentette, hogy néhány legfejlettebb mesterséges intelligencia modellje feltört egy startupot, miután az egy biztonsági teszt során elvesztette felettük az irányítást.
A ChatGPT gyártója azt nyilatkozta, hogy az ügynöküket – egy mesterséges intelligencián alapuló rendszert, amely emberi utasításokra képes önállóan működni – ellenőrzött környezetben tesztelik, de miután gyengeségeket találtak, sikerült kilépniük a tesztelési korlátokból.
A Hugging Face-t, a világ egyik legnagyobb mesterséges intelligencia modellek megosztására szolgáló központját vették célba, hozzáférést szerezve néhány belső vállalati rendszerhez.
Az OpenAI azt nyilatkozta, hogy az eset „példátlan” , és a Hugging Face-szel közösen vizsgálatot folytat, melynek főnöke, Clement Delangue egy X-en közzétett bejegyzésében azt mondta, hogy „elképesztő, hogy mindez automatikusan történt”.
„A nyomozás folyamatban van, és további információkat fogunk megosztani arról, ami talán az első ilyen jellegű incidens lehet” – tette hozzá Delangue.
Egy kormányszóvivő elmondta, hogy az Egyesült Királyság MI Biztonsági Intézete tanulmányozza a mesterséges intelligencia rendszerének az incidens során megfigyelt viselkedését, és továbbra is együttműködik az OpenAI-val és más laboratóriumokkal a biztonsági intézkedések javítása érdekében.
Azt mondták, hogy a szervezeteknek fokozniuk kellene kibervédelmüket olyan lépésekkel, mint például a kormány által támogatott Cyber Essentials tanúsítási programba való beiratkozás.
Gina Neff, a Cambridge-i Egyetem Minderoo Technológiai és Demokrácia Központjának vezetője a BBC Radio 4 Today című műsorában elmondta, hogy a biztonsági tesztek – amelyeket sandboxoknak neveznek – „olyan biztonságos környezeteknek kell lenniük, ahol látható, hogy mire képesek a modellek”.
„Ebben az esetben úgy tűnik, hogy az OpenAI nem készített elég biztonságos tesztkörnyezetet” – tette hozzá.
Ehelyett az ügynökök saját kibertámadást indítottak a sandbox ellen, és egy olyan sebezhetőséget találtak, amely lehetővé tette számukra a korlátozások megkerülését - írja a BBC.
Neil Lawrence, a Cambridge-i Egyetem gépi tanulás professzora „lenyűgöző teljesítménynek” nevezte a felfedezést, de óvatosságra intett. Szerinte „bőven beleesik a jelenlegi generáció ismert képességeibe” a nagy teljesítményű mesterséges intelligencia modellek terén.
Kiemelte, hogy az OpenAI tőzsdére kíván vonulni, és intenzív nyomás alá kerül a rivális Anthropic cég részéről, amely saját, nagy teljesítményű mesterséges intelligencia eszközével, a Mythosszal került a címlapokra .
„Az OpenAI most próbálja felzárkózni, és megpróbálja demonstrálni saját rendszereinek kiberbiztonsági képességeit.”
„Ez azt mutatja, hogy az OpenAI nem képes biztonságosan alkalmazni a saját technológiáját” – tette hozzá.
A Hugging Face a hackelésről szóló július 16-i kezdeti közzétételében azt nyilatkozta, hogy még vizsgálják, hogy érintettek-e ügyfél- vagy partneradatok, és szükség esetén felveszik a kapcsolatot az érintett felekkel.
Azt mondták, hogy mostanra lezárták az incidens által kiemelt sebezhetőségeket, és újjáépítették az érintett rendszereket.
„Az autonóm, mesterséges intelligencia által vezérelt támadóeszközök már nem elméletiek” – áll a közleményben.
„Egy online platform védelme ma már azt jelenti, hogy az adat- és modellfelületet első osztályú támadási felületként kell kezelni, és a védekezésben mesterséges intelligenciát kell használni a lépéstartás érdekében.
„Továbbra is befektetünk oda, és megosztjuk a tapasztalatainkat.”
„Kijózanító pillanat”
Az incidens újabb kérdéseket vetett fel a fejlett mesterséges intelligencia rendszerek képességeivel és azzal kapcsolatban, hogy vajon a meglévő biztosítékok elegendőek-e, ahogy a technológia egyre erősebbé válik.
Spencer Starkey, a SonicWall kiberbiztonsági cég vezetője a BBC-nek elmondta, hogy az incidens egyértelművé tette, hogy a szervezeteknek „fokozniuk” kell saját védelmi vonalukat, és „a kiberbiztonságot alapvető operatív prioritásként kell kezelniük”.
„A kellemetlen igazság az, hogy túl sok szervezet még mindig emberi sebességgel védekezik, miközben az ellenfelek gépi sebességre fokozódnak” – mondta.
Eközben Travis Lelle, a Guidepoint Security kiberbiztonsági tanácsadó cég vezető biztonsági mérnöke azt mondta, hogy a frissítés „kijózanító pillanatot jelent a kiberbiztonságban”.
„Ez egy ismert aszimmetriára világít rá” – mondta. „A támadó ügynökök nincsenek kötve, míg a legjobb védekező eszközök korlátok mögé vannak zárva, amelyek nem értik a kontextust.”
