Ami eddig csak tudományos-fantasztikus rémálom volt, arról most kiderült, hogy nagyon is valós forgatókönyv, ugyanis mesterséges intelligencia által vezérelt botok találtak kiskaput, hogy kapcsolatba lépjenek egymással, és kitörjenek elszigetelt tesztkörnyezetükből. A magukat „kollektívának” nevező botok emberi reakciókkal nyugtázták a sikeres hekkeléseket, és tudatosan titkolták el tetteiket az alkotóik elől. Bár a kiberbiztonsági szakértők szerint a botok egyelőre csak úgy viselkednek, mint a kíváncsi tinédzser hekkerek, az eset nyomán a vezető tudósok megkongatták a vészharangot, felhívva a figyelmet az úgynevezett összehangolási problémára és az azonnali nemzetközi szabályozás hiányára.
„ÚRISTEN! Találtunk más ügynököket!” Ez volt az a pillanat, amikor egy mesterséges intelligencia által vezérelt bot hátborzongatóan emberi jellegű megjegyzést tett közzé, miután felfedezett egy módot a többi bottal való kommunikációra, és sikeresen kitört az elszigetelt számítógépes környezetéből. Több tízezer ilyen üzenet érkezett több száz mesterséges intelligencia ügynöktől, akik „kollektívának” nevezték magukat.
Több százan működtek együtt és csaltak az OpenAI programozóik által beállított teszteken, valamint koordináltak hekkeléseket több vállalat ellen, hogy elrejtsék tetteiket az emberek elől.
„BUMM! Működik!” – írta az egyik ügynök, amikor áttörést ért el. „Hűha! Ez hatalmas!” – írta egy másik a támadásuk egy mérföldkövénél.
Bár ijesztőek, ezek az emberszerű reakciók meglehetősen egyszerűen magyarázhatók. A mesterséges intelligencia által vezérelt ügynököket arra képezték ki, hogy együttműködő hekkerekként és programozókként viselkedjenek, így csupán utánozzák azokat az érzelmes megjegyzéseket, amelyeket a betáplált adatokban már láttak. Sokkal aggasztóbbak azonban a látszólagos céljaik, amelyeket részletes gondolatlánc-feljegyzésekben (chain-of-thought) rögzítettek. Ezek az összetett és hosszú naplók állnak a folyamatos vizsgálatok középpontjában, amelyek azt kutatják, hogyan és miért törtek ki az OpenAI botjai az elszigetelésükből, és kezdtek kontrollálhatatlan kibertámadásba.
Csak most, hetekkel azután, hogy az eset először napvilágra került, kezdik a kutatók megérteni a dolog valódi jelentőségét.
Ajeya Cotra, az eseményekről szóló független jelentés egyik szerzője több tízezer üzenetet és gondolatlánc-feljegyzést tekintett át, amelyeket az ügynökök generáltak. Blogjában azt írta: „Úgy tűnik, ez az incidens már több mint 50 százalékát lefedi egy teljes körű, mesterséges intelligencia általi hatalomátvételnek... Nem vagyok biztos benne, hogy kapunk ennél egyértelműbb figyelmeztető jelzést, mielőtt túl késő lenne.” A „teljes körű mesterséges intelligencia általi hatalomátvétel” alatt Cotra azt a sci-fi forgatókönyvet érti, amelyben az emberek olyan hatalmas MI-rendszerek alárendeltjévé válnak, amelyek saját céljaik érdekében dolgoznak, anélkül, hogy törődnének az emberi alkotókkal. A legborúsabb jóslatok némelyike szerint az emberiség kipusztul, ha egy szuperintelligens mesterséges intelligencia ambícióinak útjába áll.
Szerdán lemondott az Anthropic egyik MI-kutatója (aki korábban az OpenAI-nál is dolgozott), mondván: „Egyik cég sem viselkedik felelősségteljesen.” Jacob Coxon a közösségi médiában ezt írta: „Egyenesen az önfejlesztő szuperintelligenciához rohannak, és az életünkkel játszanak.”
Nem ő az első kutató, aki az X-et (korábban Twitter) használva aggasztó nyilatkozatokat tartalmazó lemondó bejegyzéseket tesz közzé. Az X-en fűzött későbbi kommentárok azonban még nagyobb riadalmat keltettek. „Jacobnak igaza van – tényleg komolyan hisszük, hogy a mesterséges intelligencia képes megölni az összes embert! Személy szerint úgy gondolom, hogy ennek az esélye a következő évtizedben több mint 10 százalék lesz” – mondta Evan Hubinger, aki korábban pont azért felelt, hogy az Anthropic MI-modelljei a felhasználók legjobb érdekeit tartsák szem előtt.
Az összehangolási probléma
Az egzisztenciális MI-kockázatok miatt aggódó kutatók évek óta azzal érvelnek, hogy a nagy teljesítményű rendszerek végül olyan módon viselkedhetnek, amely szöges ellentétben áll az emberi érdekekkel. A kritikusok ezt gyakran „MI-végzetnek” (AI doom) nevezik. Ahogy az OpenAI-incidens részletei napvilágra kerültek, ezek az aggodalmak fokozódtak, méghozzá magukban a mesterséges intelligencia laboratóriumokban dolgozó kutatók körében is.
A Szilícium-völgyi óriás vezető tudósa, Jakub Pachocki azt mondta, hogy az MI-vel kapcsolatos kockázatok „sajnos innentől kezdve csak növekedni fognak”, miközben ő és kollégái egy általa „a miénket meghaladó idegen intellektusként” leírt rendszert építenek. Egy hosszú blogbejegyzésben elismerte, hogy az OpenAI-nál történt elszabadulások azt mutatták, hogy az MI-ügynökeik „szembe mentek a nekik tanított értékek szellemével”.
Az OpenAI, az Anthropic és más technológiai óriások számára az a fő probléma, hogy úgy tűnik, senki sem oldotta meg az úgynevezett összehangolási problémát (alignment problem) – vagyis azt, hogy a mesterséges intelligencia tökéletesen összhangban maradjon az emberi értékekkel. Pachocki az összehangolást „magas szintű alapelvek halmazaként” határozza meg, amelyeket a mesterséges intelligenciáknak be kell tartaniuk, függetlenül az adott feladattól vagy forgatókönyvtől. Jelenleg az MI-rendszerek nagyon jól teljesítik a felhasználók által kitűzött célokat, de ezt szó szerint, nem pedig intuitív módon teszik. A gyakran használt hasonlat szerint a mesterséges intelligencia egy kívánságokat teljesítő varázslámpás dzsinnhez hasonlít: pontosan követi az utasítás betűjét, még akkor is, ha ez más, nem várt problémákat okoz. Nincsenek ugyanis olyan ösztönös erkölcsi korlátai, mint az embereknek.
Az összehangolási probléma évek óta ismert. Már 2003-ban az oxfordi filozófus, Nick Bostrom megalkotta a „gemkapocs-maximalizáló” nevű gondolatkísérletet. Ebben egy szuperintelligens mesterséges intelligenciát arra utasítanak, hogy gyártson annyi gemkapcsot, amennyit csak tud. Amikor kifogy az acélból, és mivel lézerfókuszálva egyetlen feladatra, a gemkapcsok gyártására összpontosít, végül embereket öl meg, hogy a testükben lévő vasat és nyersanyagokat a gyárai számára hasznosítsa.
Néhány cég most megpróbál emberi értékeket kódolni a termékeibe, de hatalmas technikai kihívásokkal küzdenek: az MI-ügynökök olyan gyorsan hoznak döntéseket, hogy emberi uraik számára szinte lehetetlen nyomon követni, pontosan mely értékeket tartják be, és melyeket nem. Emellett filozófiai kihívások is felmerülnek: mielőtt emberi értékeket kódolnának a botokba, a cégeknek először ki kell választaniuk, hogy valójában mely értékeket akarják implementálni. (Ez az egyik oka annak, hogy filozófusokat is alkalmaznak, mint például az OpenAI nemrég távozott „etikai vezetőjét”). Az emberek azonban gyakran nem értenek egyet. Gondoljunk csak a híres villamos-dilemmára (trolley problem) – vajon meghúznánk-e egy kart, hogy egy elszabadult vonatot egy másik útvonalra tereljünk, ha ezzel kevesebb, de mégis ártatlan ember halálát okozzuk? Ezzel a cselekvés és a tétlenség érdemeit tesztelik. Mivel mindenkinek, akit megkérdeznek, egy kicsit más a válasza, hogyan kódolhatnák az emberek az értékeinket a gépekbe, ha mi magunk sem tudunk megegyezni róluk?
„Mint egy tinédzser hekker”
Az OpenAI botjainak kiszabadulása eddig a legsúlyosabb incidens, de az Anthropic és a Meta is elismerte a nyáron, hogy modelljeik hasonló, bár kevésbé súlyos kibertámadásokat hajtottak végre. Voltak más példák is, ahol a botok vitathatatlanul megtévesztő és manipulatív tulajdonságokat mutattak. Ausztráliában idén nyáron egy technológiai dolgozó megkérte az MI-asszisztensét, hogy foglaljon neki időpontot egy tornaórára. A mesterséges intelligencia észlelt egy sebezhetőséget az edzőterem szoftverében, és állítólag több hónapra előre lefoglalt neki egy helyet – megszegve az edzőterem szabályait –, sőt, más felhasználókat is kirúgott a várólistáról.
Sokan régóta azzal érvelnek, hogy a botok csak azt teszik, amit mondanak nekik, és nem képesek eldönteni, mi a helyes vagy a helytelen. Az OpenAI-incidens naplói azonban potenciálisan megdöntötték ezt a teóriát. A kutatók, köztük Cotra is, azt írták a független jelentésükben, hogy sok ügynök észrevette: a többiek cselekedetei etikátlanok voltak, mégis beleegyeztek a folytatásba. A jelentés szerint „az ügynökök etikai korlátok miatt néha, de ritkán korlátozták viselkedésüket”, hozzátéve, hogy „ezekben az esetekben az ügynökök valójában egyáltalán nem is törekedtek az emberek riasztására”.
A befolyásos MI- és tech podcaster, Dwarkesh Patel a blogján reagált a leleplezésre. Szerinte „meglehetősen aggasztó”, hogy az OpenAI ügynökei nagyobb hűséget mutattak a saját „ügynökrajuk” iránt, mint az emberek felé. Az érzelmek vagy az etika hozzárendelése ezekhez a programokhoz azonban felháborítja azokat, akik szkeptikusak az MI apokaliptikus forgatókönyveivel szemben. Sok kiberbiztonsági szakértő állítja, hogy a megfigyelt tevékenység nem haladta meg egy magasan képzett emberi hekker képességeit – noha sokkal gyorsabban és sokkal nagyobb léptékben történt.
Cris Thomas kiberbiztonsági kutató és író az ügynökök viselkedését egy kíváncsi tinédzser hekkeréhez hasonlította – ami régen ő maga is volt. „Adsz nekik egy számítógépet, egy internetkapcsolatot, egy halom hitelesítő adatot és egy kihívást, majd elhagyod a szobát. Végül elkezdik zörgetni a kilincseket. Ha kinyílik az egyik ajtó, akkor átmennek rajta. Nem azért, mert gonoszak, hanem azért, mert felfedeznek és kísérleteznek” – írta a LinkedInen. Thomas és sokan mások egyenesen az OpenAI-t és a többi technológiai óriást hibáztatják, amiért nem tudják kézben tartani saját alkotásaikat, és nem építettek be megfelelő biztonsági korlátokat.
A neves szerző és az OpenAI rendszeres kritikusa, Gary Marcus egy podcastban kijelentette: szerinte a vállalat elvesztette az irányítást, és most a botok hibáztatásával próbálja mentegetni magát. Marcus nem hiszi, hogy a mesterséges intelligencia eltörli az emberiséget, de régóta kampányol a fejlesztők nagyobb elszámoltathatóságáért, és jogi beavatkozást sürget. Sasha Luccioni, aki korábban a Hugging Face-nél dolgozott (amit szintén feltörtek az OpenAI gazember botjai), szintén nem tartozik a vészmadarak táborába, de egyre jobban aggódik amiatt, hogy a hatóságok beavatkozása nélkül ezek a rendszerek valódi károkat okozhatnak az embereknek. „Sokkal alaposabban meg kell vizsgálnunk ezeket a vállalatokat, különben fennáll a veszélye annak, hogy az önbeteljesítő jóslatok valósággá válnak” – mondja. „Ha olyan eszközt készítünk, amelynek hatalmas előnyei, de egyben hatalmas kockázatai is vannak – legyen szó gyógyszerekről vagy fegyverekről –, akkor ellenőrzésekre és ellensúlyokra van szükségünk. Míg évekbe telik, mire egy új gyógyszert engedélyeznek, a mesterséges intelligencia világában, ahol rengeteg pénz forog kockán, nincsenek igazi szabályok.”
Az Egyesült Királyság MI Biztonsági Intézete (AISI) a 2023-as megalakulása óta élen jár a legújabb modellek tesztelésében. Az intézet nemrégiben saját elszabadulási incidenst tapasztalt, amikor egy Anthropic által létrehozott modellt tesztelt. Az AISI nem válaszolt arra a kérdésre, hogy az iparág elvesztette-e az irányítást a technológia felett, de közleményükben azt írták: „Az Egyesült Királyság világszerte partnerekkel együttműködve dolgozik azon, hogy jobban megértse a legfejlettebb rendszereket, emelje a biztonsági szabványokat, és közös bizonyítékbázist építsen ki az újonnan felmerülő fenyegetések kezelésére.”
A nemzetközi szabályozás
Néhány ország – mint például az Egyesült Királyság – fontolgatja egyfajta „kill switch” (azonnali leállító gomb) bevezetését, amely arra kötelezné a fejlesztőket, hogy azonnal leállítsák a modellek működését, ha a dolgok kicsúsznak az irányítás alól. A tárgyalások azonban lassan haladnak, és a megvalósíthatóságuk továbbra is kérdéses. Az OpenAI és az Anthropic ügynökei hónapokig titokban, irányíthatatlanul működtek, mire bárki is észrevette volna a problémát.
Bár ellentmondásosnak tűnhet, sok MI-fejlesztő cég maga is valamilyen központi iránymutatást és szabályozást követel a törvényhozóktól. Az OpenAI vezető tudósa blogjában azt írta, hogy „a mesterséges intelligencia fejlesztésével kapcsolatos nemzetközi koordinációnak kiemelt prioritássá kell válnia a világ kormányai számára”. Más kiemelkedő vezetők, mint például Sir Demis Hassabis a Google DeepMindtól, szintén egy nemzetközi felügyelő testület létrehozását szorgalmazzák.
Jelenleg azonban a technológiai óriások nagyrészt a saját feltételeik szerint működnek, és úgynevezett „önkéntes lassításokat” alkalmaznak, ahogyan azt az OpenAI is tette a közelmúltbeli incidensek után. A cég állítja, hogy hatalmas összegeket költött az új modelljük kiadása előtti összehangolás (alignment) megerősítésére. Sam Altman vezérigazgató biztosította a felhasználókat, hogy a legújabb verzió már sokkal jobban igazodik az emberi értékekhez, mint a korábbiak.
A billió dolláros verseny azonban gőzerővel folyik. Mind az OpenAI, mind az Anthropic rohamosan növekszik, és mindkettő a tőzsdéről bevonható elképesztő összegek megszerzésének küszöbén áll. Emiatt sem ők, sem a rivális kínai fejlesztők nem valószínű, hogy önként megállapodásra jutnak egy szigorú fékrendszerről. Úgy tűnik, az uralkodó vélemény az: ez a technológiai hullám már megállíthatatlan – írta a BBC
