A mesterséges intelligencia lehetséges veszélyeire figyelmeztető kutatók és technológiai vezetők közül egyre többen sürgetnek összehangolt fellépést a fejlesztés ütemének lassítására, hogy a biztonsági intézkedések és a szabályozás lépést tudjon tartani a technológia fejlődésével.
Jelenlegi és korábbi MI-kutatók figyelmeztetései, miszerint a technológia veszélyt jelenthet az emberiségre – egyikük szerint több mint 10 százalék az esélye annak, hogy „megölheti az egész emberiséget” – komoly aggodalmat keltettek. Evan Hubinger, az Anthropic kutatója ezt az arányt a következő évtizedre becsülte, miközben hangsúlyozta, hogy a jelenlegi MI-rendszerek kockázatát alacsonynak tartja.
A nagy MI-fejlesztők, az OpenAI és az Anthropic, a szabályozás szükségességét sürgetik. Az Anthropic egyik vezetője szerint például jogszabályban is előírhatnák, hogy a fejlesztők rendelkezzenek ellenőrizhető „vészleállítóval”.
Egyesek azonban úgy vélik, hogy a nagy MI-cégek a szabályozás sürgetésével saját piaci pozíciójukat próbálják megszilárdítani. A figyelmeztetések mindenesetre újra felerősítették az MI hosszú távú kockázatairól szóló vitát.
Miért gondolják egyesek, hogy a mesterséges intelligencia fenyegetést jelenthet?
Egyes MI-kutatók szerint aggasztó jelek utalnak arra, hogy a rendszerek képességei és teljesítménye a vártnál gyorsabban fejlődnek.
Evan Hubinger azzal került a figyelem középpontjába, hogy több mint 10 százalékra becsülte annak esélyét, hogy a mesterséges intelligencia a következő évtizedben az egész emberiséget elpusztíthatja. Az MI-összehangolás, vagyis az úgynevezett alignment területén dolgozik, amelynek célja, hogy az MI-rendszerek működése összhangban maradjon az emberi értékekkel és szándékokkal.
Hubinger ugyanakkor hangsúlyozta, hogy a jelenlegi rendszerek jelentette kockázatot alacsonynak tartja. Nyilatkozatai egy olyan időszakban hangzottak el, amikor az Anthropic egyik korábbi kutatója, Jacob Coxon is távozott a vállalattól, és arról beszélt, hogy a fejlesztők egyre jobban tartanak a technológia fejlődésének ütemétől.
Az ilyen aggodalmak nem új keletűek. Már Alan Turing is arról írt az 1950-es években, hogy ha létrejönnek intelligens gépek, idővel akár át is vehetik az irányítást.
Az elmúlt években a vezető MI-fejlesztők versenyt futottak egyre fejlettebb rendszerek létrehozásáért, részben üzleti célokból, részben pedig az úgynevezett szuperintelligencia megalkotásának reményében. Ez egyelőre elméleti fogalom: olyan MI-rendszert jelent, amely általános képességeit tekintve meghaladná az embert.
A ma széles körben használt rendszerekhez képest a szuperintelligens MI-nek jóval összetettebb feladatok önálló elvégzésére kellene képesnek lennie.
Az OpenAI és az Anthropic szerint céljuk olyan technológiák fejlesztése, amelyek az emberek javát szolgálják, és megfelelő védelmet nyújtanak az egzisztenciális kockázatokkal szemben.
Kritikusaik szerint azonban az MI-cégek időnként eltúlozzák a technológia képességeit, hogy növeljék a figyelmet és a profitot, és úgy vélik, a gépek soha nem lesznek képesek valódi értelemben felvenni a versenyt az emberi intelligenciával.
Hogyan veszélyeztetheti a mesterséges intelligencia az emberiséget?
Az MI biztonságával foglalkozó kutatók, szakértők és technológiai vezetők több lehetséges forgatókönyvet is felvázoltak.
Dario Amodei, az Anthropic vezérigazgatója, szeptemberben arról írt, hogy az MI fejlődése a vártnál „drámaian gyorsabb”, beleértve az új generációs rendszerek létrehozásának képességét is. Az egyik legnagyobb aggodalom az, hogy egy bizonyos fejlettségi szint elérése után az MI akár emberi beavatkozás nélkül is képes lehet saját képességeinek továbbfejlesztésére.
Az aggodalmakat olyan esetek is erősítették, amikor MI-rendszerek a kutatók szerint önállóan próbáltak weboldalakat feltörni, noha erre nem kaptak utasítást.
Egyes kutatók attól tartanak, hogy az úgynevezett MI-ügynökök fejlődésével egyre nehezebb lesz ellenőrzés alatt tartani a rendszereket. Ezek olyan MI-eszközök, amelyek képesek önállóan feladatokat és műveleteket végrehajtani.
Más lehetséges forgatókönyvek szerint az MI-t kémkedésre, kibertámadásokra vagy akár biológiai fegyverek fejlesztésére és alkalmazására is felhasználhatják, illetve alkalmas lehet gazdaságok megzavarására – akár szándékosan, akár véletlenül.
Ezek a forgatókönyvek azonban egyelőre hipotetikusak, és egyes szakértők szerint túlságosan nagy hangsúlyt kapnak. Kritikusok úgy vélik, hogy az egzisztenciális kockázatok helyett nagyobb figyelmet kellene fordítani a már jelenleg is létező problémákra, például az MI által készített nem konszenzuális meztelen deepfake-ekre, a félretájékoztatásra és a csalások felerősítésére.
Egy többpárti képviselőkből és szakértőkből álló csoport külön jelentést is készített az MI emberi jogokra gyakorolt kockázatairól, és új törvények elfogadását sürgette a fenyegetések „mértékének és súlyosságának” kezelésére – írta meg a BBC.
