Egyre több amerikai törvényhozó követeli az MI-rendszerek új szabályozását, miután két, az Anthropic nevű mesterségesintelligencia-fejlesztő cégnél dolgozó szakember is arra figyelmeztetett: a gyorsan fejlődő mesterséges intelligencia a nem túl távoli jövőben az emberiség kihalásához vezethet. (Szerkesztői megjegyzés: A nyers fordításban szereplő „antropológus” kifejezés téves, mivel itt az Anthropic nevű vállalat volt kutatóiról van szó, nem pedig antropológusokról.)
A mesterséges intelligencia potenciális káros hatásaival kapcsolatos aggodalom ezen a héten fokozódott, amikor Jacob Coxon, az Anthropic volt kutatója bejelentette, hogy lemondott, és hozzátette: „a mesterséges intelligenciát építő emberek egy része komolyan hiszi, hogy a technológia az évtized végére mindannyiunkat megölhet”.
Evan Hubinger, a vállalat egy másik kutatója szintén megszólalt, megerősítve, hogy Coxonnak igaza van. „Tényleg komolyan hisszük, hogy a mesterséges intelligencia képes lenne kiirtani az emberiséget” – írta Hubinger az X-en. „Személy szerint úgy gondolom, hogy ennek az esélye a következő évtizedben meghaladja a 10 százalékot.”
A vészjósló figyelmeztetések azt követően láttak napvilágot, hogy MI-ágensek önállóan próbáltak külső rendszereket feltörni, és a terület több biztonsági kutatója is felmondott a cégénél a technológia elszabaduló kockázatai miatt. A politikusok – mind a demokraták, mind a republikánusok – riadalommal reagáltak, és további intézkedéseket sürgettek.
„Washingtonnak fel kell ébrednie, és végre komolyan kell vennie ezt a fenyegetést” – reagált Mark Kelly, arizonai demokrata szenátor az X-en.
Ted Cruz texasi szenátor a The View című tévéműsorban a mesterséges intelligencia „katasztrofális kockázatait” szabályozó jogszabályok fontosságára hívta fel a figyelmet. Cruz egy olyan szenátusi bizottságot felügyel, amely az Egyesült Államok Kereskedelmi Minisztériumának munkáját ellenőrzi – annak az ügynökségnek, amely saját, házon belüli MI-biztonsági kutatókat alkalmaz.
Anna Paulina Luna floridai republikánus képviselő az X-en felszólította Mike Johnsont, a képviselőház elnökét, hogy hívjon össze egy rendkívüli, „különleges ülést a mesterséges intelligenciáról”. A Képviselőház ezen a héten épp szünetet tart, és a tervek szerint jövő héten folytatja a munkáját.
Donald Trump amerikai elnök azonban csütörtökön kijelentette, hogy nem osztja azokat az aggályokat, miszerint az MI az emberiség kihalásához vezethet. „Engem az aggaszt, hogy ha nem nyerjük meg az MI-versenyt, nagyon rossz helyzetbe kerülünk. Jelenleg elég jó előnnyel vezetünk Kínával szemben” – mondta röviden a Dallas Fort Worth nemzetközi repülőtéren a médiának adott nyilatkozatában.
Az Egyesült Államok még ebben a hónapban is nyomást gyakorolt a G20-országok tagjaira, hogy egyelőre ne lépjenek fel szigorú közös szabályozással a mesterséges intelligencia területén.
Az Anthropic – amely egyes befektetők szerint akár 2 ezer milliárd dolláros értékeléssel is zárhatja a legújabb tőkebevonási körét – szóvivője csütörtökön úgy nyilatkozott, hogy a vállalat továbbra is agresszíven teszteli „a modelleket és a veszélyes képességeket olyan kritikus területeken, mint a kiberbiztonság és a biológia”. A szóvivő hozzátette, hogy a cég nyitott az MI-iparág többi szereplőjével való együttműködésre az új eszközök kiadásának ütemezését illetően.
Más MI-kutatók is felhagytak a szakmával
A Bloomberg News beszámolója szerint Sam Altman, az OpenAI vezérigazgatója egy ezen a héten tartott belső vállalati értekezleten azt mondta az alkalmazottainak, hogy a cég nyitott a legfejlettebb mesterséges intelligencia rendszerek fejlesztésének lassítására. (Az Anthropic legnagyobb riválisa nem kommentálta az Altman és munkatársai közötti találkozóról szóló sajtóhíreket, de az OpenAI korábban már utalt rá, hogy a modellfejlesztés egyes fázisait szándékosan lassítja.)
A hét elején az OpenAI bejelentette, hogy hivatalosan is kötelező nemzeti MI-biztonsági követelmények bevezetését szorgalmazza az Egyesült Államokban.
Két másik, a mesterséges intelligencia biztonságával foglalkozó szakember is komoly aggodalmát fejezte ki az iparág túlságosan gyors fejlődésével kapcsolatban. Josh Engels, aki korábban a Google DeepMind biztonsági kutatócsapatában dolgozott, egy csütörtökön megjelent NBC-interjúban úgy fogalmazott: „Nincsenek felnőttek a szobában. Az emberek mindent megtesznek a fejlesztésért, de senki sem jön majd megmenteni minket.”
Joe Benton, aki korábban az Anthropic biztonsági kutatócsoportját vezette, szintén az NBC-nek elmondta: attól tart, hogy a mesterséges intelligencia túl gyorsan fejlődik ahhoz, hogy a társadalom időben észbe kapjon – hacsak nem kezdünk el már most komolyan aggódni a következmények miatt. Mindkét szakember csatlakozott a METR-hez, egy olyan kutatási nonprofit szervezethez, amely azt vizsgálja és méri, hogy a különböző MI-rendszerek mikor és milyen mértékű veszélyt jelenthetnek a társadalomra.
Független könyvvizsgálók és új törvények
A mesterséges intelligenciával kapcsolatos egyre hangosabb aggodalmak nyomást gyakorolnak John Thune szenátusi többségi vezetőre és Amy Klobuchar demokrata politikusra is, akik jelenleg egy új törvényjavaslatot írnak a technológia szabályozására. Klobuchar szerint a jogszabálynak elő kellene írnia a fejlesztő vállalatok számára, hogy „kormányzati szakértőkkel együttműködve ellenőrizzék és teszteljék a modelleket annak érdekében, hogy megbizonyosodjanak a biztonságukról”. Thune júliusban a Reutersnek elmondta, hogy az átfogó törvényjavaslat a rendszerek által jelentett „katasztrofális kockázatokkal” foglalkozik majd.
Kalifornia szerdán fogadta el az első olyan állami szintű törvényt, amely szigorú szabályokat határoz meg az MI-termékek független auditorok általi értékelésére vonatkozóan. Chris Lehane, az OpenAI egyik vezetője jelezte, hogy a cég támogatni fogja az új szabályozást – a bejelentés nagyjából akkor történt, amikor Gavin Newsom kaliforniai kormányzó hivatala közölte, hogy az államfő aláírta a törvényjavaslatot.
Júliusban egy hat amerikai képviselőházi törvényhozóból álló, kétpárti csoport is előterjesztett egy törvényjavaslatot, amely előírná a legerősebb modellek fejlesztői számára a kötelező, független biztonsági auditokat. Az auditorokat az Egyesült Államok Kereskedelmi Minisztériuma akkreditálná, a minisztériumon belül pedig egy teljesen új pozíciót hoznának létre az MI-biztonság szövetségi szintű felügyeletére.
„Rendkívül fontos, hogy meglegyen a lehetőség ezen rendszerek külső felügyeletére, beleértve a megfelelően kalibrált, telepítés és kiadás előtti felülvizsgálatot, valamint a független harmadik fél általi auditokat is” – összegzett Alicia Solow-Niederman, a George Washington Egyetem technológiai jog professzora – írta a Reuters.
