Évekkel azelőtt, hogy a vezető amerikai technológiai vállalatok szerdán az ENSZ Biztonsági Tanácsában figyelmeztettek volna a mesterséges intelligencia (MI) okozta egzisztenciális kockázatokra, a Vatikán már felismerte a technológiában rejlő, apokalipszissel fenyegető veszélyeket. A történelem első amerikai születésű egyházfője, Leó pápa – aki májusban globális szabályok kidolgozását sürgette – csütörtökön a Pápai Tudományos Akadémián, pénteken pedig az UNESCO párizsi székhelyén is a nemzetközi felügyelet fontosságát hangsúlyozza.
„A Szentszék nem egyik napról a másikra ébredt rá erre a problémára” – nyilatkozta a Reutersnek Paolo Benanti tiszteletes, a Vatikán mesterséges intelligenciával foglalkozó vezető tanácsadója. A szakember azokra a lassításra felszólító nemzetközi felhívásokra utalt, amelyeket nemrégiben többek között az Anthropic, az OpenAI és az xAI vezérigazgatói is támogattak.
Benanti – aki a közelmúltban részt vett a III. Károly brit király által szervezett MI-csúcstalálkozón is – hangsúlyozta, hogy a mesterséges intelligencia átalakító ereje olyan léptékű társadalmi változásokat idézhet elő, amelyeket jelenleg szinte lehetetlen megjósolni.
Csütörtökön, a Pápai Tudományos Akadémián tartott beszédében Leó pápa elismerte, hogy az MI hatalmas hasznot hajthat az emberiség számára, ugyanakkor „új, eddig ismeretlen veszélyeket jelent a biztonságra és a nemzetközi békére nézve”. Ennek fényében arra kérte a világ vezetőit, hogy „bölcsen kormányozzanak” a technológia felügyelete során.
Az emberiség jövője a tét
A 16 hónapja hivatalban lévő Leó pápa pápaságának kezdete óta rendszeresen figyelmeztet a mesterséges intelligencia fejlesztésének lehetséges veszélyeire; beiktatása után már a harmadik napon nyilvánosan beszélt a témáról. Májusi enciklikájában – amely az első nagyobb horderejű dokumentuma volt – arra figyelmeztetett, hogy a kontrollálatlan MI-rendszerek felgyorsíthatják a félretájékoztatást, és a világot a végtelen háborúk útjára sodorhatják.
Pietro Parolin bíboros, a Vatikán legfőbb diplomatája a múlt héten Rómában megismételte a pápa felhívását, figyelmeztetve: a nemzetállamok egyedül nem képesek megbirkózni a technológia kihívásaival. „Itt valójában az emberiség jövője forog kockán” – mondta Parolin. Hozzátette: a világnak „mindenki részvételére szüksége van olyan közös szabályok megalkotásához, amelyek képesek kordában tartani ezt a jelenséget.”
A vatikáni nyitottságot jelzi, hogy a pápa májusi enciklikájának bemutatóján Chris Olah, az Anthropic társalapítója is felszólalt. Arra a kérdésre, hogy a Vatikán folytat-e közvetlen párbeszédet a fejlesztőcégekkel, Benanti a globális egyház decentralizált jellegére hivatkozva elmondta: számos egyeztetést a helyi püspökök vezetnek. Szeptember 16-án az amerikai püspöki konferencia be is jelentette egy új MI-munkacsoport létrehozását, miután vezetőik a Szilícium-völgy több felsővezetőjével is találkoztak.
Figyelmeztetés az autonóm fegyverekre és az atomfenyegetésre
A Vatikán már 2019-ben elkezdte kongatni a vészharangot az MI kockázatai miatt. Abban az évben a néhai Ferenc pápa két konferenciát is szervezett a témában, ahol arra figyelmeztetett, hogy a mesterséges intelligencia által terjesztett és felerősített dezinformáció akár egy új világháborút is kirobbanthat. A Szentszék 2020-ban a Microsofttal, az IBM-mel, az ENSZ Élelmezési és Mezőgazdasági Szervezetével (FAO), valamint az olasz kormánnyal közösen adott ki egy etikai felhívást. Ebben leszögezték: az MI fejlesztésének célja nem lehet „kizárólag a nagyobb profit elérése vagy a munkavállalók fokozatos lecserélése”.
Leó pápa különösen az autonóm fegyverrendszerek – például az orosz-ukrán háborúban is bevetett drónok – szigorú felügyeletét sürgeti. Enciklikájában hangsúlyozta, hogy ezek a fegyverek elérték azt a fejlettségi szintet, ahol az emberi irányítás és felelősségre vonhatóság szinte teljesen megszűnik. Paolo Benanti az MI által vezérelt drónokat a vakon pusztító taposóaknákhoz hasonlította – írta a Reuters.
A vatikáni főtanácsadó a Szentszék jelenlegi aggodalmait a nukleáris leszerelésért folytatott több évtizedes egyházi küzdelemhez hasonlította. „Ahogy az atomfegyverek fizikailag elpusztíthatják az emberiséget, úgy a generatív mesterséges intelligencia által tömegesen gyártott manipuláció tönkreteheti az emberek azon képességét, hogy társadalomként együttműködjenek” – mondta Benanti. Kiemelte a legveszélyesebb különbséget is: „A nukleáris fegyvereket katonai létesítményekben tárolják, meg lehet őket számolni és ellenőrizni lehet a mozgásukat. A mesterséges intelligencia azonban láthatatlan.”
