A mesterséges intelligencia fejlesztése meghaladja a tudományos ismereteket és a kormányzati politikát, ami azt jelenti, hogy nincs garancia arra, hogy a technológia nem okoz katasztrofális károkat – figyelmeztetett szerdán az ENSZ független testülete.
Az ENSZ Mesterséges Intelligencia Független Nemzetközi Tudományos Testületének előzetes jelentése szerint a politikai döntéshozók egyre növekvő dilemmával szembesülnek: szilárd bizonyítékokra van szükségük a mesterséges intelligencia hatékony szabályozásához, ám ezek a bizonyítékok nehezen tudnak lépést tartani a technológia gyors fejlődésével.
„A mesterséges intelligencia képességei meghaladják mind a tudományos ismereteket, mind a kormányok alkalmazkodóképességét” – mondta Yoshua Bengio, a 40 régióközi szakértőből álló testület társelnöke.
„A mesterséges intelligencia megtévesztő viselkedésére utaló egyre több bizonyíték miatt a tudomány jelenleg nem tudja garantálni, hogy a képességek folyamatos bővülésével a mesterséges intelligencia nem fog katasztrofális károkat okozni, sem önmagában, sem rosszindulatú felhasználók miatt.”
A mesterséges intelligencia kockázatainak és lehetőségeinek első globális, független értékeléseként leírt jelentés célja, hogy naprakész értékeléseket adjon a tudományról, segítve a döntéshozatalt, miközben a kormányok a gyorsan fejlődő rendszerekkel küzdenek.
Rövid távon a valós feladatok elvégzésére képes ágentikus MI-rendszerek felé való elmozdulásra számít, bár a növekedést korlátozhatja az energia- és a kiváló minőségű adatok hiánya. Idővel az önfejlesztő MI-t a gazdaságba mélyebben beágyazva látja előre, és olyan technológiákkal konvergál, mint a kvantum-számítástechnika és a biotechnológia.
A jelentés szerint a mesterséges intelligencia már szakértői szintű gondolkodást mutat a matematikában és a természettudományokban, és felgyorsítja a gyógyszer- és vakcinafejlesztést, feladatainak összetettsége pedig négy-hét havonta megduplázódik, lehetővé téve a rendszerek számára, hogy olyan feladatokat végezzenek el, amelyek az embereknek napokig vagy hetekig tartanak.
Bár ez jelentős gazdasági előnyökkel járhat, továbbra sem világos, hogy a mesterséges intelligencia használatából származó termelékenységnövekedés szélesebb körű növekedést eredményez-e, vagy hatással lesz-e a munkahelyekre.
A testület számos biztonsági aggályt is felvázolt, például a mesterséges intelligenciarendszerek feletti kontroll elvesztésének kockázatát, mivel azok egyre inkább autonómiává és megtévesztővé válnak.
A mesterséges intelligenciát már most is használják félretájékoztatás és más káros tartalmak generálására, és csalásra, kibertámadásokra és biológiai fenyegetésekre is felhasználhatják.
A kormányzás továbbra is széttagolt, sok országnak nincs kapacitása a fejlett mesterséges intelligenciarendszerek értékelésére vagy alakítására, így olyan technológiákra támaszkodnak, amelyeket nem tudnak teljes mértékben megérteni vagy irányítani. A jelentés szerint a meglévő biztonsági eszközök gyakran a vállalatok által közzétett korlátozott tesztelési adatokon alapulnak.
António Guterres, az ENSZ főtitkára a kormányokat a gyors cselekvésre szólította fel.
„A világ nem kormányozhatja azt, amit nem ért meg” – mondta Guterres egy nyilatkozatban.
„A potenciál nagy, de a kockázatok valósak, és a várakozás költségei emelkednek” – tette hozzá.
A globális politikai és technológiai vezetők az ENSZ digitális technológiai ügynökségével együtt szerdán bejelentették egy új bizottság létrehozását, amelynek célja a mesterséges intelligencia fejlesztésének kezelése, a lehetséges kockázatokkal kapcsolatos növekvő aggodalmak közepette.
A Jóságért a Globálisért Bizottság társelnökei Paul Kagame ruandai elnök és a Salesforce lesznek. Marc Benioff vezérigazgató, áll a bizottság honlapján található stratégiai áttekintő dokumentumban. Az állandó alelnök, Doreen Bogdan-Martin, az ITU főtitkára lesz. Várhatóan más ENSZ-ügynökségek is részt vesznek majd a munkában – írta a Reuters.
