Manipulálhatóvá tesz az AI?

A kérdés, hogy manipulálhatóvá tesz az AI, nem puszta technológiai vita, hanem társadalmi és pszichológiai kérdés is. A mesterséges intelligencia manipuláció lehetősége főként az online térben vált hangsúlyossá – írja a feol.hu.

Az algoritmusok hatása mindennapi döntéseinkre jelentős: meghatározzák, milyen híreket, videókat és véleményeket látunk. Ez pedig hosszú távon formálhatja a valóságérzékelésünket. A deepfake technológia képes valósághű, de hamis videók és hanganyagok előállítására. A Stanford Internet Observatory és több technológiai kutatóintézet is figyelmeztetett arra, hogy a deepfake technológia veszélyes lehet a jövő demokratikus folyamataira nézve.

Az algoritmusok láthatatlan módon befolyásolják a gondolkodásunkat. A személyre szabott ajánlórendszerek növelik az elköteleződést, de szűkíthetik a perspektívát. Az MIT kutatása szerint a hamis információk gyorsabban terjednek online, mint a valós hírek. Az AI és dezinformáció kapcsolata ezért kiemelt kutatási terület lett.

A manipuláció nem feltétlenül direkt propaganda. Lehet érzelmi tartalom előtérbe helyezése, kattintásoptimalizált hírfolyam, viselkedésalapú reklám vagy pszichológiai profilozás.

A mesterséges intelligencia manipuláció gyakran finom, és éppen ezért nehezen észrevehető. Védekezhetünk azonban ellene médiatudatosság fejlesztéssel, több forrásból való tájékozódással, az algoritmikus működésének megértésével vagy a kritikus gondolkodás erősítésével.