A mesterséges intelligencia fejlesztésében a modellektől független, bármikor aktiválható biztonsági rendszerekre van szükség – írta a TechCrunch.
Satya Nadella, a Microsoft vezérigazgatója az X közösségi oldalon arról értekezett, hogy újra kell gondolni a mesterséges intelligencia iránti bizalom technikai alapjait. Szerinte a nagy teljesítményű rendszereket nem lehet egymásba ágyazott, átláthatatlan „fekete dobozokként” kezelni, amelyek döntéseit a felhasználók egyszerűen elfogadják vagy elutasítják.
A Microsoft vezetője ezért különválasztaná magát a nyelvi modellt és azt a vezérlőrendszert, amely feladatokat ad neki, illetve végrehajtja a műveleteit. A biztonsági ellenőrzéseket is a modellen kívül kellene működtetni.
Nadella szerint minden érdemi műveletről utólag nem módosítható, ember számára olvasható dokumentációnak kell készülnie. A jogosult kezelőknek pedig akkor is képesnek kell lenniük megállítani vagy kikapcsolni a rendszert, amikor az már egy feladat végrehajtásán dolgozik.
A vezérigazgató úgy véli, eleve abból kell kiindulni, hogy egy modell kompromittálódhat, ezért a károkozás lehetőségét már a tervezéskor korlátozni kell. A megoldást egy vészfékhez hasonlította.
