Mesterséges Intelligencia
Bíróság elé kerül az OpenAI
A chatbot tanácsai halálos túladagoláshoz vezettek
Leila Turner-Scott és Angus Scott elmondása szerint 19 éves fiuk, Sam Nelson egy chatbotot használt, hogy útmutatást kapjon a különböző drogok kombinálásához. Szerintük ez ösztönözte őt arra, hogy Xanax nevű vényköteles gyógyszert szedjen a kratom, egy opioidszerű hatású gyógynövény okozta hányinger kezelésére – tudta meg a Reuters.
A San Franciscó-i állami bíróságon benyújtott kereset szerint ezeknek a drogoknak és az alkoholnak a kombinációja okozta Nelson 2025 májusában bekövetkezett halálát.
A kereset pénzbeli kártérítést követel, és arra kéri a bíróságot, hogy függessze fel az OpenAI ChatGPT Health nevű platformjának bevezetését, amely lehetővé teszi a felhasználók számára orvosi adatok feltöltését és személyre szabott egészségügyi tanácsok fogadását.
Az OpenAI januárban közzétett jelentése szerint összesen 40 millió felhasználó tesz fel naponta egészségügyi kérdést a ChatGPT-nek.
Drew Pusateri, az OpenAI szóvivője szívszorítónak nevezte a helyzetet, és elmondta, hogy az interakciók a ChatGPT egy korábbi, már nem elérhető verzióján történtek.
„A vállalat folyamatosan dolgozik a ChatGPT biztonságának javításán” – mondta.
„A ChatGPT nem helyettesíti az orvosi vagy mentális egészségügyi ellátást, és mentális egészségügyi szakértők bevonásával folyamatosan fejlesztjük az érzékeny és akut helyzetekben való reagálási módját” – mondta Pusateri.
„A ChatGPT jelenlegi biztonsági mechanizmusai a szorongás azonosítására, a káros kérések biztonságos kezelésére és a felhasználók valós segítségnyújtáshoz való elvezetésére szolgálnak.”
Egy másik tragikus esetben a Florida Állami Egyetemen történt tömeges lövöldözésben meghalt férfi családja perelte be az OpenAI-t, azt állítva, hogy a ChatGPT segített a lövöldözőnek a támadás megtervezésében.
Egyre több perrel néznek szembe a generatív mesterséges intelligenciával foglalkozó vállalatok, amelyekben azzal vádolják őket, hogy nem akadályozták meg a chatbotok interakcióit, amelyek önkárosításhoz, mentális betegségekhez és erőszakhoz járulnak hozzá.
A Nelson szülei által benyújtott kereset szerint a ChatGPT kezdetben elutasította a fiú drogfogyasztással kapcsolatos kérdéseit és figyelmeztetette a kockázatokra.
A chatbot elmondta Nelsonnak, hogyan szerezzen be illegális szereket, tanácsot adott neki, hogy melyik drogot szedje, és javaslatokat tett a keresett tapasztalatok alapján. A chatbot elmentette a memóriájában Nelson szerhasználatával kapcsolatos részleteket, így személyre szabottabb ajánlásokat tudott kínálni.
A perben az OpenAI-t azzal vádolják, hogy sietve adta ki a ChatGPT-4o-t, annak érdekében, hogy lépést tudjon tartani az olyan versenytársakkal, mint az Alphabet (GOOGL.O). A céget hibás termék tervezésével és a felhasználók kockázatainak figyelmen kívül hagyásával vádolja, védekezésül pedig egy kaliforniai törvényre hivatkoztak, amelyben megtiltják a mesterséges intelligenciával foglalkozó vállalatoknak, hogy egy chatbot önállóan kárt okozott egy személynek.
„Kaliforniában, ha a felperesek bizonyítják, hogy az alperesek mesterséges intelligenciával működő terméke kárt okozott nekik, az alperesek felelősek lesznek a kárért, függetlenül attól, hogy mennyire okos, független, akaratos, rosszindulatú, féktelen, lázadó, szabad szellemű, libertin, sztochasztikus vagy autonóm az általuk világra hozott szörnyeteg” – áll a keresetben.
