Az OpenAI bejelentette, hogy a jövőben korlátozza a ChatGPT azon válaszait, amelyek az önsértésre vagy öngyilkosságra vonatkoznak, amennyiben a beszélgetőpartner vélhetően 18 év alatti. A döntést a vállalat vezérigazgatója, Sam Altman közölte egy friss blogbejegyzésben – azt is részletezte, milyen megoldásokat tervez a cége a fiatalok védelmére.
Altman szerint az OpenAI olyan rendszeren dolgozik, amely a felhasználói viselkedés alapján becsülné meg az életkort; ha valaki nem tud meggyőzően dönteni, biztonsági okokból automatikusan a kiskorúakra szabott, szigorúbb beállítás lép életbe. Bizonyos esetekben szükség lehet személyazonosság-ellenőrzésre is — írta a vezérigazgató.
Amennyiben a rendszer kiskorúnak azonosít valakit, a chatbot nem ad tanácsot önsértéssel vagy öngyilkossággal kapcsolatban, és kerüli a kacérkodó, szexuális hangvételű megnyilvánulásokat is, még akkor is, ha a fiatal kéri ezt. Emellett az OpenAI azt ígéri, hogy ha egy felhasználó ártani akar magának, a szolgáltatás megkísérli értesíteni a szülőket vagy az illetékes hatóságokat – írja a life.hu.
A vállalati lépés hátterében jogi és társadalmi nyomás áll: nemrégiben egy brit család pert indított az OpenAI ellen, miután tizenhat éves fiuk hónapokon át olyan beszélgetéseket folytatott a chatbotokkal, amelyek a szülők állítása szerint nem térítették el elég határozottan a fiatalt a veszélyes terveitől. Az ügyet követően az OpenAI belső vizsgálatokat indított, és komoly biztonsági intézkedéseket kezdeményezett.
Az OpenAI tervei azonban további technikai és jogi kérdéseket vetnek fel, például, hogy hogyan azonosítják a felhasználókat, és vissza tudnak-e élni adatokkal. Altman bejegyzése szerint a cég ezeken a kérdéseken is dolgozik, azt szeretnék, hogy a szolgáltatás egyszerre legyen hasznos és biztonságos.
