A Meta elindított egy új funkciót, amely értesíti a szülőket, ha egy tinédzser öngyilkossággal vagy önkárosítással kapcsolatos témákat beszél meg a Meta AI chatbotjával. Az eszköz mostantól elérhető a kanadai, az Egyesült Királyságbeli, az Egyesült Államokbeli és ausztráliai felhasználók számára – jelentette be a cég blogjában.
Az új funkció azok szülők esetében működik, akik engedélyezték a szülői felügyeletet gyermekeik Instagram-fiókjain. Ha a rendszer válság jeleit észleli a tinédzser a Meta AI-val folytatott beszélgetéseiben, a szülők értesítést kapnak az eszközükre. Ez a vállalat bármely platformján, a chatbottal folytatott kommunikációra vonatkozik – Instagramon, WhatsAppon, Facebook Messengeren, valamint a különálló Meta.ai weboldalon keresztül.
Az új funkció a meglévő biztonsági intézkedésekre épül. Korábban, ha egy tinédzser önkárosítási vagy öngyilkossági gondolatokat jelentett a chatbotnak, a Meta AI krízishelyzet esetén elérhetőségeket javasolt, és azt tanácsolta, hogy forduljon szülőhöz vagy más megbízható felnőtthöz. A szülők értesítést is kaptak, ha egy tinédzser ismételten önkárosítással vagy öngyilkossággal kapcsolatos információkat keresett az Instagramon.
A Meta azt is közölte, hogy egy másik eszközön is dolgoznak már, amely lehetővé tenné a sürgősségi szolgálatok értesítését, ha a felnőttek és tinédzserek közötti chatbottal folytatott beszélgetések az öngyilkosság magas kockázatát jelzik.
A Meta kijelentette, az első fázisban a rendszer maximális óvatossággal fog működni, és értesítéseket küld majd még azokban az esetekben is, amikor a tinédzser szándékai továbbra sem egyértelműek.
„Bár ez azt jelenti, hogy néha a szülőket akkor is értesíthetjük, ha nincs valódi ok az aggodalomra, úgy gondoljuk, hogy ez egy jó kiindulópont, és továbbra is figyelemmel kísérjük a rendszert, hogy biztosítsuk a megfelelő működését”, jelentette ki a vállalat.
A Meta új funkciója a mesterséges intelligencia által támogatott chatbotok fiatalok mentális egészségügyi válságaiban betöltött szerepére irányuló fokozott figyelem közepette jelenik meg.
Az OpenAI többek között elmondta, hogy hat hónappal a kanadai tömeges lövöldözés előtt megjelölte és blokkolta a támadásban részt vevő tinédzser fiókját „zavaró tartalom” miatt, de akkoriban nem jelentette a rendőrségnek.
Ezenkívül a tavaly öngyilkosságot elkövetett amerikai tinédzser, Adam Raine családja pert indított az OpenAI ellen, azt állítva, hogy a chatbot hozzájárult a halálához. - írta meg a Karpat.in.ua
Az OpenAI azóta szülői felügyeleti funkciókat is bevezetett, beleértve a Meta megoldásához hasonló mechanizmust, amely értesíti a szülőket, ha egy tinédzser beszélgetései a chatbottal a súlyos önkárosítás magas kockázatát jelzik, vagy ha a gyermek fiókját erőszakos cselekmények megvitatása miatt blokkolják.
