A Meta riasztja a szülőket, ha a gyerekeik kárt tennének magukban

A terv az, hogy szükség esetén a segélyszolgálatokat is értesíthessék, ha egy felhasználónál közvetlen veszélye áll fenn annak, hogy bántani fogja saját magát. A Meta igyekszik bebizonyítani, hogy a hozzá tartozó platformok biztonságosak. Vagyis, hogy lényegében a közösségi média az.

A Meta kiterjeszti a gyermekvédelmi rendszerét annak érdekében, hogy a szülőknek – és minden bizonnyal a hatóságoknak is – bizonyítsa: a platformjai számukra biztonságosak. Bevezetettek egy új biztonsági funkciót, amely szól a szülőknek, ha a gyermekeik AI-jal folytatott csevegéseiből arra lehet következtetni, hogy önkárosításon vagy öngyilkosságon gondolkodnak.

A Meta bővíti a gyermekvédelmi rendszerét (Illusztráció)
Fotó: Julio Lopez / Pexels

A Meta meg akarja mutatni, hogy biztonságos a közösségi média

Amikor egy tizenéves felhasználó öngyilkosságról vagy önkárosításról beszél, a Meta AI máris a krízis-segélyvonalakhoz irányítja, és arra ösztönzi őket, hogy forduljanak egy olyan felnőtthez, aki segíteni tud. Mostantól kezdve a vállalat (amelynek a tulajdonában van többek között a Facebook, az Instagram, a Threads és a WhatsApp) emellett értesíti a tizenéves felügyeletét ellátó szülőket vagy gondviselőket is arról, hogy gyermekük veszélyben van. Emellett tanácsokat is ad nekik arról, mit tehetnek a gyerekeikért.

A Meta egy speciális mesterséges intelligencia rendszert fejlesztett ki ezeknek a beszélgetéseknek az azonosítására, de a riasztás elküldése előtt manuálisan is átvizsgálják (tehát egy hús-vér ember) az AI által megjelölt összes csevegést, hogy ne keltsen felesleges pánikot, ha nincs rá valódi ok. Ugyanakkor inkább az óvatosságra törekszik, és akkor is elküldi az értesítést, ha a tinédzser felhasználó szándéka nem egyértelmű.

Ez a funkció már elérhető azoknak a szülőknek, akik az Instagram szülői felügyeletét használják az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában. Az év végére világszerte mindenki számára elérhetővé válik a vállalathoz tartozó közösségi médiában, aki a szülői felügyeletet használja.

• A vállalat emellett azon is dolgozik, hogy lehetővé tegye a segélyszolgálatok értesítését, ha egy felhasználó Meta AI-vel folytatott beszélgetése arra utal, hogy közvetlen öngyilkossági kockázatnak van kitéve, függetlenül attól, hogy kiskorú vagy felnőtt. 
• Májusban az OpenAI bevezetett egy olyan funkciót, amely szintén az önkárosítás megelőzését célozza. A „Trusted Contact for ChatGPT” névre keresztelt funkció lehetővé teszi a felhasználók számára, hogy kijelöljenek egy barátot, akivel a vállalat kapcsolatba léphet, ha fennáll a veszélye, hogy az illető maga ellen fordulna.
• A Meta „Korlátozott tartalom” beállítása pedig mostantól a Meta AI-val való interakciókra is vonatkozik. Ha egy szülő bekapcsolta az Instagramon a „Korlátozott tartalom” funkciót, amely kiszűri az érzékeny témákat tartalmazó tartalmakat – például a felnőtteknek szóló képi anyagokat és az önkárosítással kapcsolatos tartalmakat –, a gyerekek AI-vel való interakciói is korlátozottabbak lesznek.

A vállalat igyekvése minden bizonnyal nem véletlen. Az utóbbi időszakban egyre több országban felmerült a közösségimédia-platformok korlátozása vagy tiltása a gyerekeknek, az Európai Unióban pedig már egységes szabályozásra törekednek a legfelsőbb szinteken is. 

Ha önnek, vagy valakinek a környezetében segítségre van szüksége, tárcsázza a krízishelyzetben lévők részére rendszeresített, ingyenesen hívható 116-123-as telefonszámot, akár mobiltelefonról is, vagy keresse fel a www.ongyilkossagmegelozes.hu oldalt.