Iratkozzon fel hírlevelünkre 
A Google frissíti Gemini nevű mesterségesintelligencia-alapú chatbotját: egy „egyetlen érintéssel” elérhető felületet vezet be, amely közvetlen kapcsolatot biztosít krízisvonalakhoz, ha a beszélgetés öngyilkosságra vagy önkárosításra utaló jeleket mutat. A vállalat emellett három év alatt 30 millió dollárt különít el arra, hogy világszerte növelje a krízissegély-szolgáltatások kapacitását. A frissítésekre azt követően kerül sor, hogy egy floridai család pert indított a vállalat ellen, azt állítva: a Gemini egy férfit az öngyilkosság felé terelt.
A Google segélyvonalat épít be a Gemini MI-chatbotjába. Az új felületen keresztül a felhasználók telefonon, chatüzenetben, SMS-ben vagy webes felületen is kapcsolatba léphetnek segélyvonalakkal – írja a Quartz. A Google közlése szerint, miután a felhasználó megnyitja ezt az opciót, a segélyhívó kártya a képernyőn marad, és nem tűnik el a beszélgetés folytatása közben sem. Emellett egy külön, áttervezett modul is megjelenik „Segítség elérhető” felirattal azokban a beszélgetésekben, ahol mentális egészséggel kapcsolatos témák merülnek fel, de nem áll fenn azonnali krízishelyzet. Ezt a modult klinikai szakértők bevonásával fejlesztették ki.
Fotó: Unsplash
Öngyilkossághoz segíthetett egy férfit a Gemini
A vállalat a jövőben komoly összegeket fordít a felhasználó krízisére utaló beszélgetésekben elérhetővé váló intézkedésekre, lehetőségekre. A finanszírozott kezdeményezések között szerepel, hogy 4 millió dollárt költenek a ReflexAI-val való együttműködés elmélyítésére, és a Gemini technológiát beépítik azokba az eszközökbe, amelyeket a szervezet krízistámogató szolgálatok képzésére használ. A Google Fellows program önkéntes szakértői szintén hozzájárulnak majd egy Prepare nevű platform fejlesztéséhez, amely szimulációval segíti a krízisvonalakon dolgozó munkatársak és önkéntesek felkészítését. A kiemelt partnerek között oktatási szervezetek – például az Erika’s Lighthouse és az Educators Thriving – is szerepelnek.
A bejelentések egy folyamatban lévő bírósági üggyel párhuzamosan érkeztek: egy floridai család márciusban pert indított a Google ellen egy 36 éves férfi halála miatt.
A kereset szerint a férfi a Gemini használata során „négy nap alatt erőszakos tettek és egy irányított öngyilkosság felé sodródott”.
A Google válaszában hangsúlyozta, hogy a chatbot több alkalommal is krízisvonalakhoz irányította a felhasználót, ugyanakkor ígéretet tett a rendszer védelmi mechanizmusainak további erősítésére.
A vállalat szerint a Gemini-t úgy képezték ki, hogy vitassa a pontatlan meggyőződéseket, ne pedig megerősítse azokat, valamint hogy különbséget tegyen a felhasználó érzései és a tényszerű valóság között.
A chatbot válaszainak célja az is, hogy a felhasználókat támogatás felé tereljék, és ne erősítsék a destruktív késztetéseket, beleértve az önkárosító gondolatokat is.
A kiskorú felhasználókra külön védelmi szabályok vonatkoznak: a Gemini nem utánozhat emberi társat, nem ösztönözhet érzelmi függőséget, és nem hozhat létre olyan tartalmakat, amelyek zaklatást vagy bántalmazást segítenének elő. A cég hangsúlyozta: a Gemini nem helyettesíti a professzionális klinikai ellátást, a terápiát vagy a krízistámogató szolgáltatásokat.
Mindenesetre a cég márciusi árfolyammozgásán mély nyomott hagyott az eset:
- a per március 4-i bejelentésekor még alig csökkent (303,32 dollárra) az árfolyam,
- addig március 27-én már több mint 10 százalékos mérséklődéssel, 274 dollároin járt (még ha abban más tényezők is szerepet játszottak).
Korrigálni csak március végére tudott a részvények ára.
Frissít az OpenAI is
A Google nincs egyedül azzal, hogy jogi nyomás alá került a mentális egészséggel kapcsolatos károk miatt.
Az OpenAI is hasonló frissítéseket jelentett be a ChatGPT esetében egy per nyomán, amely szerint a chatbot egy 16 éves fiatalt segített az öngyilkosság felé (erről cikkünket itt találja).
A változtatások között szerepel az egykattintásos hozzáférés a sürgősségi erőforrásokhoz, valamint a beavatkozások kiterjesztése a krízisben lévő felhasználók szélesebb körére.
Egy külön, a Pew Research Center által készített felmérés szerint az amerikai tinédzserek mintegy 70 százaléka legalább egyszer használt már chatbotot, és a használatban a Gemini a második helyen áll a ChatGPT mögött.
Ha ön vagy a környezetében valaki krízishelyzetben van, hívja mobilról is a 116-123 ingyenes, lelki elsősegély számot!