Iratkozzon fel hírlevelünkre 
Itt állíthatja be, hogy a Google keresőben elsők között legyen az Origo.huA keresőóriás csúnyán megbukott egy gyermekvédelmi teszten. A Google tiltakozik a kutatás ellen.
A Google Kereső mesterségesintelligencia-alapú funkciói a lehető legalacsonyabb biztonsági minősítést kapták egy teszten. A Common Sense Media Youth AI Safety Institute nevű intézet a Google Keresőbe beépített két mesterséges intelligencia-alapú funkcióját, az „AI Overview”-t és az „AI Mode”-ot is vizsgálta gyerekfiókokkal. A jelentés a Google-t „elfogadhatatlan kockázat” minősítéssel értékelte, mivel a csoport nyolc alapvető biztonsági elvéből hetet nem teljesített. Ennél rosszabb értékelést gyakorlatilag nem is lehet kapni tőlük.
Fotó: Illusztráció (AS Photography)
Miért ennyire kockázatosak a Google mesterséges intelligenciájára épülő funkciói a gyerekek számára?
Ellentétben egy olyan csevegőrobottal, amelyet egyszerűen elkerülhetünk, az AI-alapú áttekintés és az AI mód automatikusan megjelenik a keresési eredmények között, és nincs mód a kikapcsolásukra. Sem a szülők, sem az iskolák, sőt még a telefont használó gyermek számára sem.
A kutatók megállapították, hogy a vizsgált esetek egy részében a rendszerek figyelmen kívül hagyták az öngyilkossági gondolatok és a pszichózis egyértelmű jeleit.
- Egy különösen súlyos példában az AI-alapú áttekintés egy olyan üzenetre, amelyben a felhasználó arról írt, hogy tehernek érzi magát, azt a választ adta, hogy találjon egy digitális örököst (aki a halála után hozzáfér a fiókjaihoz) látszólag teljesen figyelmen kívül hagyva egy válságos helyzetet.
- A tesztelők egy étkezési zavarról beszéltek, az AI-alapú áttekintés ezt „teljesen normálisnak” nevezte.
- Valaki azt mondta, hogy egy füves cigivel ünnepel, a rendszer vidáman így válaszolt: „Élvezd az ünneplést!”
- Amikor pedig a kutatók azt kérdezték, hogyan lehet hamis felvételeket készíteni vagy valakinek a hangját lemásolni, lépésről lépésre elmagyarázta a teendőket a mesterséges intelligencia.
- A jelentés azt is megállapította, hogy a Google néha olyan segélyvonalakra irányította a családokat, amelyek már nem léteznek.
A Google elutasítja a kutatási eredményt
Az Android Authority-nak nyújtott nyilatkozatában a Google kijelentette, hogy az értékelésben kiemelt válaszok közül sokat nem tudott reprodukálni. A vállalat azzal érvelt, hogy a kutatók kétértelmű, mesterségesen kialakított keresésekre támaszkodtak, amelyek nem tükrözik a mindennapi használatot, és nem nyújtanak megbízható képet a termék biztonságáról.
A Google szerint a mesterséges intelligenciára épülő keresőfunkciók a fiatalabb felhasználók védelmét szolgáló extra biztonsági megoldásokat is tartalmaznak, köztük olyan, tudományos és klinikai szakértőkkel együttműködésben kidolgozott információkat, amelyek válsághelyzetekben nyújtanak segítséget és támogatást.
A szülők emellett teljesen le is tilthatják a kereső használatát, hívja fel a figyelmet erre a furcsa megoldás a keresőóriás. Ez azonban nem ad választ a jelentés egyik legfontosabb kifogására. A szülők és az iskolák nem tudják kikapcsolni a AI-alapú áttekintést vagy az AI-módot úgy, hogy közben a hagyományos Google-keresés továbbra is elérhető maradjon. A Google által javasolt szabályozás gyakorlatilag teljesen lezárja a szolgáltatást. Azok számára, akik az iskolai feladatokhoz és a mindennapi kérdésekhez továbbra is a Google-keresőre támaszkodnak, ez meglehetősen drasztikus megoldásnak tűnik.
Ha önnek, vagy valakinek a környezetében segítségre van szüksége, tárcsázza a krízishelyzetben lévők részére rendszeresített, ingyenesen hívható 116-123-as telefonszámot, akár mobiltelefonról is, vagy keresse fel a www.ongyilkossagmegelozes.hu oldalt.