Rengeteg a hamis információ a mesterséges intelligencia keresőmotorjaiban

A mesterséges intelligencia is mutathatja a kognitív hanyatlás jeleit.

Fotó: Science Photo Library via AFP

A mesterséges intelligencia keresőmotorjai gyakran tévednek! Hamis információkat közölnek akkor is, ha nem találják a megoldást.

A mesterséges intelligencia rohamos fejlődése egyre inkább befolyásolja mindennapi életünket, különösen az online keresések világában. Az AI-alapú keresőmotorok célja, hogy gyorsan és hatékonyan válaszoljanak a felhasználók kérdéseire, de egy friss tanulmány szerint ezek a rendszerek gyakran hamis információkat közölnek. A kutatás rámutatott, hogy az AI-keresők átlagosan 60%-os arányban hivatkoznak helytelen forrásokra, így potenciálisan félretájékoztatják a felhasználókat.

A mesterséges intelligencia alaő keresők elég sok hamis információval színezik a világot.

Melyik AI kereső adja ki a legtöbb hamis információt?

A vizsgálat több népszerű mesterséges intelligencia-alapú keresőmotort is elemzett, ezek alapján úgy tűnik, hogy a Perplexitiy volt a legmegbízhatóbb, a viszonylag szerény, 37%-os hibaarányával. Őt a ChatGPT követte már jelentősebb, 67%-kal, a sort pedig a Gemini és a Grok zárta 90% feletti hibaaránnyal, de azt is meg kell itt jegyezni, hogy a Microsoft Copilotja ugyan a középmezőnyben zárt, de csak azért volt olyan kevés a tévedése, mert a kérdések több, mint felére egyáltalán nem válaszolt. Igy joggal mondhatja az utolsókra, hogy „Ha hallgattál volna, bölcs maradtál volna."

A többi keresőmotor ugyanis egy közös hibát követett el: ha nem találtak megbízható forrást, akkor ahelyett, hogy visszautasították volna a válaszadást, kitaláltak információkat. Ez az úgynevezett konfabuláció, amely során az AI olyan adatokat generál, amelyek valósnak tűnnek, de valójában nem léteznek.

Miért problémás az AI keresők megbízhatatlansága?

Az AI-alapú keresőmotorok népszerűsége folyamatosan növekszik, mivel gyors és kényelmes válaszokat kínálnak. Azonban, ha ezek a rendszerek nem tudnak megbízható forrásokra támaszkodni, az súlyos következményekkel járhat:

1. Félretájékoztatás – A felhasználók hamis vagy pontatlan információk alapján hozhatnak döntéseket, legyen szó egészségügyi tanácsokról, pénzügyi kérdésekről vagy tudományos tényekről.
2. Fake news terjedése – A dezinformáció terjedését felgyorsíthatja az, ha az AI keresők megbízhatatlan forrásokra támaszkodnak.
3. Hamis tudományos és történelmi állítások – Ha az AI-kutatások és keresések alapjaiban hibás adatok szerepelnek, az hosszú távon torzíthatja a tudományos és közéleti diskurzust.

Miért nem tudják az AI keresők kiszűrni a tévedéseiket?

A mesterséges intelligencia alapú keresőmotorok úgy működnek, hogy nagy mennyiségű adatot dolgoznak fel és tanulnak belőlük. Azonban ezek az algoritmusok:

• Nem mindig tudják felismerni, hogy egy forrás megbízható-e vagy sem.
• Gyakran nem tudnak különbséget tenni a vélemény és a tény között.
• Nem ellenőrzik aktívan, hogy az általuk közölt információ valós-e.

Míg a hagyományos keresőmotorok (például a Google) linkeket és forrásokat ajánlanak fel, az AI-keresők közvetlen válaszokat adnak, amelyek elsőre megbízhatónak tűnhetnek, de valójában tévesek is lehetnek.

Hogyan lehetne csökkenteni a hibaarányt?

A kutatók szerint több módja is van annak, hogy az AI-alapú keresők megbízhatóbbá váljanak:

• Jobb forrásellenőrzés: Az AI-nak fel kellene ismernie, hogy egy információ megbízható forrásból származik-e.
• Konfabuláció csökkentése: Ha egy kereső nem talál hiteles információt, inkább jeleznie kellene, hogy nincs megfelelő válasz, ahelyett, hogy kitalált adatokkal szolgálna.
• Felhasználói figyelmeztetések: Az AI-rendszereknek figyelmeztetniük kellene a felhasználókat arra, hogy az általuk közölt információk nem mindig teljesen pontosak.

Mit jelent ez a jövőre nézve?

Az AI keresőmotorok folyamatos fejlődésével elengedhetetlen, hogy a fejlesztők nagyobb figyelmet fordítsanak a pontosságra és az átláthatóságra. Amíg ez nem történik meg, addig a felhasználóknak fokozott óvatossággal kell kezelniük az ilyen rendszerek által nyújtott információkat. A kutatás eredményei rávilágítanak arra, hogy az AI keresők jelenlegi formájukban még mindig messze állnak attól, hogy teljesen megbízható forrásként tekintsünk rájuk. Bár a mesterséges intelligencia képes megkönnyíteni a keresési folyamatokat, a felhasználóknak továbbra is szükségük van kritikus gondolkodásra és több forrásból történő tájékozódásra. A kérdés tehát adott: bízhatunk-e a mesterséges intelligencia által szolgáltatott információkban, vagy továbbra is a hagyományos keresőmotorokra kell hagyatkoznunk? Az AI jövője szempontjából kulcsfontosságú lesz, hogy ezek a rendszerek képesek legyenek pontosabb és megbízhatóbb válaszokat nyújtani. Egyelőre azonban a technológia még nem érte el azt a szintet, hogy teljesen kiváltsa az emberi ellenőrzést és kritikai gondolkodást.