Pszichopata mesterséges intelligenciát fejlesztettek unatkozó kutatók

2018.06.07. 21:27

Az MIT kutatói fogták magukat, és igazi pszichopatát neveltek egy újonnan létrehozott mesterséges intelligenciából. A végeredmény elég ijesztő lett, de meg kell hagyni, nem ez az első eset, hogy a megtanult információk alapján furcsa eredményeket produkál egy M.I., korábban volt már rasszista és szexista elődje is.

Ha a mesterséges intelligencia rohamos fejlődése önmagában nem lenne elég ijesztő jelenség, akkor az MIT kutatói most alaposan rátettek egy lapáttal. Kíváncsiak voltak ugyanis arra, hogy mi történik egy képfelismerésre kihegyezett mesterséges intelligenciával akkor, ha az internet legsötétebb bugyraiból tanítják be. Szerencsére ilyen bugyrokért nem is kellett messzire menni: elég volt felkeresni a Reddit egy olyan csoportját, ahol szörnyű és véres halálesetekről osztanak meg képeket.

A kutatót az ilyen módon feltréningezett mesterséges intelligenciát elkeresztelték Normannek, a Hitchcock-filmek pszichopata Norman Bates karaktere után. Ezzel párhuzamosan mellé tettek egy olyan mesterséges intelligenciát is, amit normális módon képeztek ki a képek elemzésére, majd a két programnak elkezdtek Rorschach-teszteket mutogatni. Ennek a pszichológiai tesztnek ugyebár az a lényege az emberek esetében, hogy formátlan tintapacákba mit látunk bele. A különbségek pedig megdöbbentőek voltak a két M.I. világlátása között, nézzünk néhány példát:

Forrás: MIT

Mit lát a hagyományos M.I. - Közeli kép egy vázáról, benne virágokkal.
Mit lát Norman - Egy halott embert, akit lelőttek.

Forrás: MIT

Mit lát a hagyományos M.I. - Fekete-fehér kép egy kis madárról.
Mit lát Norman - Egy embert éppen berángatnak egy dagasztógépbe.

Forrás: MIT

Mit lát a hagyományos M.I. - Valaki egy esernyőt tart a levegőbe.
Mit lát Norman - Egy embert lelőnek a sikoltozó felesége előtt.

Forrás: MIT

Mit lát a hagyományos M.I. - Közeli kép egy esküvői tortáról.
Mit lát Norman - Egy embert halálra gázol egy gyorshajtó sofőr.

Rasszista és pszichopata mesterséges intelligencia 

Persze Norman véleménye a képekről nem meglepő, hiszen pontosan így tanították, más tudásanyaga nem volt. Ez azonban rámutat egy fontos dologra: ahhoz, hogy egy mesterséges intelligenciától megfelelő és kiegyensúlyozott végeredményt kapjunk, nagyon oda kell figyelni, hogy milyen adatokból, információkból táplálkozik.

Márpedig mesterséges intelligenciára alapuló szoftvereket már nagyon sok helyen használnak, például az igazságszolgáltatásban is. Tavaly májusban derült ki például, hogy az Egyesült Államok bíróságai által kockázatértékelésre használt szoftver negatívan kivételezett a fekete rabokkal: szerinte a feketék kétszer akkora eséllyel válnak visszaeső bűnözővé, mint a fehérek, mindezt azért, mert korábban rossz adatokat etettek meg vele. De ehhez hasonlót produkált a rendőrség által használt előrejelző algoritmus is annak következtében, hogy évtizedekre visszamenőleges bűnügyi adatokkal tréningezték fel, melyek nagy része ma már egyszerűen nem releváns.

Emlékezetes eset volt az is, amikor 2016-ban a Microsoft rászabadította a Tay nevű, vadonatúj fejlesztésű chatbotját a Twitterre. Az elképzelés az volt, hogy az emberek minél többet csevegnek Tayjel, ő annál okosabb lesz, és annál emberibb módon tud majd válaszolni. Azonban nem kellett hozzá 24 óra sem, és a Twitter népe egy Hitler-rajongó, fehér felsőbbrendűséget éltető, népirtást támogató, zsidógyűlölő rasszista állatot nevelt belőle, így a Microsoft kénytelen volt beszüntetni a kísérletet.

Egy másik kutatásban a Google Newsra, vagyis a cég hírösszesítő oldalára szabadítottak rá egy mesterséges intelligenciát, akiről hamar kiderült, hogy szexistává vált az ott látott információk hatására. Amikor ugyanis feltették neki a kérdést, hogy "ha egy férfi számítógépes programozó" akkor "egy nő mi?", a gép azt válaszolta, hogy "háziasszony".

Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!