Viktoriya Krakovna társaival azon dolgozik, hogy elkerüljük a legrosszabb forgatókönyvet
Vágólapra másolva!
Míg most a kibertámadások kívülről érkeznek, a mesterséges intelligenciának be sem kell törnie az „ajtót.” Bár sci-fiként gondolunk még a fejlődő robotokra, ideje felkészülni, hogy felkavarják az életünket, de rendesen.
Míg a jelenlegi, emberi kibertámadások kívülről érkeznek, addig a mesterséges intelligenciáknak már be se kell törniük majd az ajtót,
belülről hekkelnek meg minket
- festette le
Képfelismerés
Csak az elmúlt két évben hatalmas fejlődést értek el a mesterségesintelligencia-kutatások, mondta a Future of Life intézmény társalapítója a második Brain Bar Budapest konferencián. Példaképp említette, hogy úgynevezett gépi tanulással (deep learning) a képfelismerő algoritmusok emberi szintre emelkedtek.
Ezt a kínai kisfiút a méhlepényesek osztályába sorolta Forrás: Origo
Míg 2010-ben még nagyjából 30 százalékos hibaaránnyal dolgoztak, addig mára ez 5 százalékra csökkent.
Mi, emberek is ennyi hibát vétünk, ha fel kell ismernünk, mit látunk a képen.
A gépagyaknak azonban megvannak az előnyeik, és bizony megvannak a hátrányaik is, emelte ki Krakovna. „Ha az embernél intelligensebb entitásokat hozunk létre, olyan rendkívül bonyolult feladatokat tudnak majd megoldani, amire az ember csak hosszú évek alatt lenne képes. Jobbak leszünk a tudományokban, lásd a szegénység felszámolása vagy például a rákkutatás.”
Ha mesterséges intelligencia vagy robotok, a sajtó gyakran a Terminátorral illusztrálja a témát Forrás: AFP
A kutató szerint a probléma nem abban rejlik, hogy a robotok gonoszakká válnak, és ellenünk fordulnak. Bár a sajtó is sokszor a Terminátor képével riogat, ez egy kevésbé valószínű forgatókönyv.
A puszta létük és kompetenciájuk okoz majd gondot.
Ahogy alapvetően az ember sem (vagy nem mind) akar ártani az állatoknak, mégis puszta létével és tevékenységével jelentős hatással van az állatvilágra.
A rövid távú negatív hatások közt említette:
a jogi felelősséget,
a munkanélküliséget,
az önjáró fegyvereket (pl. drónok),
illetve a magánélethez való jog és a kibervédelem kérdéskörét.
Az automatizálással egyre több munkát a robotok fognak végezni, az embereknek át kell képezni magukat, új feladatokat létrehozni, például ezen rendszerek üzemelése és karbantartása, a programozás.
Az is kérdéses, ha egy önjáró autó elüt egy gyalogost, akkor ki a hibás: a sofőr, akié az autó, vagy maga a szoftver és a kocsi gyártója. Ezen jogszabályokat meg kell határozni, le kell fektetni minél előbb, mondta Krakovna.
A hosszú távú hatások között emlegette:
az intelligenciarobbanást,
az értékek félreértelmezését,
a nem szándékos károkozást,
a biztonság kérdését.
Ha a mesterséges intelligencia elkezd újabb és újabb, egyre okosabb robotokat létrehozni, egy idő után elveszítjük a kontrollt és ráhatást, ezt időben meg kell előzni - mondta Krakovna.
Az olyan emberi értékeket, mint az öröm és a megbántás fogalma, rendkívül nehéz átadni egy gépnek. Ez is kihívás elé állítja a kutatókat, hiszen gyakorlatilag
józan paraszti ésszel kéne felruházni a robotokat.
Nem szándékos károkozás alatt azt értette, amikor egy felhasználó parancsba adja az önjáró autónak, hogy gyorsan ki kell érnie a repülőtérre, mert késésben van, és a nagy sietség, a rövid időtáv teljesítése miatt a gép nem tud minden tényezőt figyelembe venni. Elég, hogy csak egyszer nem történik meg időben egy számítás, és elgázol valakit vagy balesetet okoz.
Mint amikor a külső környezeti tényezők figyelembe vétele nélkül vezetnek az emberek. Esőben például nem elég betartani a megengedett sebességhatárokat, annál lassabban ajánlott vezetni, hogy biztonságosan tudjunk haladni.
Belső hacker a rendszerben
Jelenleg egy felhasználónak az emberi hackerek miatt kell aggódnia: hogy feltörik a gépét, hozzáférnek az adataihoz, azokat megszerzik, vagy éppen titkosítják és váltságdíjat követelnek érte. A mesterséges intelligencia korában azonban
a támadás nem kívülről érkezik, hanem belülről.
A legrosszabb forgatókönyv, ami a mesterséges intelligenciák fejlődésével bekövetkezhet, az létünk veszélybe kerülése, mondta Krakovna. Azonban véleménye szerint az nem egy robotok és emberek közötti harc által következik be, hanem hosszú folyamat eredményeképp.
Ennek elkerülése érdekében tavaly januárban Puerto Ricóban ültek össze a legnevesebb kutatók, tudósok és fejlesztők, hogy időben felkészüljenek minden eshetőségre. Nyílt levélben dolgozták ki, hogy mi az, amit az elkövetkezendő években meg kell tenniük, hogy minél inkább irányítás alatt tudják tartani a fejlesztést, a gépagy fejlődését.
Viktoriya Krakovna társaival azon dolgozik, hogy elkerüljük a legrosszabb forgatókönyvet Forrás: Origo
Az Elon Musk Tesla-, SpaceX-alapító és milliárdos által támogatott nemzetközi program keretében 37 projektet indítottak el, amelyek célja, hogy a veszélyeket, negatív hatásokat ki tudják küszöbölni.
Az emberek még mindig sci-fiként gondolnak a tanuló-fejlődő robotokra,
pedig a mesterséges intelligencia hamarosan komoly hatással lesz az élet minden területére" - hívta fel a figyelmet Krakovna.
Előadását azzal a Richard Sutton-idézettel zárta:
I don’t think people should be scared, but people should pay attention
(Nem félnie kell az embereknek, hanem odafigyelni).
Iratkozzon fel hírlevelünkre 
