Amikor majd a robotok ülnek a vádlottak padján

2016.11.30. 10:14

Vajon mennyire lesznek biztonságosak a jövő önvezető autói? Ki fog egyáltalán vezetni kit? Az autó a sofőrt, vagy a sofőr az autót? Ilyen kérdésekből indul ki Keleti Arthur IT-biztonsági stratéga előadása a T-Systems szakmai döntéshozói konferenciáján, a Symposiumon. Leültünk a szakemberrel azért, hogy egy picit megidézzük a nem is olyan távoli jövőt.

"Szóval milyen is lesz a jövő?" - teszem fel a kérdést a T-Systems IT-biztonsági stratégájának, aki erre a nemrég megjelent könyvéből, a "The Imperfect Secret" című kötetből idéz egy Kovács "Tücsi" Mihály novellát. Ebben a történetben egy olyan közeli jövőkép rajzolódik ki, ahol az önvezető autókban feketedobozok gondoskodnak arról, hogy könnyebben felderíthetők legyenek a balesetek és azok körülményei. Illetve másra is jók ezek az eszközök. Mivel a sztori szerint a kormányok bevezették a havi úthasználati díjat, így még azért is hasznos a feketedoboz, mert automatikusan elküldi az adóhatóságnak a GPS adatokat - az autósoknak tehát pontosan annyit kell fizetniük, amennyit használták az utat. Ráadásul az adatok alapján a biztosítók is fel tudják mérni a vezetési szokásokat. A nyugodt, szabályosan közlekedő sofőrök nagyobb kedvezményt kapnak, a gyakori szabálytalankodók pedig természetesen többet fizetnek.

"Ez természetesen csak egy novella, viszont egyáltalán nem rugaszkodott el a valóságtól. Az biztos, hogy az önvezető autóknak köszönhetően csomó pozitívum fog megjelenni az életünkben, hibákat fogunk kiküszöbölni, vezetési szokásokra tudunk majd következtetni. Ahogyan a weben profilozzák már most is az embereket a vásárlási szokásaik alapján, úgy profilozhatják majd a vezetési stílus alapján. Ennek eredményeként elérhetjük azt, hogy például az az ember, aki általában gyorsan hajt, vagy percenként balesetet okoz, tízszer annyit fizessen az autópálya használatáért, mint a rendes sofőrök. Az összegért cserébe szemet hunyunk a kockázat fölött, hogy ő is ott van az úton, de az is lehet, hogy bizonyos országokban teljesen kitiltják, nehogy balesetet okozzon" - magyarázza Keleti Arthur.

De, hogy mennyire nincs messze ez a világ, azt az is jelzi, hogy néhány autógyár már bejelentette, hogy olyan szoftvereket működtetnek majd az autókban, amelyek nem csak az utat és az járművet figyelik, hanem a sofőrt is. Így egy baleset kapcsán láthatóvá válik az is, hogy mit csinált a sofőr. Ahogyan a légikatasztrófák esetében is az egyik első dolog az, hogy meghallgatják mit beszélgettek egymással a pilóták. "Ha az embereknél lévő mindenféle okoskütyük nyomán esetleg adataink lehetnek a volán mögött ülő pulzusszámáról, vérnyomásáról, akkor megtudhatjuk milyen állapotban volt az illető a baleset idejében. Lehet, hogy éppen nem tudott koncentrálni, mert mondjuk sok cukor volt a vérében".

Keleti Arthur, a T-Systems IT-biztonsági stratégájaFotó: Glódi Balázs

Más a helyzet persze akkor, ha az önvezető autókról van szó. Az egyik legérdekesebb kérdés, hogy vajon hogyan döntenek majd veszélyhelyzetben? "Felerősödtek a már-már filozófiai hangok és kérdések, hogy egy autó egyáltalán dönthet-e a vezetője sorsáról? Ez egy érdekes dilemma. Vajon az kérdés-e egyáltalán, hogy az az autó, amit te megvásárolsz a saját pénzeden, kit védjen?" - teszi fel a kérdést a szakértő. A válasz pedig legtöbbünk számára valószínűleg az, hogyha már egyszer a mi autónkról van szó, akkor az minket védjen és a családunkat, ne mást.

"Szerintem a nem is olyan távoli jövőben ezek az önvezető autók, vagyis robotok olyan döntéseket fognak hozni, amelyekből bírósági tárgyalások lesznek.

Az lesz a kérdés, hogy ki üljön majd a vádlottak padján?

Az autós nem ülhet, hiszen nem is ő vezetett. De még csak nem is a gyártó és a programozó. Egyedül a döntéshozó, vagyis a robot ülhetne ott. Meg fogják kérdezni tőle, hogy miért úgy döntött ahogyan." Most még talán sci-fi-nek tűnhetnek ezek a gondolatok pedig valószínűleg hamarabb megvalósulnak, mint ahogyan azt el merjük képzelni.

Keleti Arthur szerint "az lesz a furcsa, hogy a gépek döntéseivel kapcsolatban, hogy nem biztos, hogy meg fogjuk érteni azokat. Bonyolult helyzetekről van szó ugyanis, amelyek megoldásához szinte elképzelhetetlen mennyiségű adat feldolgozására lesz szükség". Elég csak arra gondolunk, hogy a hamarosan megjelenő Airbus repülőgépek 1000-es szériájának szárnyaiban több mint tízezer szenzor lesz, amelyek naponta több terrabájtnyi adatot termelnek. "Ezeket pedig már csak gépek tudják majd elemezni. Hasonló mennyiségű adat ömlik majd az autónkba is."

És lássuk be: nem biztos, hogy bárki is érteni fogja azt, hogy az önvezető autó mesterséges intelligenciája a másodpercenkénti hat gigabájtnyi adatot miért és hogyan elemezte. "Innen kezdve azért komoly gondjaink lesznek.

Az autókat ugyanis nem érdeklik a morális dilemmák.

Csak a saját algoritmusukkal foglalkoznak."

Ha elsőre ez ijesztőnek is tűnhet, az IT szakember megnyugtat: "alapvetően biztonságosabb lesz a közlekedés, csupán arról van szó, hogy nem biztos az, hogy mindent megértünk majd abból, ami történik."

Na és persze ott van még az a helyzet, hogy mi van akkor, ha nem az autók döntenek helyettünk, hanem valaki más. Például hackerek. Charlie Miller és Chris Valasek évek óta készítenek olyan tévéműsorokat, amelyekben bemutatják hogyan lehet autókat hackelni. Az elsőt évekkel ezelőtt forgatták, de már az is veszélyesnek tűnt. Igaz, hogy akkor még laptopokkal kellett beülni a jármű hátsó ülésére, ám az entertainment rendszerek és a távoli kapcsolódás megjelenésével gyakorlatilag "be is hívtuk a gonoszt az informatikai rendszereinkbe. Így az autóba is. Nem kell már drótot dugni sehová."

Nem könnyíti meg a hackerek elleni küzdelmet, hogy közben az autóipari szereplők nem szívesen beszélnek a rendszereikről. Vagyis azok koránt sem annyira nyitottak, mint az Android, vagy akár az IOS. "Biztonsági szakértőként az a véleményem, hogyha zárt rendszert látok, akkor azt alapból sérülékenynek tartom. Egyszerűen azért, mert nem tudom, hogy mi van benne. Ha pedig nem ismerem, akkor sajnos rosszul is működhet". Ez nyilván nem azt jelenti, hogy mostantól a repülőknek is Linux-szal kell felszállniuk, "azt viszont állítom, hogy sokkal nyitottabb kommunikációra van szükség."

"Be is hívtuk a gonoszt az informatikai rendszereinkbe. Így az autóba is. Nem kell már drótot dugni sehová."Forrás: dpa Picture-Alliance/AFP/Silas Stein

Emellett a Volkswagen botrány arra is rávilágított, hogy nem csak a hackerek lehetnek azok, akik befolyásolják autóink szoftvereit, hanem maguk a gyártók is manipulálhatják azokat. "Alapelv az, hogy amiben szoftver van, az feltörhető és manipulálható. A kérdés már csak az, hogy mekkora kontroll fog kialakulni az ilyen rendszerek fölött. Ma ugyanis még ennek nincs meg a megfelelő kerete".

Emlékezhetünk arra, hogy néhány hete a fél internetet térdre kényszerítették azér, mert a felhasználók a legalapabb jelszavakat használták, az IoT eszközök gyártói pedig még mindig nagyon kezdetlegesen írják meg a szoftvereket és nem figyelnek oda a biztonsági feltételekre. "Mi van, ha majd ezek az eszközök kerülnek be az autóinkba? Mennyivel lesznek biztonságosabbak?"

A biztonság az egyik kihívás, a másik pedig az, hogy hová is fordulhat segítségért az átlagfelhasználó? Vagyis mi a teendő, ha mondjuk hackertámadás áldozatai vagyunk? Erre a problémára világított rá nemrég Michael Hayden, az NSA korábbi főnöke egy washingtoni beszédében. Arról beszélt, hogyha mennyire megszoktuk már azt, hogyha tűz van, akkor hívjuk a tűzoltókat, ha kiraboltak, akkor a rendőröket, ha rosszul vagyunk, akkor a mentőket.

De mégis kit hívjunk, ha kibertámadás ér minket? Hol a telefonszám?

Keleti Arthur szerint hiába várunk erre a számra, a mindenkori kormányzatok ugyanis túl lassúak ahhoz, hogy reagálni tudjanak például az Anonymus csoport olyan támadásaihoz, mint amikor a Fülöp-szigeteken percek alatt jutottak hozzá milliószámra a szavazók adataihoz. Nem elég gyorsak. Viszont akkor ki fog megvédeni minket? "Az a jóslatom, hogy bizonyos dolgokat az emberek majd saját maguk akarnak megoldani, például e-polgárőrség formájában."

A szakértő szerint a fentiekben említett jövőbeli feladatok és kihívások megoldására mindenkire szükség van. A kormányzatok feladata az, hogy megteremtsék a piaci szereplők részéről az együttműködést és az információáramlást. Fontos ugyanis az átláthatóság. Viszont sosem lehetünk biztosak abban, amit az autógyártók a saját szoftverükről állítanak.

A biztosítóktól egy érdekes jelenséget várok, méghozzá azt, hogy meg fognak jelenni a személyekre szabott kiberbiztosítások.

A telekommunikációs szolgáltatóktól pedig azt lehet várni, hogy olyan elérést biztosítanak a különböző interakcióba lépő eszközök számára, ami megfelelően stabil. Az autóknak egymással is kell majd kommunikálnia például azért, hogy tájékoztassák egymást a forgalmi helyzetképről, egy kilométerekre történt balesetről és más helyzetekről.

Az 5G és az 5G+ már alkalmasak lesznek arra, hogy az autók kommunikálhassanak.

A Google és az Amazon vásárlói profilozásához hasonló megoldásra lesz szükség az autósok esetében is. Azaz tudnunk kell majd egymásról, hogy ki vezet jól és ki rosszul. Közben a kibeszakértőknek és a szolgáltatóknak, vagyis azoknak, akik összekötik a technológiát a cégekkel, vagy az emberekkel, még több felelősségük lesz. Az ő feladatuk lsz ugyanis azokat a big data megoldásokat letenni az asztalra, amelyek segítségével mozgathatók és kinyerhetők lesznke a hatalmas mennyiségű adatok.

Végül fontos az is, hogy "a mesterséges intelligenia fejlesztésébe felelősséggel kell belevágni. Legalább az alapajait érteni kell annak, ahogyan az új eszközeink működnek. Meg kell értnünk azt, hogy kik és miért készítették.