Depressziódetektor: újabb dermesztő fejlemény az MI kutatásában

2018.09.07. 13:42

A Massachusetts Institute of Technology (MIT) kutatói egy olyan neurális hálózatot fejlesztettek ki, amely viszonylag nagy pontossággal képes megjósolni azt, hogy egy embernél kialakul-e kognitív (gondolkodással kapcsolatos) károsodás. Kicsit pongyolábban fogalmazva: elkészítettek egy depressziódetektort.

A kutatók által megjelentetett cikkből kiderül, hogy egy olyan kontextustól független módszert fejlesztettek ki, amely által egy algoritmus képes elemezni egy embertől származó szöveget vagy hangfelvételt, és ennek alapján hozzárendelni egy értéket, amely jelzi az egyén depressziószintjét.

A kulcsszó itt az MI vagy AI (mesterséges intelligencia) kontextustól független aspektusa. A terapeuta ugyanis jellemzően kipróbált kérdéseket és közvetlen megfigyelést használ olyan mentális egészségi állapotok diagnózisának felállításához, amilyen például a depresszió.

MI (mesterséges intelligencia) számítógépes grafikaForrás: Science Photo Library/ANDRZEJ WOJCICKI/SCIENCE PHOTO LIBRARY/Andrzej Wojcicki/Science Photo L

A MIT kutatócsoportja szerint az ő MI-jük képes valami hasonlót végrehajtani anélkül, hogy szüksége lenne előre kidolgozott kérdésekre vagy közvetlen megfigyelésre. Nincs szüksége kontextusra, csak adatokra.

A MIT sajtóközleményéből a következő derül ki:

A MIT kutatói egy olyan neurális hálózat modelljét ismertetik, amit rá lehet engedni nyers szövegből és hangfelvételekből álló adatokra azért, hogy felfedezze a depresszióra utaló szövegmintázatokat. Képes pontosan megjósolni, hogy az egyén depressziós-e, anélkül, hogy szüksége lenne bármilyen más kérdésekből és válaszokból gyűjtött információra.

 

Áramkörökből álló agy a mesterséges intelligencia szemléltetéséreForrás: Science Photo Library/MACROVECTOR / SCIENCE PHOTO LIBRARY/Macrovector / Science Photo Libr

És ebben rejlik az igazán ijesztő része a fejlesztésnek. Mert nem mindegy, hogy „detektálja” vagy „megjósolja”, azaz előre jelzi a depressziót. Ha csak detektálna, azaz megállapítaná valakiről, hogy depressziós, azzal nem lenne gond, hiszen csak segítené az orvosok munkáját.

A kutatók viszont maguk is érzik, hogy nem mindegy, hogy algoritmusuk detektálja vagy előre jelzi a depressziót. A nyilatkozatokból úgy tűnik, inkább az utóbbiról van szó.

Ez viszont igen aggályos lehet a későbbi használatot tekintve. Az emberi kommunikáció passzív automatizált megfigyelése a rémálmainkban megjelenő ijesztő jövőt vetíti előre.

Mi lesz például, ha majd a vállalatok személyes interjúk helyett ilyen MI-t használnak a jelentkezők alkalmasságának elbírálásához? A jelöltnek még esélye se lenne a személyes álláspontjának és értékeinek kifejtésére és megmutatására.

Mesterséges intelligencia, ez lenne a jövő?Forrás: Science Photo Library/VICTOR HABBICK VISIONS/SCIENCE PHOTO LIBRARY/Victor Habbick Visions/Science P

Ezenkívül azonban számos ijesztő felhasználási lehetőség elképzelhető az ilyen és hasonló algoritmusoknak és a fejlesztés még gyerekcipőben jár. Most kellene szigorú szabályokat lefektetni az MI felhasználásához, mielőtt még túl késő lesz.