Diszkriminálta a nőket az Amazon mesterséges intelligenciája
![](https://cdn.origo.hu/2023/12/NUWDRN3kZmRP3AlTlYh7O3gZB5TMUj9erMUZTdwuigY/fill/1347/758/no/1/aHR0cHM6Ly9jbXNjZG4uYXBwLmNvbnRlbnQucHJpdmF0ZS9jb250ZW50LzY2NDI2NzExOTZiZTQwYWE4YjA2MDU2Y2U1NDA5OTBj.webp)
Egy olyan nagyvállalat sikeréhez, mint az Amazon, elengedhetetlen a minél magasabb fokú automatizáció. Legyen szó a raktáraik működéséről, az árak meghatározásáról, vagy éppen a kiszállításról.
A mesterséges intelligencia segítségével azonban a cég automatizálni akarta a jelentkezők által beküldött önéletrajzok értékelését is, jelentős emberi munkát megspórolva ezzel.
A rendszer fejlesztésébe még 2014-ben kezdett bele a vállalat, és az utóbbi években számos területen kísérletezett vele, és egy ideig szuper ötletnek gondolták. Többé nem kell HR-részlegnek végigmenni több száz jelentkezőn, hanem a rendszer a beérekezett önéletrajzok alapján kiválasztotta volna a legjobb ötöt, akiket adott esetben később meg lehetett volna versenyeztetni a pozícióért.
Csak kiderült, hogy komoly problémák akadtak azzal, ahogy a mesterséges intelligencia értékelte a jelentkezőket, főleg a nőket.
A dolog a szoftverfejlesztői, illetve egyéb, technológiai jellegű állásoknál bukott a felszínre, ahol a mesterséges intelligencia rendre kiszórta a női jelentkezőket és a férfiakat részesítette előnyben. Ezért egyébként nem magát a programot kell hibáztatni, azt ugyanis az utóbbi 10 évben az Amazonhoz ilyen pozíciókra felvett önéletrajzok alapján tanították be. A felvettek többsége pedig férfi volt, hiszen akkor is és most is a technolóigai szakmákban messze felülreprezentáltak a férfiak, így persze a mesterséges intelligencia is azt gondolta, hogy inkább férfiakat kellene választania.
A mesterséges intelligencia éppen ezért lepontozta többek között azokat az önéletrajzokat, melyekben valamilyen módon szerepelt a "nő" vagy a "női" szó. Olyan dolgokra kell gondolni, mint hogy valaki kizárólag nőket fogadó egyetemen végzett, vagy a női sakkcsapat kapitánya volt.
Az Amazon mérnökei később aztán belenyúltak a programba, hogy az ehhez hasonló kifejezéseken ne akadjon fent, azonban azt már nem tudták garantálni, hogy a gépi tanulásos rendszer az egyre több megszerzett tudás birtokában később ne alakítana ki magának más módszereket arra, hogy valami alapján diszkriminálja a jelentkezőket.
Belsős forrásokra hivatkozva a Reuters azt írja, hogy az Amazon vezetősége elvesztette a hitét a projektben, így az ezzel foglalkozó csapatot feloszlatták. A névtelenséget kérő források azt is elmondták, hogy a cég HR-részlege megnézte a mesterséges intelligencia által kiadott optimálisnak tűnő jelölteket a felvételi eljárás során, de sosem támaszkodtak kizárólag erre. Ezzel szemben az Amazon hivatalosan azt kommunikálta, hogy sosem használták a gépi eszközt a jelentkezők kiválasztására.
Habár az Amazon ügye most felszínre került, számos más cég indított el hasonló kezdeményezéseket, akik számára ez jó tanulság lehet a jövőre nézve. A nagy technológiai vállalatok mellett többek között például a Hilton Worldwide Holdings és a Goldman Sachs is tervezi, hogy a következő években legalább részben automatizálná a munkaerő-felvételi folyamatot.
Az Egyesült Államokban egy tavaly készült felmérés szerint a HR-szakemberek 55%-a mondta azt, hogy a mesterséges intelligencia öt éven belül a mindennapi munkarutinjuk részévé válik.
Mindez nem feltétlenül ördögtől való dolog, hiszen a gépi tanulásos rendszerek használatával egyrészt sokkal több jelentkező vizsgálható meg, vagy kereshető meg az interneten (például LinkedIn-en) közzé tett önéletrajz alapján, így egy vállalat sokkal mélyebb merítésből válogathat. Másrészt pedig a mesterséges intelligenciával legalább részben kiszűrhető a felvételiztető szakember szubjektív véleménye a jelentkezőről.
A szakértők szerint azonban még akár hosszú évek munkájába is tellhet, mire létre tudunk hozni olyan algoritmusokat, melyek fair és átlátható módon, mindenféle diszkrimináció nélkül tudják majd értékelni a jelentkezőket.
Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!