Az Amazon mesterséges intelligenciája, amelynek célja az álláskeresők újraélesztése, a férfiakat magasabb rangú, mint a nőket. Különösen elutasította a „nőies” szót tartalmazó önéletrajzokat, és felajánlotta, hogy béreljen olyan jelölteket, akik beszédében tipikus férfias igeket használtak, még akkor is, ha ezeknek az embereknek nem voltak a szükséges készségeik. Ennek eredményeként a társaságnak be kellett fejeznie a projektet.
Mesterséges HR intelligencia
Az Amazon gépi tanulási szakértői úgy találták, hogy a mesterséges intelligencia, amely feldolgozza a jelöltek visszajelzését a vállalatnál, hátrányosan megkülönbözteti a nőket, akik munkát keresnek, jelentette a Reuters. Ezt a funkciót nem szándékosan építették be a rendszerbe - ez a gépi tanulás eredménye.
Egy mesterséges intelligencián alapuló önálló válogató motort 2014 óta fejlesztenek az Amazon-on egy 12 fős csapat Edinburgh-ban. A vállalat már 2015-ben észrevette, hogy az új rendszer nem tartja tiszteletben a nemi semlegesség elvét a szoftverfejlesztési pozíciókra és más műszaki álláshelyekre jelentkezők értékelésekor.
Hamarosan rájöttek az okra: a helyzet az, hogy a rendszert a társaság által az elmúlt 10 évben bevezetett önéletrajzokon képzték. Ezen önéletrajzok nagy részét a férfiak tartották, ami nagyjából tükrözi az informatikai ipar helyzetét. Ennek eredményeként az Amazon mesterséges intelligenciája megtudta, hogy a férfiak álláskeresők előnyben részesülnek a nőkkel szemben.
Nyelvi elutasítás
Promóciós videó:
Ennek eredményeként a mesterséges intelligencia elkezdett eldobni a "női" szót tartalmazó önéletrajzokat, olyan kifejezésekkel, mint "a női sakk klub kapitánya". A mechanizmus szintén lerontotta a két női főiskola végzettségét, ám a Reuters forrásai nem adták meg nevüket. Az önéletrajz értékelésekor a mesterséges intelligencia egy-öt csillagot adott nekik - nagyon hasonló ahhoz, hogy a vásárlók hogyan értékelik a termékeket az Amazonon.
A rendszer más szavakra is figyelmet fordított. A fejlesztők 500 számítógépes modellt hoztak létre a különféle munkakörök és földrajzi helyek számára. Mindegyik modellt felkészítették mintegy 50 ezer jelszó felismerésére, amelyek jelen voltak a pályázó önéletrajzában.
Figyelemre méltó, hogy a mechanizmus figyelmen kívül hagyta az informatikai szakemberek visszajelzéseiben gyakran megfogalmazott készségeket jelölő szavakat, mint például a képesség különféle kódok írására stb. Ehelyett a rendszer nyomon követi például a férfi beszédre jellemző tipikus igeket a jelöltek önleírásában, mint például „teljesült” (kivégezték) vagy "elfogták", mivel rendszeresen láttak régebbi önéletrajzokban, amelyekről a gép megtanult. Ezzel a megközelítéssel a nemi megkülönböztetés nem volt az egyetlen probléma - a mechanizmus gyakran olyan személyeket ajánlott fel, akik nem rendelkeztek a pozícióhoz szükséges készségekkel.
A projekt további sorsa
Az Amazon úgy módosította a rendszert, hogy már nem reagál a jelző szavakra. Ez azonban nem garantálta, hogy a mechanizmus nem fog más utat találni a nők tulajdonában lévő önéletrajzok azonosítására. 2017 elejére a vállalat csalódott volt a projekt iránt, és feloszlatta a csapatot. A Reuters forrásai szerint a HR szakemberek figyelembe vették a rendszer ajánlásait, de soha nem támaszkodtak rájuk.
Az egyik forrás szerint a projekt lezárult. Egy másik állítólag egy új csapat jött létre Edinburgh-ban, hogy folytassa a mechanizmus fejlesztését, de ezúttal a méltányosságra és a befogadásra összpontosítva. Egy másik forrás arról számol be, hogy a motor erősen módosított verzióját most használják rutinszerű munkák elvégzésére, például az ismétlődő folytatások eltávolítására az adatbázisból.