Egy új tanulmány kimutatta, hogy a másokkal szembeni előítéletek nyilvánvalóvá tétele nem igényel különleges intelligenciát, és mesterségesen intelligens gépekben könnyen fejlődhet.
A Cardiff University és az MIT pszichológusai és információs technológiai szakemberei bebizonyították, hogy az autonóm gépek csoportjai torzulást mutathatnak azáltal, hogy egyszerűen meghatározzák az ilyen viselkedést, lemásolják és kölcsönösen megtanítják.
Úgy tűnhet, hogy az előítélet pusztán emberi jelenség, amely megköveteli az emberi intelligenciát, hogy véleményt vagy sztereotípiát alakítson ki egy személyről vagy csoportról. Míg bizonyos típusú számítógépes algoritmusok már olyan torzításokat mutattak, mint például a rasszizmus és a szexizmus, a nyilvántartások és az emberek által generált egyéb adatok tanulmányozása alapján, az új munka bemutatja az AI azon képességét, hogy előítéletekkel önálló csoportokat alakítson ki.
A kutatást a Scientific Reports publikálja. Számítástechnikai szimulációkon alapul, amelyek szerint az elfogult virtuális ügynökök csoportokat képezhetnek és kölcsönhatásba léphetnek egymással. A szimuláció során mindenki eldönti, hogy segítsen-e valaki a csoportjában vagy egy másik tagjában, az adott egyén hírnevének függvényében, valamint saját stratégiája alapján, amely magában foglalja a kívülállókkal szembeni előítélet szintjét. Több ezer szimuláció elvégzése után mindenki megtanul új stratégiákat mások másolásával - függetlenül attól, hogy saját csoportjuk tagjai vagy az egész „lakosság” -ei.
Az ágensek tulajdonságainak relatív halmozott gyakorisága az előítélet szintje szerint / Roger M. Whitaker.
„Miután ezeket a szimulációkat egymás után több ezer és ezer alkalommal futtattuk, elkezdtük megérteni, hogyan alakul az elfogultság, és milyen feltételekhez van szükség annak ápolásához vagy megakadályozásához.” - mondta a tanulmány társszerzője, Roger Whitaker professzor, a Bűnügyi és Biztonsági Kutatóintézet és a Cardiff Egyetem Számítástechnikai és Számítástudományi Iskolájának tanszéke. „Szimulációink azt mutatják, hogy az elfogultság egy erőteljes természeti erő, és az evolúció révén stimulálható a virtuális populációkban, hogy károsítsák a másokkal való szélesebb kapcsolatokat. Az előítéleti csoportokkal szembeni védelem véletlenül más előítéleti csoportok kialakulásához vezethet, ami a népesség nagyobb megoszlását idézheti elő. Az ilyen elterjedt előítéleteket nehéz megfordítani.”
A kutatási adatok olyan személyeket is magukban foglalnak, akik növelik az elfogultságot azáltal, hogy előnyösen lemásolják azokat, akik a legjobb rövid távú eredményeket kapják, ami viszont azt jelenti, hogy az ilyen döntések nem feltétlenül igényelnek különleges képességeket.
"Teljesen valószínű, hogy a diszkriminációval azonosítható és mások másolására képes autonóm gépek a jövőben hajlamosak lehetnek az előítélet jelenségeire, amelyeket a társadalomban látunk" - folytatja Whitaker professzor. „Sok AI fejlesztés, amelyet ma látunk, magában foglalja az autonómiát és az önellenőrzést, vagyis az eszközök viselkedését a körülöttük lévők is befolyásolják. A legújabb példák között szerepel a szállítás és a tárgyak internete. Kutatásunk elméleti betekintést nyújt arra, hogy a szimulált ügynökök miként fordulnak másokhoz forrásokért."
Promóciós videó:
A kutatók azt is megállapították, hogy bizonyos feltételek mellett - beleértve ugyanazon társadalom megosztottabb alpopulációinak jelenlétét - az elfogultságot nehezebb megerősíteni.
„Számos alpopulációval az elfogulatlan csoportszövetségek kizsákmányolás nélkül működhetnek együtt. Ez csökkenti a kisebbségi státuszukat, miközben csökkenti az elfogultság iránti hajlandóságát. Ehhez azonban olyan körülményekre is szükség van, amelyekben az ágensek kedvezőbben hajlamosak a csoporton kívüli interakciókra”- fejezte be Whitaker professzor.
Vladimir Guillen