A Massachusettsi Technológiai Intézet kutatói tanulmánya feltárta a mesterséges intelligencia adatelemzési folyamatának részleteit, amelyet a döntéshozatal során gyakran a szexista és rasszista sztereotípiák vezetnek. A kísérletben részt vevő számos rendszer bizonyította az emberi előítéletekre való hajlamot.
A "The Daily Mail" brit napilap azt írja, hogy a tanulmány eredményeinek kézhezvétele után a tudósok csoport vállalta a mesterséges intelligencia átprogramozását, kiküszöbölve a korábbi problémákat. Irene Chen szerint, aki a Massachusetts Technológiai Intézetnél dolgozik, a számítógépes tudósok inkább arra a következtetésre jutnak, hogy a rasszizmus és a szexizmus elemeinek a mesterséges intelligencia algoritmusokban való megsemmisítésének egyetlen módja a szoftver kódjának javítása. Az algoritmusok minősége közvetlenül arányos az általuk működtetett adatokkal. Chen kutatása David Sontag és Fredrik D. Johannson közreműködésével azt mutatja, hogy több elérhető adat radikálisan megváltoztathatja a dolgát jobbra.
Az egyik kísérletben a csoport egy olyan rendszert vizsgált meg, amely a rendelkezésre álló információk alapján előre jelezte az ember jövedelmét. Az elemzés kimutatta, hogy az esetek 50% -ában az algoritmus hajlamos arra jósolni, hogy egy nő jövedelme átlagosan alacsonyabb lesz, mint egy férfi jövedelme. A rendelkezésre álló adatok mennyiségének tízszeres növelésével a tudósok megállapították, hogy egy ilyen hiba tényezője 40% -kal csökkent.
Ezen túlmenően a kórházakban alkalmazott, a súlyos műtéten átesett betegek túlélését előrejelző tanulmányban a jóslatok pontossága sokkal alacsonyabb volt a mongoloid faj esetében, mint a kaukázusi és a negroidok esetében. A tudósok azonban azt állítják, hogy a fejlett elemzési technikák használata jelentősen csökkentheti a becslés pontosságát azon betegek esetében, akik nem tartoznak a Mongoloid fajba. Ez azt mutatja, hogy a rendelkezésre álló több adat nem mindig korrigálja az algoritmus hibáit. Ehelyett a tudósoknak több információt kell kapniuk a megkülönböztetett csoportokról.
Az új módszer egy másik kérdést vet fel a gépi tanulást végző kutatók számára arról, hogy miként lehet hatékonyan elemezni az adatokat meglévő megkülönböztetés nélkül.
Hogyan működik a gépi tanulás AI-alapú rendszerekben?
A mesterséges intelligencia rendszerek mesterséges ideghálózatokon (ANNs) alapulnak, amelyek az emberi agy által használt információtárolási és tanulási technikákat extrapolálják a mechanikus rendszerekre. Az ANN arra törekszik, hogy mintákat keressen a rendelkezésre álló információforrásokban, beleértve a beszédet, a szöveget és a képeket. Az adatelemzés pontosságának javítása az egyik alapvető előfeltétel, amely megelőzi a mesterséges intelligencia legújabb fejleményeit.
A "normál" mesterséges intelligencia a bemeneti adatokkal megmondja az algoritmust az elemzés tárgyáról, miközben hatalmas mennyiségű információval működik.
Promóciós videó:
A gépi tanulás gyakorlati alkalmazásai közé tartozik a Google fordítószolgáltatása, az arcfelismerés a Facebook fotóiból és a Snapchat szűrői, amelyek az arcokat letapogatják, mielőtt online vizuális effektusokat alkalmaznának.
Az adatbeviteli folyamat gyakran időigényes, és általában korlátozza az információáramlás a vizsgált objektum egyik aspektusára vonatkozóan. Az új típusú ANN - egy generáló, egymással szembeni ideghálózat - két különböző, mesterséges intelligenciával rendelkező robot képességeivel szemben áll szemben, provokálva egy kevésbé intelligens rendszert, hogy a második kárára tanuljon, emberi részvétel nélkül. Ez a technika drámai módon javítja a gépi tanulás hatékonyságát és sebességét, miközben javítja az adatok elemzésének minőségét.
Oliy Kurilov
