A tudósok és a programozók már nem értették meg, hogy a mesterséges intelligencia hogyan hoz döntéseket. Ezt a problémát számos szakember bejelentette az AI fő konferenciáján - a neurális információfeldolgozó rendszerekkel - Long Beachben (Kalifornia).
A Quartz által megkérdezett szakértők szerint cselekedniük kell, mielőtt a rendszer túl komplexivé válna.
"Nem akarjuk, hogy az AI-döntéseket magától értetődik, anélkül, hogy megértenénk logikájukat" - mondja Jason Yosinski, az Uber. "Ahhoz, hogy a társadalom elfogadhassa a gépi tanulási modelleket, tudnunk kell, hogy az AI hogyan jut bizonyos következtetésekhez."
A probléma, amelyet sok szakértő „fekete doboznak” nevez, nagyon súlyos. A korábbi tapasztalatok azt mutatják, hogy az AI hajlamos arra, hogy elfogult döntéseket hozzon, és analógiákat készítsen ott, ahol nem kellene. Mivel az ideghálózatok fokozatosan beszivárognak a rendészetbe, az egészségügyi rendszerbe, a tudományos kutatásokba és az algoritmusokba, amelyek meghatározzák, hogy mit látsz ma a Facebook hírcsatornájában, az AI hiba nagyon költséges lehet.
Példaként említi Kiri Wagstaff, a Jet Propolusion Lab (NASA) AI szakértőjét, missziót indít a Marsra. Az eszközök 200 millió mérföldnyire vannak a Földtől és több száz millió dollárba kerülnek, tehát az AI munkájában felmerülő hibák egyszerűen elfogadhatatlanok.
„Az embereknek tudniuk kell, mit csinál AI és miért. Egyébként hogyan bízhatnak benne drága felszerelések ellenőrzésében?”- mondja Wagstaff.
Jelenleg a tudós egy algoritmussal dolgozik, amely a NASA különféle űrhajóinak felvételeit rendezi. Mivel a képek száma millióban van, a számítógép lehetővé teszi a legérdekesebb képek válogatását és kiemelését anélkül, hogy hatalmas időt fordítana erre a folyamatra. A probléma azonban abban rejlik, hogy gyakran csak az AI tudja önmagában, hogy egyes általa kiválasztott képek miért szokatlanok.
Ebből az a következtetés vonható le, hogy ha ezen algoritmusban hibát észlelünk, akkor egy nap nagyon fontos információk hiányozhatnak.
Promóciós videó:
„Alapvetően a számítógép képet ad, és azt mondja:„ Nézd, ez érdekes.” De nem mindig tudja megérteni, miért érdekes: a tárgyak színének, alakjának vagy térbeli elhelyezkedésének miatt - ezt valószínűleg nem tudod”- mondja a tudós.
Hannah Wallach, a Microsoft vezető kutatója egyetért kollégáinak következtetéseivel.
„Ahogy a gépi tanulás egyre szélesebb körben elterjed és a tét növekszik, ezeket a rendszereket már nem tekinthetjük fekete doboznak. Meg kell értenünk, mi történik bennük és mit csinálnak”- mondta a kutató.
A tudósok szerencsére próbálnak módszereket találni a mesterséges intelligencia logikájának megértésére. Így Mitra Raghu, a Google kutatója egy jelentést mutatott be, amely leírja az ideghálózat egyes "idegsejtjeinek" tevékenységeinek nyomon követési folyamatát. A műveletek millióinak elemzésével sikerült kitalálnia, melyik mesterséges "idegsejt" fókuszált a tévhitre, és kikapcsolhatja őket. Ez bizonyítja, hogy az ideghálózatok munkájának az emberi megértéshez hozzáférhető formába történő fordítása nem olyan lehetetlen feladat.
A probléma megoldásának másik lehetősége a mesterséges intelligencia által kifejlesztett készségek rendszeres tesztelése.
"Olyan, mintha az iskolai tanárok arra kérnék a gyermekeket, hogy mondják el saját szavakkal, amit megértettek a tanár magyarázatából" - mondja Wagstaff.
Ennek ellenére az algoritmus belső részeinek megértése nem csak a hipotetikus rover megakadályozásának megakadályozására szolgál egy marsi sziklaról; felismerve, mi a hiba, még jobbá teheti a meglévő rendszereket.
"Ha a rendszer nem működik, és nem tudja miért, akkor nagyon nehéz megtenni valamit" - mondja Yosinski. "Ha tudja, mi történt, akkor a helyzetet mindig kijavíthatjuk."
Használt anyagok a hightech.fm webhelyről