A mesterséges intelligencia félelme régóta belemerül a népkultúrába. Az emberiség legfinomabb elméje, Stephen Hawkingtól Elon Muskig, a digitális elme egzisztenciális fenyegetéséről beszélt az emberiség számára.
Stuart Russell, a kaliforniai Berkeley Egyetem professzora szintén beszél erről, ám jövőképében nincs olyan gonosz robot, amely az emberi uralom ellen lázadna.
Russell szerint egy bizonyos ponton a gépek egyszerűen annyira hatékonnyá válnak, hogy elpusztítanak minket, és elvégzik azokat a feladatokat, amelyeket nekik adtunk.
Russell egy gépi tanulási szakértő és a Human Compatible: AI and the Controll probléma írója.
"A hagyományos hollywoodi történet az, hogy a gépek spontán tudatossá válnak, majd úgy döntenek, hogy utálják az embereket, és mindenkit meg akarnak ölni" - jegyzi meg Russell professzor.
De véleménye szerint ez a robo-apokalipszis rossz látása, mivel a gépeknek nincsenek emberi érzelmeik.
"Nem a gonosz gépek öntudatosságát kell aggódnunk, hanem az általunk kitűzött feladatokat végrehajtó gépek kompetenciája miatt" - a tudós meg van győződve.
Promóciós videó:
Túl kompetens
A BBC Today interjújában Russell professzor egy hipotetikus helyzetet írt le, amelyben az emberiség létezését a mesterséges intelligencia veszélyeztetheti.
Képzelje el, hogy van egy nagyhatalmú mesterséges intelligencia, amely képes szabályozni a bolygó éghajlatát. Feladata, hogy a légköri szén-dioxid szintet visszahozza az iparosodás előtti szintre.
„A rendszer úgy gondolja, hogy ennek leghatékonyabb módja az emberek elpusztítása. Szén-dioxidot termelnek”- mondja a professzor.
„Ezt meg lehet kerülni például azzal, hogy feltétellessé teszi őt az emberek megszabadulásától. Mit fog tenni a rendszer akkor? Gondoskodni fog arról, hogy egyre kevesebb gyermek születjön, amíg az emberek teljesen eltűnnek."
Ez egy példa arra, hogy a mesterséges intelligencia hogyan vezethet rosszul megfogalmazott emberi utasításokhoz.
szuperintelligencia
A mai létező AI rendszerek szűk célpontú alkalmazásokkal rendelkeznek. Úgy tervezték, hogy egy területen egyértelműen meghatározott problémákat oldjanak meg - mondják a Cambridge-i Egyetemen létező egzisztenciális kockázatok felmérési központjának tudósai.
Az AI filozófiájának diadalmas pillanata a Deep Blue számítógép győzelme volt az uralkodó világ sakk bajnok, Garry Kasparov felett 1997-ben.
* A Deep Blue győzelme Kasparov felett 1997-ben AI diadal volt.
De a Deep Blue-t kizárólag a sakkjához hozták létre. Dáma esetén egy ötödik osztályosnak veszített volna el.
A mesterséges intelligencia közelmúltbeli fejlődése nagyon különböző programokat hozott nekünk.
Például az AlphaGo Zero program megtanulta önmagában játszani a Go-t, anélkül, hogy felhasználná az emberek által korábban játszott játékok adatait, és mindössze három nap alatt, amikor önmagával játszott, elérte a szokásos ember számára elérhetetlen szintet.
Az AlphaGo Zero létrehozásához mély tanulási algoritmusokat használtunk. Ez azt jelenti, hogy viszonylag kevés emberi munka szükséges a program kidolgozásához.
Ugyanakkor az AlphaGo Zero tudja, hogyan kell jól játszani a sakkot és a shogot is.
Emlékezzünk arra, hogy a program teljesen önállóan tanul. Ez némelyek számára aggodalmat okozhat.
„Ahogy az AI erősebbé és sokoldalúbbá válik, fennáll annak a veszélye, hogy szuperintelligensé válik, vagyis sok vagy egész területén felülmúlja az embereket” - mondja az Egzistenciális Kockázatok Kutató Központja.
Nem tudjuk, mit akarunk
Russell professzor úgy véli, hogy egyszerűen az AI nagyon konkrét feladatok megadása nem jelent kiutat, mivel maguk az emberek nem képesek elég jól megfogalmazni őket.
"Nem vesszük észre, hogy nem szeretünk valamit, amíg meg nem történik" - mondja.
„Meg kell változtatnunk az AI rendszerek létrehozásának alapvető megközelítését” - tette hozzá a professzor. Úgy véli, hogy alapvetően helytelen a robotoknak feladatot adni, amelyet azután elvégeznek.
„A rendszernek meg kell értenie, hogy a cél nem egyértelmű. mondja. - Amikor ilyen rendszereket hoznak létre, valóban az embertől függenek. Mielőtt valamit megtennének, engedélyt kérnek, mert nem tudják biztosan, hogy akarják-e."
A legfontosabb, hogy a professzor azt mondja: nem fognak ellenállni, ha úgy dönt, hogy kikapcsolja őket, mert úgy készültek, hogy nem azt tegyék meg, ami nem tetszik.
Aladdin lámpája
Az AI-t ma úgy hozzák létre, mintha egy lámpa dzsinnje lenne - mondja Russell professzor. Dörzsölje a lámpát, és azt mondja: "Azt akarom, hogy ez és ez megtörténjen."
Stanley Kubrick 2001-es * A Space Odyssey-ban * egy szuperintelligens számítógép lázad az emberek ellen, akik úgy döntenek, hogy leállítják.
És ha a mesterséges intelligencia elég erős, akkor pontosan azt fogja megtenni, amit kér.
"A gin problémája az, hogy a harmadik kívánság mindig az első kettő törlése, mert az ember helytelenül fogalmazta meg őket."
"Az a gép, amely rossz célt követ, az emberiség ellenségévé válik, és ez az ellenség sokkal erősebb, mint mi" - zárja le a tudós.