A fejlett mesterséges intelligencia (AI) témája a jövőben általában bizonyos félelmeket hordoz magában - például, hogy képes lesz az öntanulásra és olyan fejlett lesz, hogy az emberek már nem fogják tudni megérteni. Rossz kezekben, és még önmagában is, egy ilyen fejlett algoritmus átveheti a kormányokat és a hadseregeket, bevezetheti az orwelli megfigyelési és manipulációs módszereket, ellenőrzést teremthet a társadalom felett, és akár autonóm harci drónok seregeit is vezetheti a csatatéren.
Néhány AI-szakértő azonban ezeket a félelmeket nem tartja érvényesnek. Valójában egy magasan fejlett AI jobban képes kezelni a világot, mint az emberek. Az ilyen félelmek maguk is veszélyesek, mert megakadályozhatják minket, hogy ezt a lehetőséget megvalósítsuk.
"Lehet, hogy az AI hiánya veszélyt jelent az emberiségre" - mondta a Facebook AI kutatója, Thomas Mikolov egy prágai konferencián, amely az AI emberi intelligencia szintjén történő létrehozásának kihívásairól szól.
Mikolov kifejti, hogy az ember, mint faj, nagyon gyenge abban, hogy hosszú távú döntéseket hozzon a jótékony eredmények elérése érdekében. Az emberek kiürítették az esőerdeket nyersanyagok kinyerésére, és nem veszték észre (vagy nem érdekli), hogy ezzel hozzájárulnak bolygónk pusztulásához - talán visszafordíthatatlanul.
De egy fejlett AI rendszer megvédheti az emberiséget a saját rövidlátásától.
„Az emberek rosszul képesek előre látni a távoli jövőt, mondjuk 20-30 évvel előre. Talán egy olyan intelligencia-információs információ létrehozásával, amely sokkal okosabb, mint mi vagyunk, segíthetjük magunkat a jövőbeli katasztrófa elkerülésében."
Természetesen Mikolov azon tudósok azon kisebbségéhez tartozik, akik úgy vélik, hogy egy magasan fejlett AI jóindulatú lesz. A konferencia során számos előadó széles körű félelmet fejezett ki az AI iránt, gyakran azzal kapcsolatban, hogy rosszindulatú szereplők veszélyes célokra használhatják fel, amelynek veszélyét nem szabad alábecsülni.
Nem tudjuk biztosan, hogy lehet-e olyan általános célú AI-t létrehozni, amely képes az emberek rendelkezésére álló bármely gondolati feladat elvégzésére, és talán még jobb is náluk.
Promóciós videó:
A fejlett AI jövője ígéretesnek tűnik, de számos etikai aggályt vet fel. Még nem is tudjuk az összes kérdést, amelyre meg kell válaszolni.
A prágai konferencia résztvevőinek többsége ugyanakkor egyetértett abban, hogy a szabályokat meg kell dolgozni, mielőtt szükség lenne rájuk. Már létre kell hozni a nemzetközi szerződéseket, etikai bizottságokat és szabályozó testületeket a kormányoknál, a vállalatoknál és a tudományos közösségeknél. Az ilyen intézmények és protokollok végrehajtása csökkenti annak valószínűségét, hogy egy ellenséges kormány, egy óvatos kutató vagy akár egy igazán őrült "tudós" rosszindulatú AI-t vált ki, vagy egy összetett algoritmust fegyverként használjon más módon. És a legrosszabb esetben orvosok is vannak.
A szükséges szabályok és óvintézkedések bevezetésével képesek leszünk harmóniában élni a magasan fejlett AI-vel a jövőben; talán egy nap még meg is fog menteni minket
Vadim Tarabarko