AI kutatójaként gyakran szembesülök azzal a véleménygel, hogy sok ember fél az AI-től és annak mivoltától. Valójában nem meglepő, ha az emberiség története szempontjából nézzük, miközben odafigyelünk arra, amit a szórakoztató ipar táplál bennünket, hogy az emberek félhetnek egy kibernetikus felkeléstől, amely arra kényszerít minket, hogy izolált területeken éljünk, és másokt „mátrixszerű” típusú emberi elemekké alakítsunk. …
És mégis, számomra azokra a evolúciós számítógépes modellekre nézve, amelyeket az AI fejlesztésében használok, nehéz gondolkodni arról, hogy ártalmatlan, tiszta, mint egy csecsemő könnyei, lényeim a számítógép képernyőjén egy napon futurisztikus disztopia szörnyévé válhatnak. Vajon valóban „világok rombolójának” nevezhetek-e, amint Oppenheimer megbánta és magáról beszélt, miután irányította a nukleáris bomba létrehozására irányuló programot?
Talán elfogadnék az ilyen hírnevet, vagy talán munkám kritikáinak valójában igazuk van? Lehet, hogy valóban el kellene kerülnem az olyan kérdések elkerülését, amelyek félelmeim vannak az AI-től, mint AI-szakértőktől?
Fél a kiszámíthatatlanságtól
A HAL 9000, a sci-fi író, Arthur Charles Clarke álma, amelyet Stanley Kubrick a 2001. évi A Space Odyssey-ben életre keltett, kiváló példa egy olyan rendszerre, amely előre nem látható körülmények miatt összeomlott.
Sok komplex rendszerben - a Titanicban, a NASA űrrepülőgépében és a csernobili atomerőműben - a mérnököknek sok alkatrészt kellett kombinálniuk. Lehet, hogy ezeknek a rendszereknek az építészei jól tudták, hogy az egyes elemek hogyan működnek külön-külön, de nem értették elég jól, hogy ezek az elemek hogyan működnek együtt.
Promóciós videó:
Az eredmény olyan rendszerek voltak, amelyeket a saját alkotóik soha nem voltak teljesen megértettek, ami közismert következményekhez vezetett. Mindegyik esetben a hajó elsüllyedt, két transzfert robbant fel, és Európa és Ázsia szinte egészében a radioaktív szennyezés problémájával szembesülték - ez egy viszonylag kis problémakészlet, amely egyszerre történt, katasztrofális hatást váltott ki.
Tökéletesen el tudom képzelni, hogy mi, az AI alkotói hasonló eredményeket érhetünk el. A kognitív tudomány (a gondolkodás tudománya - szerk.) Legújabb fejlesztéseit és kutatásait átvesszük számítógépes algoritmusokba, és mindezt a meglévő rendszerekhez adjuk. Megpróbálunk fejleszteni az AI-t anélkül, hogy teljes mértékben megértenénk saját intelligenciánkat és tudatosságunkat.
Az olyan rendszerek, mint az IBM Watson vagy a Google Alpha, mesterséges ideghálózatok, lenyűgöző számítási teljesítménygel és valóban összetett feladatok megoldására. De egyelőre az egyetlen dolog, amelyben hibát okoznak munkájukban, a "Jeopardy!" Szellemi játék veszteségének az eredménye. vagy egy elszalasztott lehetőség, hogy legyőzze a világ egy másik legjobb logikai társasjátékát.
Ezek a következmények nem globális jellegűek. Valójában a legrosszabb dolog, ami ebben az esetben az emberekkel történhet, az, hogy valaki pénzt veszít a fogadások során.
Az AI architektúrája azonban egyre összetettebbé válik, és a számítógépes folyamatok egyre gyorsabbak. Az AI képességei csak idővel növekednek. És már ez arra vezet, hogy egyre nagyobb felelősséget fogunk kezdeni az AI-n, még az előre nem látható körülmények növekvő kockázata ellenére is.
Tisztában vagyunk azzal, hogy "a hibák az emberi természet részét képezik", ezért egyszerűen fizikailag lehetetlen számunkra, hogy mindenben valóban biztonságos rendszert hozzunk létre.
Félelem a visszaélés miatt
Nem igazán aggódok az AI munkájának kiszámíthatatlansága miatt, amelyet úgynevezett neuroevolúciós megközelítéssel fejlesztem ki. Virtuális környezeteket hozok létre, és digitális lényekkel töltöm fel őket, parancsokat adva az agyuknak a növekvő komplexitású problémák megoldására.
Idővel ezeknek a lényeknek a segítségével megoldható a problémák hatékonysága. Azokat, akik a legjobb munkát végzik, szaporításra választják ki, és az alapján új generációt hoznak létre. A generációk során a digitális lények kognitív képességeket fejlesztenek ki.
Például, most megtesszük az első lépéseket a gépek fejlesztésében az egyszerű navigációs feladatok elvégzéséhez, egyszerű döntések meghozatalához vagy néhány bites információ memorizálásához. De hamarosan olyan gépek kifejlesztését fogjuk látni, amelyek összetettebb feladatokat tudnak végrehajtani és sokkal hatékonyabb általános intelligenciaszinttel rendelkeznek. Végső célunk az emberi szintű intelligencia létrehozása.
E fejlődés során megpróbálunk minden hibát és problémát megtalálni és kijavítani. Minden új generációval a gépek jobban fognak megbirkózni a hibákkal, mint az előzőek. Ez növeli annak esélyét, hogy képesek leszünk a kiszámíthatatlan következményeket azonosítani a szimulációkban, és kiküszöböljük azokat még mielőtt azok a valós világban megvalósulnának.
Egy másik lehetőség, amelyet az evolúciós fejlesztési módszer biztosít, a mesterséges intelligencia etikával való ellátása. Valószínű, hogy egy olyan személy etikai és erkölcsi tulajdonságai, mint a megbízhatóság és az altruizmus, evolúciónk eredménye és annak folytatódásának tényezője.
Megteremthetünk egy épített környezetet, és felhatalmazhatjuk a gépeket a kedvesség, az őszinteség és az empátia bemutatására. Ez lehet az egyik módja annak, hogy engedelmesebb szolgákat dolgozzunk ki, mint a könyörtelen gyilkosrobotok. Noha a neuroevolúció csökkentheti az AI viselkedésének nem szándékos következményeinek szintjét, ez nem akadályozhatja meg a mesterséges intelligencia visszaélését.
Tudósként el kell végeznem az igazság iránti elkötelezettségmet és be kell jelentenem azt, amit a kísérleteim során fedeztem fel, függetlenül attól, hogy szeretem-e az eredményeket. Nem az a feladatom, hogy meghatározzam, mit szeretek, és mit nem. Az egyetlen fontos dolog, hogy nyilvánosságra tudom hozni a munkámat.
Félelem a rossz társadalmi prioritásoktól
Tudósként lenni nem azt jelenti, hogy elveszíti emberiségét. Bizonyos szinten újra csatlakoznom kell a reményeimhez és a félelmeimhez. Erkölcsi és politikai indíttatású egyénként mérlegelnem kell munkám potenciális következményeit és annak esetleges társadalmi hatásait.
Mint tudósok és a társadalom képviselői, még mindig nem jutottunk el egyértelmű elgondolásra, hogy pontosan mit akarunk kapni az AI-től, és mivé kell válniuk. Ez természetesen részben annak a ténynek a következménye, hogy még mindig nem értjük teljes mértékben annak lehetőségeit. De ennek ellenére világosan meg kell értenünk és el kell döntenünk, hogy mit akarunk szerezni az igazán fejlett mesterséges intelligenciából.
Az egyik legnagyobb terület, amelyre az emberek figyelmet fordítanak, amikor az AI-ről beszélnek, a foglalkoztatás. A robotok már most összetett fizikai munkát végeznek nekünk, például összeállítják és hegesztik az autótesteket. De egyik nap eljön a nap, amikor a robotok feladata lesz a kognitív feladatok elvégzése, vagyis azok a feladatok elvégzése, amelyeket korábban maga a személy kizárólag egyedülálló képességének tartottak. Az önjáró autók helyettesíthetik a taxisofőröket; az önvezető repülőgépeknek nem kell pilótákra lenniük.
Ahelyett, hogy orvosi ellátást mindig fáradt személyzettel és orvosokkal ellátott sürgősségi ellátóhelyiségben kapnának, a betegek képesek lesznek vizsgálatokat végezni és diagnosztizálni a szakértői rendszereket, az összes orvosi ismeretekhez való azonnali hozzáféréssel. A műtéti műveleteket a kimerülten nem érzékeny robotok fogják elvégezni, tökéletesen „kiképzett kézzel”.
A jogi tanácsadás az átfogó jogi kereten keresztül lesz elérhető. Befektetési tanácsadás céljából szakértő piaci előrejelző rendszerekhez fordulunk. Talán egy nap az emberi munkát gépek fogják elvégezni. Még a munkám is gyorsabban elvégezhető, ha nagyszámú gépet használnak könyörtelenül kutatva, hogyan lehetne a gépeket még okosabbá tenni.
A jelenlegi társadalom valóságában az automatizálás már arra kényszeríti az embereket, hogy távozzanak a munkájuktól, így az ilyen automata gépek gazdag tulajdonosai még gazdagabbak, a többi pedig még szegényebbek. De ez nem tudományos probléma. Ez egy politikai és társadalmi-gazdasági probléma, amelyet maga a társadalomnak kell megoldania.
Kutatásom ezt nem változtatja meg, de politikai alapjaim, az emberiséggel együtt, olyan körülményekhez vezethetnek, amelyekben az AI rendkívül hasznos funkcióvá válhat, ahelyett, hogy meghosszabbítanánk a szakadékot a világ elitének egy százaléka és mi többiünk között.
Félelem egy katasztrófa forgatókönyv
Megérkeztünk a végső félelemhez, amelyet az őrült HAL 9000, a Terminátor és bármely más rosszindulatú szuper intelligencia okozott ránk. Ha az AI tovább fejlődik, amíg meg nem haladja az emberi intelligenciát, akkor egy mesterséges szuperintelligens rendszer (vagy ilyen rendszerek gyűjteménye) az embereket értéktelennek tekinti? Hogyan igazolhatjuk létünket egy olyan szuper intelligencia szemszögéből, amely képes megtenni és létrehozni azt, amit senki más nem tud? El tudjuk kerülni a sorsot, hogy megtisztítottuk a Föld arcát azok a gépek, amelyeket segítettünk létrehozni?
Ezért az ilyen körülmények között a legfontosabb kérdés így hangzik: miért lesz szükség ránk a mesterséges szuper intelligenciára?
Ha ilyen helyzet történt volna, akkor valószínűleg azt mondanám, hogy jó ember vagyok, aki még hozzá is járult a szuper intelligencia megteremtéséhez, amellyel most szembesülök. Felhívnám a könyörületet és az empátiát, hogy a szuper intelligencia életben hagyjon engem, olyan könyörületes és empatikus. Hozzátenném azt is, hogy maga a fajok sokfélesége is értéket képvisel, és az univerzum olyan nagy, hogy az emberi faj létezése abban valójában meglehetősen jelentéktelen.
De nem tudok az egész emberiség mellett szólni, ezért nekem nehéz lesz mindannyiunk számára érvényes érvet találni. Csak amikor ránk néz ránk, valóban látom, hogy sokat tettünk és sok rosszat csinálunk. Az egymás iránti gyűlölet uralkodik a világban. Háborúba megyünk egymás ellen. Az élelmiszereket, a tudást és az egészségügyi ellátást méltánytalanul terjesztjük. Szennyezzük a bolygót. Ebben a világban természetesen sok jó dolog van, de ha megnézzük az összes rossz dolgot, amelyet létrehozottunk, és továbbra is készítünk, nagyon nehéz lesz érvet találni a fennmaradásunk támogatására.
Szerencsére még nem kell igazolnunk létezésünket. Még van időnk. 50 és 250 év között, attól függően, hogy milyen gyorsan fejlődik a mesterséges intelligencia. Mi, mint faj, képesek vagyunk összejönni és jó választ találni arra a kérdésre, hogy miért nem szabad a szuper intelligencia megtisztítani minket a bolygó arcáról.
Nagyon nehéz lesz megoldani ezt a kérdést. Végül is azt mondani, hogy támogatjuk a sokféleséget és az etnokulturális különbségeket, és ezt megtenni, teljesen más dolog. Hogyan lehet azt mondani, hogy meg akarjuk menteni a bolygót és sikeresen megbirkózni vele.
Mindannyiunknak, legyen az egyes magánszemélyek vagy a társadalom egésze, fel kell készülnünk egy katasztrófa forgatókönyvre, és ezzel az idővel készen állunk arra, hogy megmutassuk és bebizonyítsuk, miért alkotásainknak lehetővé kell tenni számunkra a fennmaradást. Vagy egyszerűen továbbra is vakon gondolkodhatunk abban, hogy az események ilyen fejlõdése lehetetlen, és egyszerűen abbahagyhatjuk a témáról való beszélgetést.
Mindazonáltal, függetlenül attól, hogy milyen fizikai veszélyt jelenthet a szuper intelligencia számunkra, nem szabad elfelejteni, hogy ez politikai és gazdasági veszélyt is jelent. Ha nem találunk módot az életszínvonalunk javítására, akkor egyszerűen a kapitalizmust egy műszaki intelligencia munkásságával ösztönözzük, amely csak néhány kiválasztott számára szolgál majd, akik rendelkeznek az összes termelési eszközzel.
Ezt a cikket eredetileg a theconversation.com-on publikálta Arend Hintze, egyetemi docens, a Michigan-i Egyetem Számítástechnikai és Műszaki Intézete
Nikolay Khizhnyak
