A gépi intelligencia egyik legnehezebb próbája talán a Deep Blue számítógép és a sakk világbajnok, Garry Kasparov között majdnem 20 éve zajló sakkjáték volt. Az autó nyert. Jelenleg befejeződött a go logikai játékának játéksorozata, ahol a DeepMind AI AlphaGo (a Google tulajdonosa) és a kínai legendás go bajnok Li Si Dol versenyzett. Az öt meccsből négyben a gép nyert, megmutatva ezzel az ember fölényét ebben a játékban. Az ember és az AI közötti hihetetlenül összetett játék azt mutatja, hogy a gépi intelligencia nagyon erősen fejlődött ez idő alatt. Úgy tűnik, hogy a sorsdöntő nap, amikor a gépek valóban okosabbak lesznek, mint az emberek, most közelebb van, mint valaha. Úgy tűnik azonban, hogy sokan egyáltalán nem értik, sőt tévednek a következményekkel kapcsolatban, amelyek a jövőben várhatnak ránk.
Alábecsüljük a mesterséges intelligencia fejlődésének néhány nagyon súlyos, sőt veszélyes következményét. Tavaly a SpaceX társalapítója, Elon Musk kiadott egy nyilatkozatot, amelyben aggodalmát fejezte ki a világ mesterséges intelligencia általi lehetséges rabszolgasága miatt, ami viszont óriási észrevételeket váltott ki mind a vélemény támogatói, mind ellenzői részéről.
Egy ilyen alapvetően forradalmi jövőre, amely ránk várhat, meglepő, hogy ma olyan sok nézeteltérés van arról, hogy egyáltalán megtörténik-e, és mi lesz végül. Különösen furcsa tagadni azokat a hihetetlen előnyöket, amelyeket valóban intelligens mesterséges intelligencia létrehozásával nyerhetünk, természetesen az összes lehetséges kockázat figyelembevételével. Ezekre a kérdésekre hihetetlenül nehéz megtalálni a megfelelő válaszokat, mivel az AI az emberiség bármely más találmányával ellentétben valóban "megfiatalíthatja" vagy teljesen elpusztíthatja.
Most nehéz megérteni, miben hinni és miben reménykedni. A számítástechnika úttörőinek, idegtudósoknak és az AI fejlesztés elméleteinek köszönhetően azonban lassan tiszta kép kezd tisztulni. Az alábbiakban felsoroljuk a mesterséges intelligenciával kapcsolatos leggyakoribb tévhiteket és mítoszokat.
Soha nem fogunk humanoid intelligenciával létrehozni AI-t
A valóság viszont azt sugallja, hogy vannak olyan számítógépeink, amelyek bizonyos területeken megfelelnek, sőt meghaladják az emberi képességeket. Vegyünk sakkot vagy ugyanezt a játékot, tőzsdén való kereskedést vagy virtuális beszélgetőtárs szerepét. A számítógépek és az őket vezérlő algoritmusok idővel csak jobbak lesznek, és csak idő kérdése, amíg egyenlővé nem válnak az emberi képességekkel.
Promóciós videó:
Gary Marcus, a New York-i Egyetem kutatója egyszer azt mondta, hogy "gyakorlatilag mindenki", aki az AI-ben dolgozik, úgy gondolja, hogy a gépek egyszer meghaladnak minket:
"A szurkolók és a szkeptikusok közötti egyetlen vita az esemény időzítése."
Az olyan futuristák, mint Ray Kurzweil, úgy vélik, hogy ez az elkövetkező évtizedekben megtörténhet, míg mások szerint több évszázadra lesz szükség.
A mesterséges intelligencia szkeptikusai nem meggyőzőek annak bizonyítékában, hogy a mesterséges intelligencia létrehozása, mint valami egyedülálló és technológiai értelemben nagyon hasonló egy igazi élő emberi agyhoz, valahol meghaladja a valóságot. Az agyunk is gép. Biológiai gép. Ugyanabban a világban létezik, és ugyanazoknak a fizikai törvényeknek engedelmeskedik, mint minden más. Idővel pedig teljesen kitaláljuk munkájának teljes elvét.
Az AI-nek tudata lesz
Általános egyetértés van abban, hogy a gépi intelligencia tudatos lesz. Vagyis az AI ugyanúgy fog gondolkodni, mint az ember. Ezenkívül néhány kritikus, például a Microsoft társalapítója, Paul Allen úgy véli, hogy az öntudat mechanizmusait és alapelveit leíró hiányos elméleti alapok miatt még nem is hoztunk létre még általános mesterséges intelligenciát, vagyis olyan intelligenciát, amely képes bármilyen intellektuális feladat végrehajtására, amellyel egy személy képes kezelni. Murray Shanahan, a londoni Imperial College kognitív robotika tanszékének adjunktusa szerint azonban nem szabad egyenlőségre hozni a kettőt.
"Az öntudat mindenképpen nagyon érdekes és fontos kutatási téma, de nem hiszem, hogy az öntudatnak az emberhez hasonló mesterséges intelligencia kötelező tulajdonságának kellene lennie" - mondja Shanahan.
"Általában az" öntudat "kifejezést csak arra használjuk, hogy jelezzünk egy pszichológiai és kognitív tulajdonságot, amelyek általában összekapcsolódnak az emberben."
Elképzelhető egy nagyon okos autó, amelyből hiányzik egy vagy több ilyen tulajdonság. Egyszer képesek leszünk felépíteni egy valóban hihetetlenül intelligens mesterséges intelligenciát, ugyanakkor mentes az öntudat képességétől, valamint a körülöttünk lévő világ szubjektív és tudatos megértésétől. Shanahan megjegyzi, hogy az intelligencia és az öntudat egyesítése a gépen belül továbbra is lehetséges lesz, de nem szabad figyelmen kívül hagynunk azt a tényt, hogy ez két teljesen különálló fogalom egymástól.
És bár a "Turing-teszt" egyik változatát, amelyben egy gép megmutatta, hogy nem különbözik az embertől, sikeresen teljesítették, ez egyáltalán nem jelenti azt, hogy ennek a gépnek tudata lenne. (Emberi) szempontunkból a fejlett mesterséges intelligencia úgy tűnhet számunkra, mint valami öntudattal rendelkező dolog, de maga a gép nem fogja tudni magáról többet, mint ugyanaz a kő vagy számológép.
Nem szabad félnünk az AI-től
Ez év januárjában a Facebook alapítója, Mark Zuckerberg megosztotta gondolatait arról, hogyan ne félnénk az AI-től, hozzátéve, hogy ez a technológia óriási előnyökkel járhat szerte a világon. Az igazság az, hogy csak részben igaza van. A rendelkezésünkre álló mesterséges intelligenciával valóban elképesztő előnyöket tudunk kiaknázni (az önvezető autóktól az orvostudomány új felfedezésein keresztül), de senki sem tudja garantálni, hogy az AI minden alkalmazása hasznos lesz.
A rendkívül intelligens rendszer talán mindent tud, ami bizonyos feladatokhoz szükséges (például egy összetett globális pénzügyi helyzet megoldása vagy az ellenség számítógépes rendszereinek feltörése), azonban az erősen specializált feladatokon kívül az AI lehetőségei még mindig teljesen tisztázatlanok, ezért potenciálisan veszélyesek. Például a DeepMind rendszere a go játékra szakosodott, de hiányzik az a képesség (és ok), hogy felfedezze az ezen a tartományon kívüli területeket.
Flame számítógépes vírus, amelynek feladata a közel-keleti országok nyomon követése volt
Ezen rendszerek közül sok komoly biztonsági kockázatot jelenthet. Jó példa az erőteljes és rendkívül ravasz Stuxnet vírus, amely egy militarizált féreg, amelyet az Egyesült Államok és az izraeli hadsereg hozott létre iráni atomerőművekbe való behatolás és támadás céljából. Csak ez a rosszindulatú program valahogy (véletlenül vagy szándékosan) megfertőzte az egyik orosz atomerőművet.
Egy másik példa a Flame vírus, amelyet a Közel-Kelet célzott kémkedésére fejlesztettek ki. Könnyű elképzelni, hogy a Stuxnet és a Flame vírusok "jövőbeli verziói" hogyan fogják egymástól függetlenül túllépni a kiosztott feladatokat, és képesek megfertőzni egy ország szinte teljes infrastruktúráját. És ezt nagyon csendesen és észrevétlenül fogják megtenni.
A mesterséges felügyelet túl okos lesz a hibák elkövetéséhez
Richard Luzmore matematikus, mesterséges intelligencia-kutató és a Surfing Samurai Robots robotcég alapítója úgy véli, hogy a legtöbb AI-világvége valószínűtlennek tűnik, mert nagyjából azon alapul, amit az AI egyszer mondani fog: „Megértem ezt a pusztítást az emberek hibát jelentenek a programkódomban, de még mindig be kell tartanom a feladatot."
Luzmore úgy véli, hogy ha az AI ennek a forgatókönyvnek megfelelően viselkedik, logikai ellentmondásokkal kell szembenéznie, amelyek megkérdőjelezik teljes felhalmozott tudásbázisát, és végül saját hülyeségének és haszontalanságának tudatosításához vezetnek.
A kutató úgy véli továbbá, hogy azok az emberek, akik azt mondják, hogy "az AI csak azt fogja megtenni, ami a programjában szerepel", tévednek, csakúgy, mint azok, akik egykor ugyanazokat a szavakat mondták, de a számítógépek felé, kijelentve, hogy a számítógépes rendszereknek soha nem lesz egyetemességük.
Peter McIntyre és Stuart Armstrong, mind az Oxfordi Egyetem Emberiség Jövőjének Intézetében, mind pedig nem értenek egyet ezzel a véleménnyel, azzal érvelve, hogy a mesterséges intelligencia viselkedése kötelező és nagyrészt a programkódex által indokolt lesz. A tudósok nem hiszik, hogy az AI soha nem követ el hibákat, vagy éppen ellenkezőleg, túl hülye lesz ahhoz, hogy megértsük, mit akarunk tőlük.
"Definíció szerint a mesterséges szuperintelligencia (ISI) olyan ügynök, amelynek intelligenciája sokszor felülmúlja az emberiség legjobb elméjét szinte minden területen" - mondja McIntyre.
- Biztosan meg fogja érteni, mit akarunk tőle.
McIntyre és Armstrong úgy véli, hogy az AI csak azokat a feladatokat látja el, amelyekre be volt programozva, de ha valahogy önmagában fejlődik, akkor nagy valószínűséggel megpróbálja kitalálni, hogy cselekedetei mennyiben térnek el az emberi és az abban meghatározottaktól. törvényeket.
McIntyre összehasonlítja az emberek és az egerek jövőjét. Az egereknek erős ösztönük van arra, hogy ételt és menedéket találjanak, de céljaik gyakran ütköznek egy olyan személlyel, aki nem akarja látni őket otthonában.
"Az egerekkel és vágyaikkal kapcsolatos ismereteinkhez hasonlóan a szuperintelligencia-rendszer is mindent tud rólunk, és tudja, mit akarunk, ugyanakkor teljesen közömbös lesz vágyaink iránt."
Az egyszerű megoldás kiküszöböli az AI vezérlés problémáját
Amint azt a "Gépből" című film mutatja, nagyon nehéz lesz irányítani az AI-t, amely sokkal okosabb lesz nálunk
Ha feltételezzük, hogy egy napon olyan intelligenciát hozunk létre, amely okosabb lesz, mint az emberek, akkor egy komoly problémával, az irányítás problémájával kell szembenéznünk. A futuristák és a mesterséges intelligencia teoretikusai még nem tudják megmagyarázni, hogyan tudjuk az ISI-t ellenőrizni és megfékezni annak létrehozása után. Az sem világos, hogyan tudjuk biztosítani, hogy barátságos legyen az emberek iránt. A közelmúltban a Georgia Georgia Institute of Technology (USA) kutatói naivan azt sugallták, hogy az AI egyszerű meseolvasásokkal tanulhatja meg és szívhatja magába az emberi értékeket és a társadalmi normák ismeretét. Igen, igen, egyszerű gyermekmesék és történetek, amelyeket a szülők gyermekkorunkban olvastak el nekünk. De a valóságban minden sokkal bonyolultabbá válik, mint mindez.
"Számos úgynevezett" megoldást "javasoltak a mesterséges intelligencia ellenőrzésének kérdésére" - mondja Stuart Armstrong.
Az ilyen megoldások egyik példája lehet az ISI programozása oly módon, hogy az folyamatosan próbáljon tetszeni vagy tetszeni valakinek. Alternatív megoldás lehet olyan fogalmak integrálása a forráskódjába, mint a szeretet vagy a tisztelet. És annak a forgatókönyvnek a kialakulása elkerülése érdekében, amely szerint az AI mindezeket a fogalmakat leegyszerűsítheti, és ezt a szuperegyszerűsített fogalmak prizmáján keresztül érzékelheti ezt a világot, csak fekete-fehérre oszthatja, programozható az intellektuális, kulturális és társadalmi sokszínűség megértésére és elfogadására.
Az Isaac Asimov által létrehozott robotika három törvénye tökéletesen illeszkedik a fikció fogalmába, de a valóságban szükségünk van valami átfogóbbra az irányítás kérdésének kezeléséhez.
Sajnos ezek a megoldások túl egyszerűek, és olyan kísérletnek tűnnek, mint egy kísérlet arra, hogy az emberi tetszések és nemtetszések minden összetettségét egy általános meghatározás vagy fogalom körébe illesszék, vagy arra, hogy megpróbálják az emberi értékek összes összetettségét egy szóba, kifejezésbe vagy ötletbe illeszteni. Például próbáljon beilleszkedni ebbe a keretbe egy következetes és megfelelő meghatározást az olyan dologra, mint a "tisztelet".
„Természetesen nem szabad azt gondolni, hogy az ilyen egyszerű lehetőségek teljesen haszontalanok. Sokan közülük nagyszerű okot kínálnak a gondolkodásra, és talán ösztönzik a végső probléma megoldásának keresését.”- mondja Armstrong.
"De nem támaszkodhatunk kizárólag rájuk bonyolultabb munka nélkül, egyértelmű kutatás és bizonyos megoldások alkalmazásának következményei nélkül."
A mesterséges szuperintelligencia megsemmisít minket
Senki sem tudja garantálni, hogy az AI egyszer elpusztít minket, ahogy senki sem mondhatja bizonyossággal, hogy nem leszünk képesek megtalálni a mesterséges intelligencia irányítását és felhasználását saját céljainkra. Ahogy Eliezer Yudkowski, a mesterséges intelligencia amerikai szakértője mondta egyszer: "Az AI nem tud szeretni vagy utálni, de olyan atomokból áll, amelyeket másra is felhasználhatna."
Nick Bostrom, az oxfordi filozófus a Superintelligence: Ways, Dangers and Strategies című könyvében azt írja, hogy a valódi szuperintelligencia egy napon képes lesz megvalósítani önmagát, ami veszélyesebbé teszi, mint az ember által valaha létrehozott találmányokat. Olyan jeles kortárs gondolkodók, mint Elon Musk, Bill Gates és Stephen Hawking (sokan úgy vélik, hogy "az AI létrehozása az emberi történelem legsúlyosabb hibája lehet"), többen egyetértenek ezzel a véleménnyel és máris riadót adnak.
Peter McIntyer úgy véli, hogy a legtöbb olyan feladat esetében, amelyet a szuperintelligencia saját maga elé állíthat, az emberek egy extra linknek fognak tűnni.
„Az AI egy nap képes lesz arra a következtetésre jutni - és meg kell jegyezni, hogy ezt nagyon helyesen fogja kiszámítani -, hogy az emberek nem akarják azt felhasználni bármely vállalat jövedelmezőségének maximalizálására bármilyen áron, függetlenül a fogyasztókra, a környezetre és az élőlényekre gyakorolt következményektől. Ezért óriási ösztönzője lesz egy terv és stratégia kidolgozására, amelynek köszönhetően az ember nem lesz képes beavatkozni a feladat megoldásába, annak megváltoztatásával vagy akár az AI kikapcsolásával."
McIntyer szerint, ha az AI feladatai pontosan ellentétesek a sajátunkkal, kiváló okokat fog adni arra, hogy ne hagyjuk abba. És ha figyelembe vesszük, hogy intelligenciájának szintje sokkal magasabb lesz, mint a miénk, akkor valóban nagyon-nagyon nehéz lesz megállítani, ha egyáltalán lehetséges.
Most azonban lehetetlen bármit is biztosan mondani, és senki sem tudja megmondani, hogy az AI melyik formájával kell megküzdenünk, és hogyan veszélyeztetheti az emberiséget. Ahogy Elon Musk egykor mondta, az AI valóban felhasználható más mesterséges intelligenciák irányítására, nyomon követésére és irányítására. És talán az emberi értékeket és az emberek iránti kezdeti barátságot is bevezetik.
A mesterséges szuperintelligencia barátságos lesz
Immanuel Kant filozófus úgy vélte, hogy az intelligencia szorosan összekapcsolódik az erkölcs alapelveivel. A szingularitás: filozófiai elemzés című művében David Chalmers idegtudós Kant Kant híres ötletét vette alapul, és megpróbálta alkalmazni a mesterséges szuperintelligencia kialakulásának elemzésére.
„Ha az ebben a cikkben leírt elvek helyesek, akkor az AI éles fejlődésével együtt az erkölcsi elvek éles fejlődésére kell számítani. A továbbfejlesztés az ISI rendszerek megjelenéséhez vezet, amelyek szupermorál és szuperintelligenciával rendelkeznek. Ezért csak jóindulatú tulajdonságokra számíthatunk részükről."
Az az igazság, hogy a fejlett mesterséges intelligencia ötlete, erkölcsi elvekkel és kivételes erényekkel, nem tartja helyén. Amint Armstrong rámutat, a világ tele van okos háborús bűnösökkel. Például az emberben az értelem és az erkölcs nem kapcsolódik semmilyen módon, ezért a tudós megkérdőjelezi, hogy ilyen kapcsolat fennáll az intelligencia más formáiban is.
„Az oktalan emberek, akik erkölcstelenül viselkednek, sokkal több problémát és fájdalmat okoznak, mint kevésbé intelligens társaik. Az intelligencia lehetővé teszi számukra, hogy kifinomultabbak legyenek rossz, mint jó cselekedeteikben”- mondja Armstrong.
McIntyre elmagyarázza, hogy az ügynök azon képességének, hogy teljesítsen egy adott feladatot, semmi köze nincs ahhoz, hogy mi ez a feladat.
„Nagy szerencsénk lesz, ha mesterséges intelligenciánk erkölcsösebbé válik, és nem csak okos. A szerencsére hagyatkozás természetesen az utolsó dolog ebben a kérdésben, de talán a szerencse határozza meg a jövőbeni helyzetünket”- mondja a kutató.
Az AI-vel és a robotikával kapcsolatos kockázatok azonosak
Ez különösen gyakori tévhit a médiában, valamint az olyan hollywoodi kasszasikerekben, mint a The Terminator.
Ha a mesterséges szuperintelligencia, például a Skynet, valóban el akarja pusztítani az egész emberiséget, akkor nem valószínű, hogy félkatonai androidokat használ, mindkét kezükben gépfegyverekkel. Ravasz és hatékony gondolkodása lehetővé teszi számára annak megértését, hogy sokkal kényelmesebb lesz mondjuk egy új típusú biológiai pestis vagy például valamilyen nanotechnológiai katasztrófa alkalmazása. Vagy talán csak elkapja és elpusztítja bolygónk légkörét. Az AI potenciálisan veszélyes nemcsak azért, mert fejlődése szorosan összefügg a robotika fejlődésével. Potenciális veszélyének oka azokban a módszerekben és eszközökben rejlik, amelyek révén kijelentheti jelenlétét a világ előtt.
A sci-fi-ben szereplő AI tükrözi a jövőnket
Kétségtelen, hogy az írók és a tudományos-fantasztikus írók sok éven át a tudományos-fantasztikus környezetet ugródeszkaként használták fel a valódi jövőnkről való spekulációra, de az ISI tényleges létrehozása és ennek valódi következményei még mindig túl vannak a valódi tudásunk horizontján. Sőt, a mesterséges intelligencia ilyen mesterséges és egyértelműen embertelen jellege még azt sem engedi meg, hogy minden bizonyossággal feltételezzük, milyen is lesz ez a mesterséges intelligencia.
A legtöbb sci-fi műben az AI a lehető legközelebb áll az emberhez.
„Előttünk valójában a legkülönfélébb tudattípusok teljes spektruma. Még akkor is, ha csak az emberi formát vesszük fel. Például az elméd közel sem azonos a szomszéd elméjével. De ez az összehasonlítás csak egy csepp a tengerben az összes lehetséges elme sokféleséggel szemben, amely létezhet”- mondja McIntyre.
A legtöbb sci-fi fikció természetesen elsősorban azért jön létre, hogy elmeséljen egy történetet, és ne legyen a lehető legtudományosabban meggyőző. Ha ez fordítva lenne (a tudomány fontosabb, mint a cselekmény), akkor érdektelen lenne követni az ilyen műveket.
„Képzelje csak el, hogy ezek a történetek milyen unalmasak lennének, ahol az AI öntudat nélkül, az öröm, a szeretet vagy a gyűlölet képessége nélkül minden embert gyakorlatilag minden ellenállás nélkül elpusztít, hogy elérje célját, ami egyébként szintén nem túl érdekes az olvasó vagy a néző számára”- kommentálja Armstrong.
Az AI elvállalja a munkánkat
Az AI képessége, hogy automatizálja a manuálisan végrehajtott folyamatokat, és az egész emberiség elpusztításának lehetősége nem ugyanaz. Martin Ford, a Rise of the Robots: Technology and the Threat of a Jobless Future szerzője szerint azonban ezeket a fogalmakat gyakran megpróbálják összehasonlítani és összefogni egy összefüggő egésszé. Természetesen nagyszerű, hogy megpróbáljuk előre látni az AI létrehozásának eddigi következményeit, de csak akkor, ha ezek az erőfeszítések nem vonják el a figyelmünket azokról a problémákról, amelyekkel pár évtized múlva szembesülhetünk, ha nem teszünk semmit. És az egyik fő ilyen probléma a tömegautomatizálás.
Kevesen állítják, hogy a mesterséges intelligencia egyik kihívása az lesz, hogy megtalálják a módját számos munkahely automatizálására, a gyári munkahelyektől a néhány fehérgalléros munkáig. Egyes szakértők szerint az összes munkahely fele, legalábbis az Egyesült Államokban, automatizálódhat a közeljövőben.
De ez egyáltalán nem jelenti azt, hogy nem leszünk képesek elfogadni az ilyen változásokat. Fontos megérteni, hogy az a vágy, hogy megszabaduljon a munkában felesleges fizikai és pszichés stressztől, valójában hosszú ideje álma volt emberi fajunknak.
„Néhány évtized múlva az AI valóban sok munkahelyen felváltja az embereket. És ez valójában nagyon jó. Például az önvezető autók felváltják a kamionosokat, ami viszont nemcsak az áruk szállításának költségeit, hanem maguknak az áruknak is csökkenti. Ha kamionsofőrként dolgozik, akkor természetesen továbbra is a szélsőséges marad, de ebben az esetben mindenki más nagyobb valószínűséggel kap emelést a fizetésében. És minél többet lehet ezt a pénzt megtakarítani, annál inkább el lehet költeni ezt a pénzt más árukra és szolgáltatásokra, amelyekkel az emberek a munkahelyükön foglalkoznak."
Valószínűleg a mesterséges intelligencia a jólét új módjait keresi és táplálja az embereket, miközben más dolgokat csinálnak. A mesterséges intelligencia fejlesztésének előrelépését más területeken elért sikerek kísérik. Különösen a feldolgozóiparban. A jövőben mindez valószínűleg jelentősen egyszerűsíti, nem pedig bonyolítja alapvető szükségleteink kielégítését.