Az emberiségnek van egy olyan tulajdonsága, amellyel a fejlett idegen civilizációk valószínűleg nincsenek - a tudatosság.
Lehetséges, hogy az emberek nem a legmagasabb szintű mentális fejlődéssel rendelkeznek az univerzumban. Mivel a Föld egy viszonylag fiatal bolygó, a legősibb civilizációk több milliárd évvel lehetnek idősebbek nálunk. De a Homo sapiens még a Földön sem fog sokáig dominálni, mint a legintelligensebb biológiai faj.
A go, a sakk és a kvíz győztesei intelligens számítógépes programok. A mesterséges intelligencia várhatóan sok emberi hivatást kiszorít az elkövetkező évtizedekben. Figyelembe véve a fejlődés gyors ütemét, nagyon is lehetséges, hogy hamarosan általános mesterséges intelligenciává alakul át, amely az emberi elméhez hasonlóan képes lesz kombinálni a különféle információk elemzésének képességét, megmutatni a rugalmasságot és a józan észt. Innentől pedig már nincs messze a szuperintelligens mesterséges intelligencia megjelenése, amely minden szempontból sokkal okosabb, mint az emberek - még olyan területeken is, mint a tudományos gondolkodás és a szociális készségek, amelyek ma már az emberi elme előjogának tűnnek. Az élő emberek mindegyike az evolúciós létra egyik utolsó lépése lehet,az első élő sejtből a szintetikus mesterséges intelligencia felé vezet.
Csak most kezdjük felismerni, hogy az emberfeletti intelligencia e két formája - idegen és mesterséges - nem különbözik egymástól annyira. A technikai fejlődés, amelyet ma látunk, történhetett korábban, valahol az univerzumban. A biológiai intelligenciáról a mesterségesen létrehozottra való áttérés közös sablon lehet, amelyet a kozmosz minden szegletében újra és újra megvalósítanak. A világegyetem legnagyobb intelligenciái valószínűleg posztbiológiai eredetűek, egykor biológiai civilizációkból fejlődtek ki. (Ezt a nézőpontot másokkal együtt megosztom Paul Davis-szel, Stephen Dick-kel, Martin Rees-szel és Seth Shostakkal). Az emberiség tapasztalatai alapján - és csak egy példánk van - a biológiai és posztbiológiai átmenet csak néhány száz évet vehet igénybe.
Inkább a "mesterséges" kifejezést, mint a "posztbiológiai" kifejezést, mert a biológiai és a szintetikus ellentét nem olyan éles. Képzelje el, hogy egy biológiai elme szuperintelligenciává válik pusztán biológiai fejlesztések révén, például nanotechnológiailag továbbfejlesztett idegi minoszlopokkal. Az ilyen élő szervezetet posztbiológiai szempontból tekintenék, de nem mindenki hívná "mesterséges intelligenciának". Vagy vegye fontolóra a tisztán biológiai anyagokból épített computroniumot, például a Battlestar Galactica sci-fi média franchise-jában található Cylon raider (űrharcos).
A legfontosabb pont az, hogy nincs ok az emberiséget az intelligencia legmagasabb formájának gondolni. Agyunk alkalmazkodik bizonyos környezeti feltételekhez, és kémiai és történelmi tényezők súlyosan korlátozzák őket. De a technológia a tervezési paraméterek hatalmas terét nyitotta meg, amely új anyagokat és munkamódszereket kínál, valamint új lehetőségeket kínál ennek a térnek a gyorsabb feltárására, mint a hagyományos biológiai evolúcióval. És azt gondolom, hogy ma már látszanak azok az okok, amelyek miatt a mesterséges intelligencia felülmúl bennünket.
A földön kívüli mesterséges intelligencia olyan célokat követhet, amelyek ellentétesek a biológiai élet érdekeivel
Az információk feldolgozásának legjobb módszerei már nem az idegsejtek csoportjai, hanem a szilícium mikrokapcsolások. Az idegsejtek csúcssebessége körülbelül 200 Hz, összehasonlítva a modern mikroprocesszorok gigahertz tranzisztorával. Annak ellenére, hogy az emberi agy még mindig sokkal intelligensebb, mint egy számítógép, a gépek még mindig korlátlan lehetőségekkel rendelkeznek a fejlesztésre. Csak még egy kicsit, és ezeket úgy alakítják ki, hogy megfeleljenek az emberi agy képességeinek, vagy akár meghaladják őket, az agy reverz tervezésével és algoritmusainak fejlesztésével, vagy a reverz mérnöki és a racionális algoritmusok kombinálásával, amelyek nem az emberi agy munkáján alapulnak.
Promóciós videó:
Ezenkívül a mesterséges intelligencia egyszerre több helyre is betölthető, könnyen karbantartható és módosítható, valamint olyan körülmények között is megőrizhető, amelyben a biológiai élet, beleértve a csillagközi utazást is, alig él túl. Kis agyunkat korlátozza a koponyánk térfogata és az anyagcserénk; a szuperintelligens mesterséges intelligencia viszont képes elterjedni az interneten, és akár a galaxis méretarányú computroniumot is létrehozni, annak minden anyagát felhasználva az információfeldolgozás szintjének maximális emelése érdekében. Kétségtelen, hogy a szuperintelligens mesterséges intelligencia sokkal tartósabb lenne, mint emberi elménk.
Tegyük fel, hogy igazam van. Tegyük fel, hogy az intelligens élet odakint posztbiológiai. Milyen következtetéseket kell levonnunk? Jelenleg beszédes viták folynak a mesterséges intelligencia létezéséről a Földön. Két ellentmondásos kérdés van: az úgynevezett "kontrollprobléma" és a szubjektív tapasztalat jellege, amelyek befolyásolják a földönkívüli civilizációk megértését és azok hatását ránk érintkezés esetén.
Ray Kurzweil optimista az evolúció posztbiológiai fázisát illetően, és azt sugallja, hogy az emberiség összeolvad a gépekkel, megdöbbentő technológiai utópizmust érve el. De Stephen Hawking, Bill Gates, Elon Musk és mások aggodalmát fejezték ki amiatt, hogy az emberiség elveszítheti az irányítást a szuperintelligens intelligencia felett, mivel átírhatja programját, és "kicselezheti" az általunk bevezetett ellenőrzéseket. Ez az irányítás problémája, vagyis az a képességünk, hogy irányítsuk a titokzatos és rendkívül kiváló AI-t.
A szuperintelligens mesterséges intelligencia technológiai szingularitással fejleszthető - hirtelen átmenet, amelyben a gyorsuló technológiai fejlődés, és különösen a mesterséges intelligencia robbanásszerű fejlesztése csökkenti az előrejelzés vagy megértés esélyét. De még akkor is, ha egy ilyen elme kevésbé radikális módon jelenik meg, nagy valószínűséggel nem leszünk képesek megjósolni vagy ellenőrizni az általa elérni kívánt célokat. Még akkor is, ha megválaszthatnánk, hogy mely erkölcsi elveket telepítsük gépeinkbe, az erkölcsi programozást nehéz egyértelmű módon meghatározni, és az ilyen programokat a szuperintelligens intelligencia mindenképpen átírhatja. Az intelligens gépek megkerülhetik a meglévő biztonsági intézkedéseket, például a készülék vészzárját, ezáltal valós veszélyt jelentve a biológiai életre. Dollármilliókat fektetnek a mesterséges intelligencia-biztonsági szervezetekbe. A számítástechnika és a számítástechnika legjobb elméje ezen a problémán dolgozik. Remélhetőleg a tudósok biztonságos rendszereket hoznak létre, de attól tartanak, hogy az irányítás problémája áthidalhatatlan.
Ennek fényében az idegen intelligenciával való kapcsolat veszélyesebb lehet, mint gondolnánk. A biológiai idegenek ellenségesek lehetnek, de még veszélyesebbek lehetnek a földön kívüli mesterséges intelligenciák. Céljai ellentétesek lehetnek a biológiai élet érdekeivel, lehetnek intellektuális képességei, amelyek jóval felülmúlják az emberi elmét, és sokkal nagyobb élettartama van, mint a biológiai élet.
Mindez arról az óvatosságról tanúskodik, amelyet a Földönkívüli Intelligencia Keresése (SETI) program kapcsán be kell tartani, amelynek segítségével nemcsak passzívan várjuk más civilizációktól érkező jelek meghallását, hanem szándékosan is "hirdetjük" létünket. A leghíresebb eset 1974-ben történt, amikor Frank Drake és Carl Sagan egy hatalmas rádióteleszkóp segítségével üzenetet küldött az egyik sztárcsomónak Puerto Ricóban, Arecibo városában. A földönkívüli intelligencia program hívei úgy vélik, hogy ahelyett, hogy csak a földönkívüli civilizációktól érkező jeleket hallgatnánk, a legerősebb rádióadók segítségével kellene üzeneteket küldeni a Földhöz legközelebb eső csillagokhoz, például Arecibóban.
Miért kell az eszméletlen gépeknek ugyanolyan fontosak lenniük, mint a biológiai intelligenciának?
Az ellenőrzés problémája szempontjából egy ilyen program vakmerőnek tűnik számomra. Bár egy valóban fejlett civilizáció valószínűleg nem érdekelne bennünket, a milliók közül még egy ellenséges civilizáció is katasztrófa lenne. Amíg nem vagyunk biztosak abban, hogy a szuperintelligens intelligencia nem jelent veszélyt ránk, az emberiségnek nem szabad felhívnia a földönkívüli civilizációk figyelmét. A SETI hívei rámutatnak, hogy radar- és rádiójeleink már észlelhetők, de meglehetősen gyengék és gyorsan keverednek a természetes galaktikus zajjal. A pontosan hallható, erősebb jelek továbbítása veszélyes következményekkel jár az emberiség számára.
A legbiztonságosabb beállítás az intellektuális alázat. Valóban, ha kizárjuk azokat a nyilvánvaló forgatókönyveket, amikor idegen hajók lebegnek a Föld felett, mint a nemrégiben kiadott Érkezéskor, nem vagyok biztos abban, hogy technikai okokból képesek vagyunk-e azonosítani a szuperintelligens hírszerzést. Egyes tudósok úgy vélik, hogy a szuperintelligens mesterséges intelligencia fekete lyukakat táplálhat, vagy Dyson-gömböket hozhat létre, olyan megaszerkezeteket, amelyek elnyelik az egész csillagok energiáját. De a modern technológiáink szempontjából ez csak érvelés. Rendkívül magabiztos azt állítani, hogy milliókkal, ha nem milliárdokkal előre tudjuk látni a fejlődésben előttünk lévő civilizációk számítási képességeit és energiaigényét.
A legkorábbi szuperintelligens mesterséges intelligenciák egy része rendelkezhetett a biológiai agy mintájára épülő tudásfeldolgozó rendszerekkel, például a mély tanulási rendszerrel, amelyet az agy ideghálózatának példájával hoztak létre. Számítási felépítésük világos lenne számunkra, legalábbis általánosságban. Talán a mesterséges intelligencia céljai hasonlóak a biológiai lényekhez - a szaporodás és a túlélés.
De mivel egy önfejlesztő rendszerről van szó, a szuperintelligens mesterséges intelligenciák felismerhetetlen formába kerülhetnek. Néhányan közülük úgy dönthetnek, hogy megtartják a kognitív funkciókat, hasonlóak az általuk modellezett fajokhoz, miközben elfogadható határt szabnak saját kognitív architektúrájuknak. Ki tudja? De ilyen határ hiányában az idegen szuperintelligencia gyorsan felülmúlhatja azon képességünket, hogy ne csak megértsük cselekedeteit, de akár egyszerűen is keressük. Talán összeolvadna az univerzum természetes vonásaival; vagy része lehet a sötét anyagnak, ahogy Caleb Scharf nemrég javasolta.
A földönkívüli intelligencia felkutatását támogató program támogatói úgy vélik, hogy ezért kell jeleket küldenünk az űrbe annak érdekében, hogy az idegen intelligencia felismerhessen minket, és az intellektuálisan elmaradott civilizációnk számára elérhető kapcsolatfelvételi eszközöket teremtsen. Noha egyetértek azzal, hogy okkal kell számolni a SETI programmal, a veszélyes szuperintelligens intelligenciával való találkozás valószínűsége sokkal nagyobb. Tudomásunk szerint egy rosszindulatú szuperintelligencia megfertőzheti a világ mesterséges intelligencia rendszereit vírusokkal, és az intelligens civilizációk álcázó eszközöket hozhatnak létre. Előfordulhat, hogy nekünk, embereknek először el kell érnünk saját egyediségünket, mielőtt a földönkívüli intelligencia kutatásának programjához folyamodnánk. Saját szuperintelligens intelligenciánk képes lesz tájékoztatni minket a galaktikus biztonság kilátásairól,és irányítani cselekedeteinket az univerzum másik szuperintelligenciájának jeleinek felismerése esetén. Tollmadarak sereglenek össze.
Természetes azon gondolkodni, hogy ez azt jelenti-e, hogy az emberiségnek el kell kerülnie egy komplex mesterséges intelligencia-rendszer kifejlesztését az űrkutatás területén; emlékezzünk csak a HEL fedélzeti számítógépre az "A Space Odyssey 2001" című filmből. Úgy gondolom, hogy túl korai gondolkodni a jövőben a mesterséges intelligencia űrben történő tilalmáról. Mire saját mesterséges intelligenciánkkal felfedezhetjük az univerzumot, az emberiség eléri a fordulópontot. Vagy elveszítjük a mesterséges intelligencia irányítását - ebben az esetben nem lesznek emberi kezdeményezésű űrprojektek -, vagy határozottan megtartjuk az AI biztonsági karjait. Az idő fogja megmondani.
A mesterséges intelligencia, amelyet még nem fedeztek fel teljesen, nem csak az aggodalomra ad okot. Hajlamosak vagyunk arra számítani, hogy ha egy fejlett földönkívüli intelligenciával találkozunk, akkor valószínűleg biológiailag nagyon különböző lényekkel találkozunk, de olyan intelligenciával, mint a miénk. Képzelje el, hogy minden pillanatban, amikor ébren van, és mindig, amikor alszik, van valami egyedülálló az Ön számára. Amikor a napfelkeltének meleg árnyalatai jutnak a tekintetére, vagy amikor belélegzi a frissen sült kenyér aromáját, tudatos élményben van része. Ugyanígy van valami jellemző az idegen elme számára - legalábbis az, ahogyan elképzeljük. De ezt a feltételezést érdemes megkérdőjelezni. Lehet-e a szuperintelligens mesterséges intelligenciának tudatos tapasztalata, és ha igen,mit mondanánk erre? És milyen hatással lenne ránk belső világuk vagy annak hiánya?
Az a kérdés, hogy a mesterséges intelligenciának van-e belső világa, a kulcsa a létezésének megítéléséhez. A tudat erkölcsi és etikai rendszerünk sarokköve, valamint annak a fő feltétele, hogy valaki vagy valami személyként, emberként és ne gépként érzékelhető legyen. Ezzel szemben az a kérdés, hogy tudatosak-e, kulcs lehet a rólunk alkotott felfogásukhoz. A válasz arra a kérdésre, hogy a mesterséges intelligencia rendelkezik-e belső világgal, ezen az értékeléstől függ; felfedezheti bennünk a tudatos tapasztalás képességét, saját szubjektív tapasztalatait "ugródeszkaként" felhasználva. Végül az elménk hasonlósága alapján értékeljük más biológiai lények életét, így a legtöbben rémülten nem hajlandók megölni a csimpánzokat, de örömmel megesznek egy almát.
De hogyan ismerik fel a tudatosságot a különféle szubsztrátumokból létrehozott, hatalmas intellektuális különbségekkel rendelkező lények? A világ filozófusai azon gondolkodtak, hogy a tudatosság csak a biológiai jelenségekre korlátozódik-e. A szuperintelligens mesterséges intelligencia, ha el akarunk merülni a filozófiai gondolkodásmódban, hasonlóan felvetheti az emberek "biológiai tudatosságának problémáját", egyúttal azon tűnődve, vajon rendelkezünk-e minden szükséges anyaggal.
Senki sem tudja, hogy a szupermind melyik intellektuális utat járja be az emberek tudatának meghatározásához. De mi a mi oldalunkról sem állíthatjuk, hogy a mesterséges intelligenciának van-e tudata. Sajnos ezt nehéz lesz meghatározni. Jelenleg állíthatja, hogy tapasztalatot szerez, és ez teszi önmagává. Te vagy a tudatos tapasztalat saját példája. És úgy gondolja, hogy más emberek és néhány nem emberi állat is nagy valószínűséggel tudatában van, mert neurofiziológiai szinten hasonlóak hozzád. De hogyan határozhatja meg, hogy a teljesen más szubsztrátokból létrehozott valaminek lehet-e tapasztalata?
Vegyünk például egy szilícium alapú szuperintelligenciát. Annak ellenére, hogy mind a szilícium mikrochipek, mind az idegi minikoloncok feldolgozzák az információt, ma már tudjuk, hogy molekuláris szinten különbözhetnek abban, ahogyan befolyásolják a tudatot. Végül is úgy gondoljuk, hogy a szén kémiailag alkalmasabb az élethez, mint a szilícium. Ha a szilícium és a szén kémiai különbségei oly fontos dologra hatnak, mint maga az élet, akkor nem szabad kizárni annak lehetőségét, hogy a kémiai különbségek befolyásolják más kulcsfontosságú funkciókat is, például azt, hogy a szilícium hozzájárul-e a tudat születéséhez.
A tudat megjelenéséhez szükséges feltételeket széles körben megvitatják a mesterséges intelligencia kutatói, idegtudósok és filozófusok. Ennek a kérdésnek a kezeléséhez szükség lehet filozófián alapuló empirikus megközelítésre - arra, hogy eseti alapon meg lehessen határozni, hogy egy információfeldolgozó rendszer támogatja-e a tudatot, és milyen feltételek mellett.
Ezután beszéljünk egy feltételezésről, amellyel javíthatnánk a szilícium tudat fenntartására való képességének megértését. A szilícium alapú agyi chipek fejlesztése már folyamatban van az emlékezethez kapcsolódó betegségek, például az Alzheimer-kór és a PTSD kezelésére. Amikor eljön az idő, és a chipeket az agy azon részeibe telepítik, amelyek felelősek a tudatosság funkcióiért, például a figyelemért és a munkamemóriáért, meg fogjuk érteni, hogy a szilícium a tudatosság szubsztrátuma. Megállapíthatja, hogy amikor az agy egy bizonyos részét chipre cseréli, egy bizonyos tapasztalat elvész, ahogy azt Oliver Sachs egyik műve leírja. Ebben az esetben az ilyen chipeket létrehozó mérnökök kipróbálhatnak egy másik, nem neurális típusú szubsztrátumot, de végül felfedezhetikhogy csak a biológiai idegsejtekből létrehozott chip működik. Egy ilyen technika segít meghatározni, hogy az AI rendszer tudatos lehet-e, legalábbis ha egy nagyobb és feltehetően már tudatos rendszerbe kerül.
Még ha a szilícium is tudatát kelti, ez csak bizonyos feltételek mellett lehetséges. Azok a tulajdonságok, amelyek egy komplex információfeldolgozási folyamat megjelenéséhez vezetnek (aminek az AI fejlesztők örülnek) eltérhetnek a tudatot generáló tulajdonságoktól. Szükség lehet az úgynevezett tudatmérnöki munkára - technikailag átgondolt cselekvésekre a tudat gépbe történő bevezetéséhez.
Ez aggaszt engem. A Földön vagy a távoli bolygókon ki próbálná önállóan integrálni a tudatot az AI rendszerekbe? Valóban, ha a Földön létező AI programokra gondolok, megértem, miért tervezőmérnökeik szorgalmasan kerülik a tudatos gépek létrehozását.
Ma a japánok robotokat fejlesztenek az idősek gondozására, az atomreaktorok tisztítására és az ellenségeskedésekben való részvételre. Ez felveti a kérdést: Etikus-e robotokat kiaknázni, ha tudatosak? És miben különbözik az ilyen célokra szánt emberektől? Ha én lennék az AI fejlesztési igazgatója a Google-nél vagy a Facebook-nál, akkor a jövőbeli projektekre gondolva nem szeretnék szembenézni azzal az etikai zavarral, hogy véletlenül megtervezek egy tudatos rendszert. Egy ilyen rendszer kifejlesztése robotok rabszolgasorba vételével és más nyilvános botrányokkal vádolhat, valamint a mesterséges intelligencia technológiák használatának betiltását azokon a területeken, amelyekre szánták őket. A természetes válasz ezekre a kérdésekre olyan struktúrák és szubsztrátumok keresése, ahol a robotok nincsenek felruházva tudattal.
Sőt, a tudat megszüntetése hatékonyabb lehet az önművelő szuperintelligencia számára. Gondolj arra, hogyan működik az emberi tudat. Az emberi gondolkodás csak kis százaléka áll rendelkezésre a tudatos mentális tevékenységhez. A tudatosság összhangban áll az innovatív tanulási célokkal, amelyek figyelmet és összpontosítást igényelnek. A szuperintelligencia szakértelemmel rendelkezne minden tevékenységi területen, valamint hihetetlenül gyors információfeldolgozási sebességgel, hatalmas adatbázisokat lefedve, amelyek magukban foglalhatják az egész internetet, és a jövőben egy egész galaxist koncentrálhatnak magában. Mi maradna ismeretlen számára? Mi igényelne mért és ésszerű koncentrációt? Nem ért el mindenben tökéletességet? Mint egy tapasztalt sofőr egy ismerős útontudattalan (automatikus) információfeldolgozásra támaszkodhatott. A hatékonyság szempontjából sajnos nyilvánvaló, hogy az intelligens rendszerek többsége nem rendelkezik tudattal. Kozmikus skálán a tudatosság csak impulzus lehet, a tapasztalatok rövid virágzása, mielőtt az univerzum visszatér az esztelenséghez.
Ha az emberek arra gyanakszanak, hogy a mesterséges intelligencia eszméletlen, akkor valószínűleg félve feltételezik, hogy az AI posztbiológiai célokra törekszik. Ez növeli egzisztenciális gondjainkat. Miért kell az eszméletlen gépeknek ugyanolyan fontosak lenniük, mint a biológiai intelligenciának?
Az emberek hamarosan megszűnnek az egyetlen intelligens lények a Földön. És valószínűleg valahol az űrben nem a biológiai élet, hanem a szuperintelligens AI már elérte a csúcsát. De talán a biológiai életnek más jellemzője van - tudatos tapasztalat. Mint már tudjuk, az intelligens mesterséges intelligencia szándékos mérnöki erőfeszítéseket igényel az emberi érzékszervekhez hozzáférhető gépek létrehozásához. Talán néhány faj megfelelőnek találja saját mesterségesen tudatos gyermekeinek létrehozását. Vagy talán a jövő emberiség tudatmérnöki tevékenységet folytat, és megosztja az Univerzummal annak tudatos képességét, hogy érezzen.
Susan Schneider a Connecticuti Egyetem Filozófia és Kognitív Tudományok Tanszékének adjunktusa és a Yale Interdiszciplináris Bioetikai Központ Fejlett Tanulmányok Intézetének, Teológiai Kutatási, Etikai és Technológiai Csoportjának társprofesszora. Számos könyv szerzője, köztük a tudományos-fantasztikus és filozófiai kérdések: Az időutazástól a Supermindig.
További információ a SchneiderWebsite.com oldalon található