Ha valaha is játszottál szerepjátékokat - akár online, akár a régimódi hátsó udvarban, akkor tudod, milyen könnyű ragaszkodni az avatárhoz, vagyis megszokni a "kozák rabló" szerepét. Szó szerint fájdalmat érez, amikor egy karaktert egy troll ver be, sárkány süt vagy egy sámán öl meg. Az amerikai szociológus (és lelkes játékos), William Sims Bainbridge még tovább vitte ezt a kapcsolatot, létrehozva 17 elhunyt családtag virtuális reprezentációit. Az online avatarokról szóló 2013. évi esszében egy olyan időt vet fel, amikor személyiségünket egy olyan mesterséges intelligens szimulációba tölthetjük be, amely önmagunktól függetlenül képes cselekedni és még meghalni is.
Milyen felelősséget vállalhatunk ezekre a szimulált emberekre? Noha gyanítunk az erőszakos számítógépes játékok ellen, senki sem veszi komolyan gyilkosságnak, hogy aláássák a virtuális támadót. Azonban már nem abszurd az, hogy elképzeljük, hogy a modellezett emberek léteznek majd, és bizonyos fokú autonómiával és tudatossággal rendelkeznek. Sok filozófus úgy gondolja, hogy egy olyan elmét, mint amilyen a miénk, nem kell az agyunk neuronjai hálózatában tárolni, hanem létezhet különféle anyagrendszerekben. Ha helyesek, nincs ok azt hinni, hogy miért nem tudtak elég nagy teljesítményű számítógépek tárolni a tudatot chipeikben.
Megöl egy digitális légyet?
Manapság sok erkölcsi filozófus megpróbálja megérteni az emberi populáció megváltoztatásának etikáját, és ilyen kérdéseket tesz fel: Mennyibe kerül az emberi élet? Milyen életet kellene megformálnunk? Mennyit kell befektetnünk az emberi sokféleségbe? De amikor a modellezett entitások kezelésének etikája van, nem teljesen egyértelmű, hogy ugyanazon logikára és intuícióra kell támaszkodnunk, mint testünk és vérünk világában. Mélyen a lelkünkben rosszul érezzük magunkat, ha megöl egy kutyát vagy akár egy légyet is. De vajon megsemmisíti-e a légy - vagy az emberi agy modelljét? Amikor az „élet” új digitális formákat ölt, akkor saját tapasztalataink már nem lehet megbízható erkölcsi társak.
Adrian Kent, a Cambridge-i Egyetem elméleti fizikusa úgy döntött, hogy feltárja ezt az erkölcsi érvelés hiányosságát. Tegyük fel, hogy megtanultak olcsón és egyszerűen emulálni az emberi tudatot a számítógépen - írja az egyik cikkben. Szeretnénk, hogy ez a virtuális lény gazdag és kifizetődő környezetet biztosítson a kommunikációhoz - az életet érdemes élet. Valószínűleg megtehetjük ezt valódi emberekkel azáltal, hogy az agyukat részletesen átvizsgáljuk és számítógépen megismételjük. Elképzelhető, hogy egy ilyen technológia „menti meg” az embereket a halálos betegségtől; néhány transzhumanista ezt a halhatatlan tudatosság útjának tekinti.
Természetesen ez mind csöpp álom lehet, de tegyük fel, hogy éppen ellenkezőleg. Tegyük kezünket az utilitarista erkölcsi elvek sorozatára, amelyet Jeremy Bentham vezette be a 18. század végén, majd John Stuart Mill tovább finomította. Bentham szerint minden tekintetben törekednünk kell arra, hogy a lehető legtöbb ember számára maximális boldogságot (vagy "hasznosságot") hozzunk. Vagy Mill szavai szerint "a cselekedetek arányosak azzal, mennyire boldogok, és nem igazolhatók, ha boldogság hiányához vezetnek".
A helyes viselkedés alapelveinek számos kritikája van. Például, hogyan lehet mérni vagy összehasonlítani a boldogság típusait - mérlegelve például a nagymama szerelmének értékét - ugyanazon a skálán egy virtuóz koncert zongorista csodálásával? Még ha komolyan szeretné venni az utilitarizmust, akkor nem tudja, hogy a számításaiba bevont tulajdonságai miért számítanak” - mondja Ken. A legtöbb hiedelemrendszer azonban manapság alapértelmezetten elfogadja, hogy a nagyobb boldogság felé mutató erkölcsi iránytű egyértelműen előnyösebb, mint attól eltekintő.
Promóciós videó:
Kent forgatókönyve szerint, ha utilitárius motívumokból indulunk ki, akkor azt lehet hinni, hogy tovább kell lépnünk és megsokszoroznunk kell modellezett vagy szimulált lényeinket - nevezzük őket simoknak - korlátozások nélkül. A való világban az ilyen ellenőrizetlen szaporodásnak nyilvánvaló hátrányai vannak. Az emberek szenvednek érzelmileg és gazdaságilag egy nagy családdal; a túlnépesség már nyomást gyakorol a globális erőforrásokra, és így tovább. De a virtuális világban előfordulhat, hogy nincs ilyen határ. Készíthet egy utópiát szinte korlátlan forrásokkal. Akkor miért nem tud létrehozni annyi világot, amennyit csak lehetséges, és örömteli simokkal megtölteni?
Intuíciónk javasolja a választ: de miért? Talán egy tudatos simnak egyszerűen nem lesz ugyanaz a belső értéke, mint a test és vér emberének? Ezt a megállapítást Michael Medery, a New Orleans-i Tulane Egyetem gondolkodásfilozófiája és virtuális valóság etikusa fejezi ki, és úgy véli, hogy ezt komolyan kell venni.
Egyes filozófusok úgy vélik, hogy mi is mi lehetünk hasonló szimulált lények. Egyszerűen nem zárhatjuk ki egy ilyen lehetőséget, mindazonáltal ezeket a kérdéseket értelmesnek tekintjük. Tehát azt is feltételezzük, hogy Simsnek joga van kérdéseket feltenni.
Kent ismét felteszi a kérdést: mi lenne helyesebb - azonos lények vagy teljesen eltérő lények populációját létrehozni? Nyilvánvaló, hogy sokkal hatékonyabb lenne azonos lényeket létrehozni - elegendő információ lenne az egyikről, hogy N közülük létrejöjjön. De ösztöneink szerint a sokszínűségnek van értelme és értéke. És miért, kíváncsi vagyok, hogy nincs-e ok azt hinni, hogy N különböző egyének boldogabbak lesznek, mint N azonosak.
Kent megközelítése szerint a különféle élet jobb, mint az azonos példányai. "Nem szabadulhatom meg a gondolattól, hogy az Alice egymilliárd független azonos emulációjával rendelkező univerzum kevésbé érdekes és kevésbé minőségi, mint egy milliárd különféle egyeddel rendelkező univerzum" - mondja. Ezt a fogalmat a replikáció alacsonyabbrendűségnek nevezi.
Ha figyelembe vesszük az Alice milliárdjainak lakott kozmoszt, akkor tényleg érdemes-e egy életről beszélni, sokszorozva, vagy egy életről beszélünk, amely sok világban elterjedt. Ebből következik, hogy sok Alice-nek azonos környezetben csak egy értéke lesz. Ezt a forgatókönyvet a replikáció hiábavalóságának nevezi. "Hajlamosak vagyok erre a véleményre" - mondja Kent, elismerve ugyanakkor, hogy védekezésében nem talál megcáfolhatatlan érvet.
Kent gondolati kísérlete számos erkölcsi filozófia rejtélyét érinti, amelyeket még soha sem sikerült megoldani. Derek Parfit, az elmúlt évben meghalt angol filozófus a személyiségről és önmagáról, az okokról és a személyiségről szóló emlékezetes munkájában (1984) beszélt rájuk. Parfit olyan kérdésekre gondolkodott, mint például, hogy hány embernek kell lennie, és vajon erkölcsileg jobb-e az élet megérdemelt életét a nyüzsgő világhoz hozzáadni, amikor lehetőséget kapunk.
Még ha elfogadjuk a haszonelvű nézőpontot is, problémát jelent a legnagyobb boldogság megtalálása a legtöbb ember számára: a kettős kritériumok félreérthetők. Képzelje el például, hogy ellenőrzésünk alatt áll, hogy hány ember él egy véges erőforrásokkal rendelkező világban. Azt gondolnánk, hogy legyen olyan optimális számú ember, aki (elvben) a forrásokat fogja a legjobban felhasználni, hogy mindenki számára biztosítsa a boldogságot és a jólétet. De nem lenne hely ilyen utópiában egy másik ember számára? Nem lenne elfogadható-e mindenki boldogságát kicsit csökkenteni, hogy újabb boldog életet biztosítsunk?
A probléma az, hogy ennek a folyamatnak nincs vége. Ahogy növekszik a szám, az új életek hozzáadott boldogsága meghaladhatja a már életben lévők költségeit. Parfit azt mondja, hogy végül "undorító következtetéshez" jut: egy forgatókönyv, amelyben a legjobb eredmény reménytelenül boldogtalan emberek duzzadt népessége, ha jobban élnek, mintha egyáltalán nem lenne élet. Összegezve, a boldogság csekély maradványainak összege több, mint egy igazán boldog ember kis száma. "Nekem nehéz elfogadni ezt a következtetést" - írta Parfit, de igazolhatjuk-e ezt a megközelítést? Kent nem tudja. "Nem tudom, lehet-e kiegyensúlyozott döntés az undorító következtetésekről" - mondja.
Ennek a kérdésnek a gyökere abban rejlik, amit Parfit nevezte a „nem-identitás problémájának”: hogyan lehet ésszerűen megfontolni az aggódó egyének kérdéseit, ha létezésük függ az általunk meghozott döntésektől (mint például a hely megtalálása a „másiknak”)? Az egyénre kihatással járó érvek és ellenérvek mérlegelése - döntéseink függvényében - elvileg nem olyan nehéz. De figyelembe véve annak a lehetőségét, hogy ez a karakter valószínűleg soha nem létezett, már nem tudjuk, hogyan kell kiszámítani. A nullával vagy a semmivel összehasonlítva bármi nyer, tehát a létezés legrosszabb forgatókönyvei is erkölcsileg igazolhatók.
Van egy másik nagyon furcsa forgatókönyv ebben az utilitarista népességjátékban. Mi lenne, ha olyan emberek lennének, akiknek annyira nagy szükségük van a boldogságra, hogy többet követelnek másoktól, mint amennyit megengedhetnek maguknak? Robert Rozick amerikai filozófus ezt a teremtést "utilitárius szörnynek" nevezte, és Anarchy, State and Utopia (1974) című könyvében bírálta. Nozick szerint ennek a képnek "mindannyiunkat fel kell áldoznunk a szörnyeteg kedvéért, hogy növeljük általános hasznosságunkat. Parfit könyve nagy része egy kísérlet volt - végül sikertelen -, hogy elkerülje mind a rejtett következtetést, mind a utilitárius szörnyet.
Térjünk vissza Kent Sims-szel teli virtuális világaihoz és a hiányos replikáció elvéhez - amikor egy bizonyos számú különféle élet többet ér, mint azonos számú azonos élet. Talán ez lehetővé teszi számunkra, hogy elkerüljük Parfit rettenetes következtetését. Annak ellenére, amit Leo Tolstoy mondott a boldogtalan családok egyenlőtlenségéről Anna Karenina (1878) elején, úgy tűnik, hogy hatalmas számú boldogtalan élet szinte azonos lesz szomorúságukban. Következésképpen nem lehet őket felvenni, és cseppenként növelni az általános boldogságot.
De ugyanígy a replikáció alacsonyabbrendűsége igazolja az utilitárius szörnyet - definíciója szerint egyedinek kell lennie, és ezért "érdemesebbnek" lennie, összehasonlítva az azt tápláló élet elkerülhetetlen hasonlóságával. Ez a döntés nem is tetszik nekünk. "Jó lenne, ha az emberek valamivel jobban gondolkodnának ezekben a kérdésekben" - ismeri el Kent. "Nagyon megzavarodtam őket."
Robin Hanson, a Virginiai George Mason Egyetem közgazdaságtan professzor, az amerikai liberális közgazdász számára ezek a gondolatok nem annyira mentális kísérletek, mint jövőbeli előrejelzések. Az "Em Age" című könyve egy olyan társadalmat képvisel, amelyben minden ember feltölti tudatát egy számítógépbe, hogy "emulációk" (nem simok, hanem emas) formájában éljék meg életüket. "Az ilyen letöltések milliárdjai élhetnek és dolgozhatnak egy sokemeletes épületben, és mindenkinek lesz helyük" - írja.
Hanson részletesen megvizsgálta, hogyan működhet egy ilyen gazdaság. Az emmok bármilyen méretűek lehetnek - némelyikük nagyon kicsi -, és az idő másképp telik számukra az emberhez képest. Szoros felügyelet és alacsony fizetés lesz, de ems megszabadulhat ettől a szenvedéstől, ha munkától mentes életet választ. (Hanson szerint már élhetünk egy ilyen világban.)
Ez a forgatókönyv lehetővé teszi a másolás lehetőségét, mivel az elme már átkerült a számítógépre, így a másolatok készítése meglehetősen egyszerű. Hanson szerint ebben az esetben az identitás problémája homályos: a másolatok kezdetben "ugyanaz a személy", de identitásuk fokozatosan eltér, amikor külön élnek.
Hanson szerint az emberek sokszorosítása nemcsak lehetséges, hanem kívánatos is. Az emus elkövetkező korában a különösen értékes mentális képességekkel rendelkező emberek sokszor "betöltődnek". És általában az emberek különféleképpen szeretnének másolatot készíteni magukról, mint biztosítási formát. "Előfordulhat, hogy a redundanciát inkább saját megvalósításukban részesítik előnyben, hogy megbizonyosodjanak arról, hogy túlélik-e a váratlan katasztrófákat" - mondja Hanson.
De nem gondolja, hogy inkább Kent hasonló életének forgatókönyveit részesítik előnyben. Ems „nem fog különös értéket tulajdonítani annak, hogy ugyanazt az életet különböző időpontokban és különböző helyeken élje meg. Értéket fognak befektetni több példányban, mert ezek a másolatok működhetnek vagy kommunikálhatnak másokkal. De az ilyen munka és kapcsolat megköveteli, hogy minden példány okozati összefüggésben legyen független, és történeteik feladatok alapján vagy partnerekként összefonódjanak."
Mindenesetre meg kell birkózniuk olyan morális nehézségekkel, amelyeket még nem tudunk túlbecsülni. "Nem gondolom, hogy az emberek erkölcsi elég általános vagy elég robusztus ahhoz, hogy magabiztos válaszokat adjon az ilyen helyzetekre, amelyek eddig távol vannak az őseink" tapasztalatától "- mondja Hanson. "Azt jósolom, hogy az emus sokféle ellentmondásos véleményt fog mondani ezekről a dolgokról."
Ems, Sims és virtuális jövőnk
Mindez most nagyon furcsának tűnhet, mint például az apokrif középkori beszédek a hegycsúcsokon táncoló angyalokról. Tudunk valaha virtuális életet létrehozni, amely egyáltalán hasonló lesz a valós élethez? "Nem hiszem, hogy bárki magabiztosan mondhatja el, hogy ez lehetséges-e vagy sem" - mondja Kent részben azért, mert "nincsenek megfelelő tudományos megértésünk a tudatosságról."
Ennek ellenére a technológia halad előre, és ezek a kérdések nyitottak maradnak. Nick Bostrom, az Emberi Jövő Intézetének svéd filozófusa azzal érvelt, hogy a „poszthumán” civilizáció rendelkezésére álló számítási teljesítmény megkönnyítené a világban élő lények szimulálását, és úgy érzik, hogy olyan valósak, mint a mi sajátunk. (A Bostrom azt is gondolja, hogy ilyen szimulációban élhetnénk.) De az a kérdés, hogy miként tudjuk lakossá tenni az ilyen világokat, "valódi dilemmát jelent a jövő programozói, tudósai és jogalkotói számára, bár nem olyan távoli", mondja Kent.
Kent forgatókönyvének már lehetnek valós vonatkozásai. A hasznosságot maximalizáló érvek és az identitásmentesség problémája merül fel az emberi fogantatás előmozdításáról és megakadályozásáról szóló viták során. Mikor kellene megtagadnia a fogamzást olyan kockázat esetén, ha például rendellenességek alakulnak ki egy gyermekben? Az új módszerek egyike sem garantálja a teljes biztonságot és soha nem garantált, de az IVF-et soha nem hajtják végre, ha ez előfeltétel. Ez a technika várhatóan teljesíti egy bizonyos kockázati küszöböt. De az utilitarista megközelítés vitatja ezt az ötletet.
Mi lenne, ha egy új asszisztált reprodukciós módszernek kockázata lenne a születéskor kisebb hibák, például születési jelek kialakulásának? (Ez egy igazi érv: Nathaniel Hawthorne 1843-as története egy alkimistáról szól, aki halálos következményekkel próbálta eltávolítani a jelölést feleségéről, hivatkozva az Egyesült Államok Bioetikai Tanácsára 2002-ben). Nehéz azt mondani, hogy az ilyen ponttal megjelölt emberek rosszabb lesznek, mint mások, ezért ezeket a módszert nem szabad figyelembe venni. De hol kell húzni a vonalat? Mikor jobb egy születési rendellenességet egyáltalán nem végrehajtani?
Néhányan megemlítették ezt a dilemmát az emberi klónozás védelmében. A veszélyek, mint például a társadalmi megbélyegzés vagy torz szülői motívumok és elvárások, meghaladják az élet adásának előnyeit. Kik vagyunk mi a választás a klónozott ember számára? Kik leszünk, ha ezt a választást megtesszük, mielőtt az ember még létezik?
Úgy tűnik, hogy egy ilyen érvelés megköveteli tőlünk isteni döntések meghozatalát. De egy feminista megfigyelő azt gondolhatja, hogy Frankenstein fantáziájának egyik áldozata vagyunk. Más szavakkal: nem ez egy olyan csoport ember, aki arról álmodik, hogy végre megkezdi az emberek gyártását, amikor a nők évszázadok óta ezt teszik? Az ezen új vitákhoz vezető újdonság érzése patriarchális ízű.
A virtuális tudat perspektívája mégis nagyon friss és izgalmas etikai kérdéseket vet fel - amelyek Kent szerint arra késztetnek minket, hogy megkérdőjelezzük az életünkben betöltött intuitív értéket és a demográfia kérdéseit. Rendkívül nehéz egy erős érvet találni arra a tényre, hogy egy bizonyos számú különféle élet erkölcsileg jobb lesz, mint az azonos számú. Miért gondoljuk? Hogyan lehet megszabadulni az előítéletektől?
Azt lehet mondani, hogy az emberi populációk érzékelt homogenitása rontja az empátia és az etikai érvelés képességét. Az „arc nélküli” tömeg, amely ellenzi az egyént, egy ismerős klisé, amely hősiesség érzetét idézi elő. De ez nem feltétlenül helyes.
Lehet, hogy ugyanazon egyének iránti evolúciós ellenállásunk van, különösen, ha figyelembe vesszük, hogy egy populáció genetikai sokfélesége biztosítja annak túlélését? Gondolj csak az azonos ikrek vagy klónok filmeire - ez nem mindig néz ki jól. Még baljósan néz ki. 1919-ben Sigmund Freud társította ezt az érzést egy gonosz kettős gondolatához (doppelganger). És ha ez még mindig érthető azonos ikrek esetén, száz „azonos” karakter szörnyűnek tűnik.
Nem úgy tűnik, hogy hamarosan a valós vagy a virtuális világban sok másolatot fogunk találni. A gondolkodási kísérletek értéke azonban az, hogy új módszert adnak a világ kérdéseinek értelmezésére. A Simszel való kapcsolat etikájának elképzelésével felfedezzük a remegő vagy nem létező logikát, amelyet ösztönösen használunk saját életünk erkölcsi értékének mérlegelésére.
Ilya Khel