Két milliomos, akik online vagyonra tették szerencséjüket, a Tesla és az Space X tulajdonosa, Elon Musk és a Facebook alapítója, Mark Zuckerberg, távollévő vitába kerültek a mesterséges intelligencia veszélyeivel kapcsolatban.
Mindkét vállalkozó biztos abban, hogy a teljes értékű mesterséges intelligencia (AI) létrehozása a közeljövõ kérdése. De Musk úgy véli, hogy itt az ideje, hogy az emberiség gondolkodjon ezen a téren a fejlemények szabályozásáról, és Zuckerberg bízik abban, hogy a mesterséges intelligencia jelentősen javítja az emberek életét.
Július közepén Elon Musk beszélt az Egyesült Államok kormányzóival és felszólította a hatóságokat, hogy gondolkodjanak el az AI fejlesztésének törvényi korlátozásainak bevezetéséről.
Zuckerberg válaszolt az AI veszélyeire vonatkozó kérdésre, amikor a Facebook-felhasználókkal beszélgettek. Nyilvánvalóan megkérdezték, gondolja-e Musz félelmeit. A Facebook alkotója azt mondta, hogy nem érti, hogy Musk komolyan szólíthat fel a folyamat lelassulására.
Tweettel válaszolt: „Beszéltem erről Markkal. Korlátozottan érti ezt a kérdést :
A Present Tense teljes mértékben közzéteszi a két milliárdos beszédét.
"Amíg nem látjuk, hogy az utcán sétáló robotok gyilkoljanak embereket, addig nem tudjuk, hogyan kell reagálni." Elon Musk félelmei
Promóciós videó:
Hozzáférhetek az AI legújabb verziójához. És azt hiszem, hogy az embereknek valóban foglalkozniuk kellene ezzel a kérdéssel. Tudom, hogy hangzik, de amíg az emberek nem látják az utcán sétáló robotokat és megölnek embereket, nem tudják, hogyan kell reagálni.
Reálisnak tűnik. Azt hiszem, valóban aggódnunk kell az AI miatt. És azt hiszem, hogy ez egy ritka eset, amikor jogalkotási korlátozásainkban a görbe előtt kell lennünk, és nem szabad később döntéseket hozni, amikor már túl késő.
A korlátozások általában így működnek: először sok rossz történik, a társadalom tiltakozik, és évek után léteznek szabályozó testületek az iparág számára. Azok a vállalatok, amelyek nem szeretik a külső ellenőrzést, ellenállnak, és ez nagyon hosszú időt vesz igénybe. A múltban ez már rossz következményekhez vezetett, de nem jelentett alapvető veszélyt az emberiség létezésére.
Az AI alapvető kockázatot jelent az emberi létre. És ez a fajta kockázat, amelyet soha nem jelentettek sem autóbalesetek, sem repülőgép-ütközések, sem problémás gyógyszerek, sem rossz ételek. Nem voltak fenyegetés. Talán konkrét emberekre vonatkoztak, de nem jelentettek kockázatot az egész társadalom számára.
Az AI alapvető egzisztenciális fenyegetést jelent a civilizáció számára, és nem hiszem, hogy az emberek tisztában vannak ezzel. Igen, a korlátozás nem szórakoztató. De az autóiparban a Közlekedési Minisztérium és még sokan mások ellenőrzése alatt áll. És minden országnak van szabályozó szerve. Az űriparban a Szövetségi Repülési Igazgatóság ellenőrzése alatt áll. De ha egy egyszerű embertől azt kérdezi: "Hé, meg akar szabadulni a polgári légiközlekedés irányításától, és csak reméli, hogy a gyártók nem takarítanak meg a gépen, mert a nyereség esett ebben a negyedévben", a személy azt fogja mondani: "Természetesen nem." Úgy hangzik.
Úgy gondolom, hogy még a nagyon liberális gondolkodású emberek is mondanák: "Figyeljük meg a repülőgépgyártókat, ügyelnünk kell arra, hogy jó repülőgépeket készítsenek." Szép autók, ilyesmi. Tehát a szabályozóknak szerepet kell játszaniuk. Természetesen ellenzem a szigorú ellenőrzést. De azt hiszem, jobb lenne, ha sietnénk az AI-vel.
Természetesen ez az [AI találmánya] munkahelyvesztést fog eredményezni, mert a robotok mindent jobban meg tudnak csinálni, mint mi. Vagyis jobb, mint mindannyian. Igen. Nem tudom, mit tegyek vele. Ez a legrosszabb probléma számomra. Igen, valójában biztos vagyok abban, hogy állami ellenőrzésre lesz szükségünk, mivel így biztosíthatjuk a közbiztonságot.
A vállalatok sietnek, időre van szükségük az AI elkészítéséhez, különben versenyképessé válnak. Ha a versenytársa siet az AI elkészítésével, és te nem vagy, akkor elpusztít téged. És a vállalatok azt mondják: "Nem akarunk meghalni, úgy tűnik, hogy AI-t is létre kell hoznunk."
És itt kell a vezérlőknek bejönni: "Srácok, mindnyájan le kell lassulnod, és ellenőrizned kell, hogy biztonságban van-e." Ha az értékelők meg vannak győződve arról, hogy ez biztonságos, akkor folytathatja a munkát. Ellenkező esetben lassítsa le. A könyvvizsgálóknak ezt mindenkinek meg kell tenniük, aki ezt megteszi, különben a részvényesek azt mondják: „Hé, miért nem fejleszti gyorsabban az AI-t, mint a versenytársai? Szüksége lenne!"
Úgy gondolom, hogy ez a legnagyobb kockázat, amelyet civilizációként vállalunk. Úgy gondolom, hogy az állam szerepe a társadalom gondozása, és odafigyelés arra, ami fenyeget. Ezért a korlátozások. Először mindent meg kell tanulnia erről, hogy megértse a probléma természetét, megfigyelje az AI területén elért haladást és hihetetlen eredményeket.
Tavaly egy olyan játékmenetben, amely elég nehéz volt a nyeréshez, és amelyben az emberek azt gondolták, hogy a számítógép soha nem fogja legyőzni a legjobb ember-lejátszót, vagy hogy ez 20 év múlva történik meg, tavaly az AlphaGo által, amelyet a DeepMind készített, a Google által megvásárolt vállalat legyőzte a világ legjobb go-lejátszóját. És most 150 játékossal játszhat egyszerre, és legyőzheti őket.
Ez egy lenyűgöző mértékű haladás, és egyre gyakrabban jelenik meg. Például robotika. Vannak robotok, amelyek órák alatt megtanulják sétálni a semmiből. Gyorsabb, mint bármelyik fajnál. De a legveszélyesebb - és ezt a legnehezebb megérteni - mivel nem valami fizikai, hanem intelligencia.
Úgy tűnik, hogy mit tehet az erős [mesterséges] intelligencia az interneten? Nos, például kezdjen háborút. Például hamis hírek, hamis sajtóközlemények és levelezési címek létrehozásával, és egyszerűen az információk manipulálásával. A toll hatalmasabb, mint a kard.
Példaként - hangsúlyozni akarom, nem hiszem, hogy ez valóban megtörtént - tisztán hipotetikusan mondom - emlékszel arra a malajziai repülőgépre, amelyet Oroszország és Ukrajna határán lőtték le? Ez jelentősen megnövelte Oroszország és az EU közötti súrlódást.
Képzelje el, ha rendelkezne mesterséges intelligenciával, és annak célja az volt, hogy a részvényportfóliót maximalizálja, az egyik módja lehet védelmi részvények, rövid fogyasztói részvények vásárlása és háború indítása.
Hogyan tudta megtenni? Hack Malaysia Airlines, a repülőgépek útválasztó szerverei, megtervezik az útvonalakat egy háborús övezet felett, majd névtelen üzenetet küldnek arról, hogy "ellenséges repülőgép repül ön felett".
"Minden technológia felhasználható a káros és jó célokra." Mark Zuckerberg optimizmusa
Nagyon erős véleményem van erről. Nagyon optimista vagyok. Általában optimista ember vagyok. Azt hiszem, olyan dolgokat tudunk létrehozni, amelyek jobbá teszik a világot, és különösen optimista vagyok az AI iránt. Úgy gondolom, hogy csak nem értem azokat az embereket, akik mindig szkeptikusak és folyamatosan megfélemlítik a küszöbön álló világvég forgatókönyveit. Azt hiszem, ez tényleg nagyon rossz és felelőtlen, mert az elkövetkező öt-tíz évben az AI képes lesz javítani és javítani életünk minőségét.
Ha aggódik az emberek biztonsága és egészsége szempontjából, akkor az AI már segít a betegségek jobb diagnosztizálásában és az emberek gyógyszereinek kiválasztásában, attól függően, hogy miről vannak betegségük és hogyan lehet jobban gyógyítani. Sok ember jobb egészségügyi ellátást kap, mint valaha.
Az önjáró autókkal szemben biztonságosabbak lesznek, mint az emberek által vezetett autók. Ez csak idő kérdése. Az autóbalesetek továbbra is a halál egyik fő oka. És ha a madárinfluenza segítségével kiküszöbölhetők, ez jelentősen javítja az emberek életét.
Amikor meghallom az érvelést: "Ó, tudod, az AI a jövőben is kárt fog okozni az embereknek", azt hiszem, hogy valóban minden technológia felhasználható ártalmakra és jóra. És óvatosnak kell lennie, amikor valamit készít, óvatosnak kell lennie, és gondolkodnia kell arról, hogyan fogja alkalmazni.
De amikor az emberek ragaszkodnak az AI folyamat lelassításához, azt nagyon vitatottnak tartom. Nagyon nehéz ezt megérteni, mert ha az AI ellen vagy, akkor biztonságosabb gépek ellen áll, amelyek nem kerülnek balesetekbe, és a betegségek jobb diagnosztizálásának lehetősége ellen. És nem értem, hogy egyesek hogyan tudják ezt ravasz nélkül végrehajtani. Tehát általában sokkal optimistább vagyok ebben az [AI teremtés], mint talán sokan.