Képzelje el, hogy egy nap egy csodagyerek feltalálna egy technológiát, amely lehetővé teszi az emberek vagy az anyagi tárgyak falakon való átjutását, és utasításokat tesz közzé az interneten arról, hogyan lehet olcsón felépíteni egy ilyen csodagépet a gyakran elérhető háztartási anyagokból. Hogyan változna a világ?
Sok iparág valószínűleg jelentősen produktívabbá válik. Ha az ajtók használata helyett a falakon kell járni, az emberek könnyebben mozoghatnak az irodákban, árukat mozgathatnak a raktárakban, és számtalan napi háztartási feladatot végezhetnek. A negatív következmények azonban felülmúlhatják a pozitívakat. Az értékek zár alatt tartása elveszítené értelmét. Bárki könnyen beléphet a raktárba, bejuthat egy banki széfbe vagy egy házba.
A magántulajdon védelmére alkalmazott módszerek többsége ilyen vagy olyan módon falakat foglal magában, így egyikük sem használhatatlan egyik napról a másikra. A tolvajok büntetlenül járnának el, amíg a társadalom nem talál alternatív módszereket az ilyen bűncselekmények megelőzésére. Gazdasági összeomlás vagy társadalmi káosz lehet az események ilyen fejlõdésének eredménye.
A fentiek egy általános elvet szemléltetnek: a technológiai innováció, legalábbis rövid távon, nem mindig előnyös a társadalom számára. A technológiák képesek negatív externáliák, externáliák létrehozására. Ez a gazdasági kifejezés harmadik feleknek vagy feleknek okozott kárt jelent. Ha ezek a negatív externáliák meghaladják magának a technológiának a hasznosságát, a találmány valójában legalább egy ideig rosszabbá, nem jobbá teszi a világot.
A gépi tanulás, különösen a mély tanulás néven ismert variáció, vitathatatlanul a legforróbb technológiai áttörés a bolygón. Felhatalmazza a számítógépeket számos olyan feladat végrehajtására, amelyeket korábban csak az emberek tehettek meg: képek felismerése, autók vezetése, a tőzsde kereskedése és még sok más. Ez egyes emberekben aggodalomra adott okot, hogy a gépi tanulás szükségtelenné és haszontalanná teheti az embereket a munkahelyen. És ez valójában lehetséges, de sokkal súlyosabb veszélyt jelent a gépi tanulás, amely eddig nem kapott kellő figyelmet. A lényeg az, hogy ha a gépek képesek megtanulni, akkor megtanulhatnak hazudni is.
A mai emberek hamisíthatják a képeket, például a fényképeket, de ez fáradságos és összetett folyamat. A hang- vagy videokép meghamisítása pedig általában meghaladja az átlagember képességeit. De hamarosan, a gépi tanulásnak köszönhetően, valószínűleg könnyen létre lehet hozni valakinek hamis videoképeit valaki arcáról, és azt a benyomást keltheti, mintha az illető a saját hangjával beszélne. Már létezik az ajakmozgások szinkronizálására szolgáló technológia, amely szó szerint bármilyen szót betesz az ember szájába. Ez csak a jéghegy csúcsa. Hamarosan a 12 éves gyerekek fotorealisztikus és hihető hangzású hamis képeket készíthetnek politikusokról, üzleti vezetőkről, rokonaikról vagy barátaikról a hálószobájukban a hálószobájukban, mindent elmondva, amit csak elképzelhetnek.
Ez önmagában bizonyos nyilvánvaló visszaéléseket vált ki. A politikai hamisítások, az úgynevezett "álhírek" vagy "információtömések" futótűzként terjednek. Természetesen a megtévesztést a lehető leghamarabb észlelik - egyetlen digitális technológia sem lehet olyan jó, hogy egy másik technológia nem képes észlelni a hamisítványt. De ez csak azután következik be, hogy a káros ötlet már behatolt az abban hiszõ emberek fejébe. Képzeljen el egy tökéletesen koholt videót arról, hogy az elnökjelöltek faji rágalmakat kiáltanak vagy erőszakos bűncselekményeket vallanak be.
Ez azonban csak a kezdet. Képzelje el a tőzsde manipulálásának lehetőségét. Tegyük fel, hogy valaki hamis videót terjesztett, amelyben Elon Musk, a Tesla vezérigazgatója elismeri, hogy a Tesla autók nem biztonságosak. A videó elterjed az interneten, és a vállalat részvényei összeomlanak. Hamarosan hamisítvány felfedezése után az áruk helyreáll, azonban ez idő alatt a manipulátorok hatalmas pénzt tudnak keresni, játszva csökkenteni a Tesla részvényeit.
Promóciós videó:
És ez messze nem a legszélsőségesebb forgatókönyv. Képzelje el, hogy egy ilyen viccelő egy reális álvideót készít Donald Trump elnökről, amely kijelenti, hogy közeledik az észak-koreai célpontok sztrájkja, majd tegye fel azt a videót, ahol észak-koreaiak láthatják. Mennyi az esélye annak, hogy az észak-koreai vezetés rájön, hogy ez hamisítvány, mielőtt el kell döntenie, hogy háborút indítanak?
Azok, akik hajlamosak az ilyen extrém forgatókönyveket riasztónak tekinteni, ésszerűen rámutatnak arra, hogy bármilyen hamisítvány felderíthető, mivel ugyanazokat a gépi tanulási technológiákat fogják használni a felderítéshez, mint az alkotáshoz. De ez nem azt jelenti, hogy nem fenyegetjük azt a veszélyt, hogy mindenütt hamisítványokkal teli világban találjuk magunkat. Amint a hamisítványok eléggé hihetővé válnak ahhoz, hogy az emberek önállóan ne fedezhessék fel őket, örökre elveszítjük bizalmunkat abban, amit látunk és hallunk. Ahelyett, hogy bíznánk saját érzékeinkben, kénytelenek leszünk algoritmusokra támaszkodni, amelyeket a hamisítások felderítésére és az információk hitelesítésére használnak. Az evolúció során megtanultunk bízni saját érzéseinkben,és ezeknek a funkcióknak a gépi intelligenciára való átvitele a legtöbb ember számára túl drasztikus lehet.
Ez rossz hír lehet a gazdaság számára. Az üzleti és kereskedelmi hálózatok a bizalomra és a kommunikációra épülnek. Ha a gépi tanulás egy nap véget nem érő illúziók és hamisítások hurrikánját dobja el a nyilvános információs szférába, az evolúció által létrehozott falak a valóság és a fikció megkülönböztetésére összeomlanak. Ebben az esetben a társadalom iránti bizalom szintje gyorsan csökkenhet, ami nem lassul le, és negatívan befolyásolja az emberiség globális jólétét.
Emiatt a kormánynak valószínűleg meg kell tennie néhány lépést annak érdekében, hogy a digitális hamisítást szigorúan megbüntessék. Sajnos a jelenlegi közigazgatás valószínűleg nem tesz ilyen lépést a szűk pártok hírei iránti szeretetből. Az olyan kormányok, mint Oroszország, valószínűleg még kevésbé hajlandóak megfékezni az ilyen gyakorlatokat. Végül a rossz kormányzás és a hatékony új technológiák kombinációja sokkal nagyobb veszélyt jelent az emberi társadalomra, mint maguk a technológiák.
Írta: Noah Smith - a Bloomberg News oszlopos munkatársa
Igor Abramov