Találkoztál már valakivel az utcán, aki olyan lenne, mint te? A ruházat, az arc, a járás, a kommunikáció módja, a szokások teljesen megegyeznek a sajátoddal. Olyan, mintha szkennelnék és nyomtatnák egy nyomtatóra. Kissé hátborzongatónak hangzik, nemde? Most képzeld el, hogy láttál egy videót, amelyben egy ilyen ember valamit mond magáról. A legjobb esetben megpróbálsz emlékezni arra, mikor sétáltál úgy, hogy nem emlékszel semmire, de ezt a kamerán mondhatták. Bár mindez egyszerű érvelésnek hangzik, de a technológia már nagyon közel áll az ilyen emberek létrehozásához. Már léteznek, de hamarosan még sok más lesz.
Honnan származik a hamis?
Most már túl sok olyan dolog, amelyeket általában hamisításnak hívnak. Mindenhol ott vannak. Megtalálhatók fényképekben, a hírekben, az áruk gyártásában és az információs szolgáltatásokban. Könnyebb megmondani, ahol nincsenek jelenségek, amelyek ezt a szót kísérik. Amíg harcolni tudsz velük. Megvizsgálhatja a fénykép eredetét, ellenőrizheti a márkás termékek megkülönböztető tulajdonságait egy hamis termékről, és kétszer ellenőrizheti a híreket. A hír azonban külön téma.
Manapság egy tartalomfogyasztó nem akar várni, és azonnali előállítást követel meg alkotójától, néha nem is törődik a minőséggel, főleg a gyors működés. Itt fordulnak elő olyan helyzetek, amikor valaki mondott valamit, a többiek pedig anélkül, hogy ellenőrizték volna, elvették weboldalaiktól és újságuktól. Bizonyos esetekben hosszú időbe telik, amíg visszaforgatja ezt a labdát, és bebizonyítja, hogy az egész rossz volt.
Nincs értelme elmagyarázni, miért történik ez mind. Egyrészt vannak olyanok, akik csak nevetni akarnak a helyzetről, másrészt azok, akik valóban nem tudták, hogy tévedek. Külön helyet, hozzávetőlegesen a közepén, azok foglalnak el, akik számára meglehetősen nyereséges a profit. Ezek lehetnek különböző szintű befolyásolási érdekek, ideértve a politikai érdekeket is. Időnként ez a profitszerzés célja. Például pánik vetése a tőzsdén és nyereséges ügyletek lebonyolítása értékpapírokkal. De gyakran ennek oka az ember (társaság, termék, stb.) Elleni ellenségeskedés oka annak megtévesztésére. Egy egyszerű példa egy olyan film vagy intézmény besorolása, amely valaki számára nem kívánatos. Természetesen ehhez olyan seregre van szükség, akik mennek és nem szeretnek (néha még botok is), de ez egy másik történet.
Mi az a mély tanulás?
Promóciós videó:
Az utóbbi időben ez a kifejezés egyre gyakrabban hangzik. Időnként még csak nem is áll kapcsolatban az esettel, és valami másval összekeverik. Tehát a szoftver termék lenyűgözőbbnek tűnik.
Ne gondolja, hogy a gépi tanulás koncepciója és alapelvei csak néhány évvel ezelőtt jelentek meg. Valójában annyira sok évesek, hogy sokan még akkor sem születtek. A mély tanulási rendszerek alapelveit és munkájuk matematikai modelljeit a múlt század 80-as éveiben ismerték meg.
Abban az időben nem voltak ilyen értelmesek az egyik fontos elem hiánya miatt. Nagy számítási teljesítmény volt. Csak a 2000-es évek közepén jelent meg olyan rendszer, amely segíthet ebben az irányban dolgozni, és lehetővé teszi az összes szükséges információ kiszámítását. Most a gépek még tovább fejlődtek, és a gépi látás, a hangfelismerés egyes rendszerei és mások olyan hatékonyan működnek, hogy néha meghaladják az ember képességeit. Ennek ellenére még nem „börtönözik” felelősségteljes irányban, kiegészítve őket az emberi képességekkel, miközben fenntartsák az irányítást felettük.
Mi a Deepfake? Mikor jelent meg a Deepfake?
Könnyű kitalálni, hogy a Deepfake egy kis játék a Mély Tanuláshoz kapcsolódó szavakhoz és azoknak a hamisítványoknak, amelyekről a fentiekben beszélek. Vagyis a Deepfake-nek új szintre kell hamisítania és ki kell ürítenie egy embert ebben a nehéz üzletben, lehetővé téve hamis tartalom létrehozását anélkül, hogy az energiát pazarolja.
Mindenekelőtt az ilyen hamisítványok a videót érintik. Vagyis bárki ülhet a kamera előtt, mondhat valamit, és az arcát másik személyre cserélheti. Ijesztőnek tűnik, mert valójában csak meg kell ragadnia a személy alapvető mozgásait, és egyszerűen lehetetlen lesz megkülönböztetni a hamisítványt. Nézzük meg, hogy kezdődött az egész.
Az első generációs versenytársak hálózatát a Stanfordi Egyetem hallgató hozta létre. 2014-ben történt, és a hallgató neve Ian Goodfellow volt. Valójában két ideghálót csapott egymásra, amelyek közül az egyik emberi arcok generálásában foglalkozott, a második pedig elemezte őket, és hasonlóan beszélt, vagy sem. Tehát kiképzték egymást, és egy nap a második idegháló összezavarodni kezdett, és a generált képeket valóra vette. Ez az egyre összetettebb rendszer adja a mélyfake születését.
A Deepfake ötletének egyik fő támogatója Hao Li. Nem csak ezt teszi, hanem sokan mások is. Erre többször különféle díjakat ítéltek oda, köztük a nem hivatalos díjakat is. Mellesleg ő egyike azoknak, akiket megköszönni kell az animoji megjelenéséről az iPhone X-en. Ha érdekli, megismerkedhet vele részletesebben a webhelyén. Manapság nem ő a vita fő témája.
Csak arra emlékeztünk rá, mert a Davosban megrendezett gazdasági világfórumon jelentkezett, amely lehetővé teszi, hogy a kamera előtt ülő ember arcát bármilyen más arcra cserélje. Különösen megmutatta, hogyan működik a rendszer Leonardo DiCaprio, Will Smith és más híres emberek arcán.
Kicsit hátborzongatónak tűnik. Egyrészt csak csodálhatja a modern technológiákat, amelyek lehetővé teszik egy arc beolvasását, útközben másikra cseréjét és új kép készítését. Mindez egy pillanat alatt eltart, és a rendszer sem lassul le. Vagyis nem csak a kész videó feldolgozását és az arc cseréjét teszi lehetővé, hanem részt vehet egy ilyen karakterben valamilyen élő video kommunikációban is.
A mélyfake veszélye. Hogyan változtathatom meg a videó arcát?
Beszélhet annyiban, amennyit csak akar, hogy erre a technológiára van szükség, nagyon jó, és nem kell rágalmaznod. Még a szélsőségekbe is juthat, és elmondhatja, hogy ez egy heves öreg páciens, aki egyszerűen fél minden újtól, ám valójában több veszély, mint haszon van.
Az ilyen technológiával, különösen akkor, ha nyílt forráskódú, bárki szörfözhet és rögzíthet bármilyen videót. Nem rossz, ha csak rágalmaz valaki tiszteletét és méltóságát, még rosszabb, ha egy fontos személy nevében tett nyilatkozatról van szó. Például, ha Tim Cook nevében csak 30–40 másodperc hosszú videofelvételt készít, szinte az egész amerikai informatikai szférát lerövidítheti, az Apple vezetésével. A tőzsde annyira súlyosan sújt, hogy pánikot sújt a befektetők körében. Ennek eredményeként több ezer ember veszít milliárd dollárt.
Aki nem szereti ezt a pénzt keresni, azt mondja, hogy erre van szükségük, engedje el, hogy menjen a növénybe. De a legszomorúbb forgatókönyv szerint ezt követően nem lesz növény. Ráadásul bonyolult, hogy olyan embert kapunk, aki megcsalja az értékpapírok ingadozásait. Elegendő időben megvásárolni és eladni.
A helyzet még rosszabb lehet, ha a "joker" egy nagy állam vezetőjének nevében szól. Természetesen akkor minden felfedik, de ebben az időben sok kellemetlen dolgot megtehet. Ennek fényében ártatlan tréfa lenne, ha a felnőttkori film színészének egyszerűen felváltaná egy sztár színét.
Az ilyen technológiáknál a legfontosabb a szkennelés, és akkor a technológia kérdése. A szó legmegfelelőbb értelmében.
Elképzelheti az ellenkező helyzetet, amikor egy igazi ember mond valamit, majd mindenkinek biztosítja, hogy bekeretezte. Nem is egyértelmű, hogy hogyan lehet ebben a helyzetben. Ez olyan zavart fog hozni a hírcsatornákban, hogy egyszerűen nem lehet megismételni egy másik forrásból. Ennek eredményeként általában nem egyértelmű, hogy mi igaz és mi hamis ebben a világban. A kép olyan filmekből származik, amelyek egy olyan komor jövőről szólnak, mint a Surrogates vagy a Terminator, ahol a T-1000 más emberekként mutatta be magát, és többek között John Conornak hívta örökbefogadó anyja nevében.
Most már nem is beszélek egy másik visszaélésről, amely lehetővé tenné hamis bizonyítékok gyűjtését. Mindezek alapján a játék minden szórakozása túl kétséges.
Hogyan lehet észlelni a mélyfake-t?
A probléma nem az, hogy az ilyen rendszereket be kell tiltani, hanem az, hogy ez már nem lehetséges. Már ott vannak, és a technológiák fejlesztése, beleértve az arcok olvasását, megjelenésükhöz és a nyílt forráskód elterjedéséhez vezetett. Még ha el is képzeljük, hogy a rendszer jelenlegi formájában megszűnik, meg kell értenünk, hogy újból létrejön. Csak megint megtanítják az ideghálózatok működését egymással, és ennyi.
Eddig nem minden annyira félelmetes, és szó szerint azonosíthat egy hamis képet szabad szemmel. A kép hasonló, de meglehetősen durva. Ezen kívül néha keveredési problémái vannak, különösen az arc szélein. De semmi sem áll meg, és egyáltalán nem nehéz tovább fejlesztni azt. Ugyanaz a Hao Li biztos, hogy ez nem tart tovább, mint néhány hónap, és olyan „maszkok” létrehozásához, amelyeket még egy számítógép sem tud megkülönböztetni, még több évre lesz szüksége. Ezután nincs visszaút.
Egyrészt a YouTube és a Facebook által már létrehozott algoritmus megvédi ezt. Mellesleg, ez utóbbi versenyt is nyitott az elismerési technológia fejlesztésére - Deepfake Detection Challenge ("A mélyfajok felderítésének feladata"). A verseny nyereményalapja 10 millió dollár. A verseny már folyamatban van, és 2020 márciusában ér véget. Még mindig van ideje részt venni.
Az arc cseréje egy videóban már nem jelent problémát.
Lehet, hogy ez a nagylelkűség egy hamis videónak köszönhető, amelyet maga Mark Zuckerberg készített. Ha ez a két dolog kapcsolatban áll, egy ilyen verseny kialakulása nem meglepő.
Ha a kicserélt arc teljes mértékben megegyezik az eredetivel, akkor a speciális neurális hálózat által képviselt ellenerő hatástalan. Ebben az esetben minimális különbségeket kell megszereznie az arckifejezésekben, a mozgásokban és a beszédmódban. Híres emberek esetében egy ilyen problémát a videojáték szintjén kell megoldani, mivel ugyanaz a YouTube tudja, hogyan mozog a hagyományos Donald Trump. Amikor kevésbé ismert személyről van szó, trükkösebb lesz. Ennek ellenére a fényképezőgép elé helyezése és egy alkalmi beszélgetés közben is bizonyítható, miközben az idegi hálózat elemzi a mozgását. Kiderül, hogy valami hasonló az ujjlenyomat tanulmányozása, de amint láthatjuk, ez ismét szükségtelen nehézségekhez vezet.
A video hitelesítési rendszerek kamerákba varrása szintén megkerülhető. Megadhatja, hogy a kamera megjelölje a rögzített videót, és egyértelművé teheti, hogy azt nem külön alkalmazáson keresztül forgatták, vagy pedig egy speciális programban dolgozták fel. De mi lenne az éppen feldolgozott videókkal? Például egy szerkesztett interjú. Ennek eredményeként olyan videót kapunk, amelyben az eredeti kulcs már nem lesz.
Néhány mémek a végén.
Elmondhatjuk, hogy most felvázoltuk a sötét jövő egyik forgatókönyvét? Általában igen. Ha a jó célok elérésére létrehozott technológiák kiszabadulnak az irányítás alól, akkor bánattal is elkísérelhetik őket. Valójában számos lehetőség van az ilyen veszélyes technológiákra, de ezek többsége védett. Például atomfúzió. Itt olyan kóddal foglalkozunk, amelyet bárki megszerezhet.
Írja meg a megjegyzésekben, hogy látja a hamisítás elleni védelmet, figyelembe véve, hogy a maszkoló rendszer az eredeti arcokkal teljesen azonos maszkokat tudott készíteni. És mivel a videóban vannak, akkor még a mélység és a hangerő felismerését sem lehet rá alkalmazni. Tegyük fel továbbá, hogy a képbe beágyazott bármely kód és kulcs feltörhető. Mint mondják, miért lenne. Most megbeszélhetjük, az összes bevezető van.
Artem Sutyagin