Az Egyesült Államok elnökválasztásának kampánya hivatalosan elindult, ami viszont különös és furcsa módszerek sokaságát jelenti a technológia torzításáért a politikában. Az egyik legnagyobb fenyegetés a mesterséges személyiségek, akik szenvedélyesen vesznek részt a politikai vitákban. Egyrészről, a mesterséges intelligencián alapuló szöveggenerálási technológia gyorsabban fejlődik, mint valaha, másrészt a közösségi hálózatok chatbotjai majdnem elérték a tökéletességet. Ezek a számítógép által generált "emberek" hamarosan valódi emberi megbeszéléseket veszítenek az interneten.
A szöveggenerációs szoftver elég jól kifejlesztett ahhoz, hogy bárkit megtévesszen. A számítógép kiválóan alkalmas hírek írására, különösen a sport és a pénzügyek területén, ügyfelek tanácsadására a befektetési oldalakon, vonzó cikkek írására más hír témákban (bár vannak korlátozások).
Ugyanakkor már léteznek olyan algoritmusok, amelyek olyan tartalmat generálhatnak, amely megkülönböztethetetlen a hétköznapi felhasználók üzenetétől. 2017-ben az FCC nyilvános vitát folytatott a hálózatsemlegesség megszüntetésére irányuló terveiről. Megdöbbentő 22 millió hozzászólás érkezett erről a témáról. Sokan - talán felének - hamisak voltak, a támadók lopott személyazonosító adatokat használtak. Néhány megjegyzés durva, 1,3 millió ugyanabból a sablonból származik - néhány szót megváltoztattak benne annak érdekében, hogy az üzenetek egyedivé váljanak.
És ezen a területen a technológiák aktívan fejlődnek. Kísérletében a harvardi kutató, Max Weiss szöveget generáló szoftvert használt, hogy 1000 kommentárt hozzon létre a kormány Medicaid kezdeményezésére válaszul. Ezek az észrevételek egyediek voltak, és úgy tűnt, mintha egy valódi ember írta volna egy bizonyos politikai álláspontot. Sikerült becsapniuk a Medicaid.gov adminisztrátorait, hogy azt gondolják, hogy valódi félelmek valódi emberektől. A vizsgálat során Weiss később kiderítette, hogy az észrevételek hamisak, és azt kérték, hogy távolítsák el őket. De egy másik személy vagy behatolók csoportja, akik ezt az utat követik, nem valószínű, hogy ugyanolyan erkölcsi.
A chatbotok sok éven keresztül szerepelnek a közösségi média megbeszéléseiben. Egy becslés szerint a 2016. évi elnökválasztással kapcsolatos tweet mintegy ötödét botok tették közzé, a Brexitért szavazók kb. Egyharmadát ugyanabban az évben. Az Oxfordi Egyetem tavalyi jelentésében a kutatók bizonyítékokat találtak arra, hogy a robotok 50 országban terjesztik a propagandát. Általános szabály, hogy ezek egyszerű programok voltak, gondolatlanul ismétlődő szlogenek: például egy negyedmillió millió szaúdi pro-tweet "Mindannyian hiszünk Mohammed bin Salmanban", Jamal Khashoggi meggyilkolása után 2018-ban. Sokkal nehezebb megtalálni a jobb botokat. És ezen botok hatékonyságát mérni nehéz. Mindegyik torzítja a közvéleményt és a jól indokolt politikai vita hitét. Valójában,mindannyian egy új társadalmi kísérlet közepén vagyunk.
Az évek során az algoritmikus robotok egész személyiségeket fejlesztettek ki. Vannak hamis nevek, hamis életrajzok és hamis fényképek, amelyeket néha számítógéppel készítenek. Ahelyett, hogy a propagandát végtelenül szórnák, csak alkalmanként küldnek üzeneteket. A kutatók talán úgy találják, hogy robotok, és nem emberek, a kiküldetési minták alapján, de a bottechnika folyamatosan javul, és meghaladja a nyomon követési kísérleteket. A jövő botjait jobban elrejtik társadalmi csoportokként, a propagandát finoman beillesztik tweetekbe az ezen társadalmi csoportokkal kapcsolatos témákról.
Hamarosan a program által ellenőrzött Sims képes lesz személyre szabott leveleket írni újságokban, miniszterelnökökben a választott tisztviselőknek, személyre szabott megjegyzéseket fűzni a nyilvános szabályalkotási folyamatokhoz és intelligensen beszélni a szociális média politikai kérdéseiről. Meg tudják majd kommentálni a közösségi hálózatokon, híroldalakon stb. Szereplő bejegyzéseket. Létrehoznak állandó karaktereket, amelyek valódinak tűnnek még azok számára is, akik ezeket tanulmányozzák. Képesek lesznek bemutatni magukat a közösségi médiában és személyre szabott szövegeket küldeni. Több millióban replikálódnak és milliárd üzenetet küldnek, hosszú és rövid, éjjel-nappal. Együtt elronthatnak minden valódi vitát az interneten. Nem csak a közösségi médiában, hanem bárhol is vannak hozzászólások.
Lehet, hogy ezeket a karaktereket idegen betolakodók fogják irányítani. Lehet, hogy ezek belső politikai csoportok lesznek. Talán maguk a jelöltek lesznek. Valószínűleg mindenki fogja használni. A 2016. évi választások legfontosabb leckéje a dezinformáció nem az, hogy a dezinformációt közzétették; de olcsó és könnyű félreérteni az embereket. A jövőbeni technológiai fejlődés mindezt még megfizethetőbbé teszi.
Promóciós videó:
A jövőnk heves politikai vita lesz, ahol a botok többnyire más botokkal vitáznak. Nem ezt képzeljük el, amikor dicsérjük az ötletek piacát vagy bármilyen demokratikus politikai folyamatot. A demokrácia megfelelő működéséhez két elemre van szükség: az információra és a képviseletre. A mesterséges karakterek mindkettőt eltalálják.
A probléma megoldása még nem egyértelmű. Megpróbálhatjuk szabályozni a botok használatát - a kaliforniai törvényjavaslat előírja, hogy a botok azonosítsák magukat -, de ez csak a törvényes befolyásoló kampányok, például a hirdetések ellen hatékony. A rejtett befolyást sokkal nehezebb felismerni. A legnyilvánvalóbb védelem a jobb hitelesítési módszerek fejlesztése és szabványosítása. Ha a közösségi hálózatok abban vannak biztosak, hogy minden egyes fiók mögött van valódi ember, akkor jobban tudják kiszűrni a hamis személyeket. De a hamis számlákat már rendszeresen hozzák létre valódi emberek adatainak felhasználásával, tudásuk vagy hozzájárulásuk nélkül. Nincs olyan hitelesítési rendszer, amely védi a magánélet védelmét és több milliárd felhasználót érhet el.
Csak remélhetjük, hogy a mesterséges személyiségek azonosításának képessége felzárkóztatja képességünket. De egyelőre a támadók mindig egy lépéssel vannak előre.
A nap végén minden döntésnek nem technikai jellegűnek kell lennie. Elismernünk kell az interneten folytatott politikai vita korlátozásait, és ismét prioritást kell élveznünk a személyes kommunikáció terén. Nehezebb automatizálni, és tudjuk, hogy az emberek, akikkel beszélünk, valódi emberek. De ez a kulturális elmozdulás eddig teljesen irreális megoldásnak tűnik, és a dezinformációs kísérletek az egész világon elterjedtek és több mint 70 országban zajlanak. Ez az önkényuralmi rendszerrel rendelkező országokban a propaganda normális módja, és ez egy politikai kampány lefolytatásának módjává válik.
A mesterséges karakterek a propaganda jövője. És bár hatástalanok lehetnek abban, hogy a vitát egy bizonyos nevezőhöz hozzák, könnyen elmeríthetik a vitát.
BRUCE SCHNEIER a Harvard Kennedy Iskola kutatója és előadója.