A Chicagói Egyetem (USA) tudósai tanulmányt végeztek, amelynek során megmutatták, hogyan lehet az AI-vel komplex hamis kritikákat írni. Az ilyen áttekintések modern módszerekkel nem különböztethetők meg a valódiaktól, és a gyanútlan olvasók rendkívül megbízhatónak találják őket.
Az éttermi kritikákat ismétlődő ideghálózatok (mély tanulási technikák) felhasználásával állították elő, amelyek korábban az interneten elérhető valós vélemények ezreiről tanultak.
A kutatók szerint a generált áttekintések gyakorlatilag nem voltak megkülönböztethetők a valóságtól. Tehát a munka szerzői kimutatták, hogy a felhasználók nem csak nem ismerték fel a hamis véleményeket, hanem ugyanolyan hasznosnak tartották őket, mint az emberek által írt valósakat.
Ez utóbbi valószínűleg a legriasztóbb. Mivel ez lényegében azt jelenti, hogy az AI által írt vélemények betöltik fő funkciójukat - céltudatosan befolyásolják az emberek véleményét.
Meg kell jegyezni, hogy a plágiumot ritkán találták meg az ilyen áttekintésekben (szoftverek segítségével). Ez annak köszönhető, hogy az AI karakterenként generálta őket, és nem ragadta meg a szavakat a valódi véleményekből.
Ma meglehetősen nagy underground ipar van, ahol az emberek hamis véleményeket írnak (pénzért). Amint azonban a Chicagói Egyetem professzora, Ben Y. Zhao a Business Insider-nek adott interjúban megjegyezte, az AI bevezetése alááshatja. A tudós azt mondja, hogy még nem tud ilyen algoritmusok használatáról ebben az iparágban. De nincs garancia arra, hogy valaki nem áll elő valami hasonlóval, és nem használja fel személyes haszonszerzés céljából.
Ugyanakkor a kutatók azt írják, hogy az ideghálózat válaszai továbbra sem voltak ideálisak. Kiderült, hogy az algoritmus kisebb karakterkészletet használt - és ezt nem volt nehéz meglátni. A munka szerzői szerint azonban a jövőbeni ideghálózatok még összetettebbek lehetnek, ennek megfelelően az általuk generált visszacsatolás nehezebben lesz észlelhető.
Zhao megjegyzi, hogy nem csak a hamis éttermi véleményekről van szó: az ilyen technológiák általában megingathatják meggyőződésünket arról, hogy mi valós és mi nem.
Promóciós videó:
A tanulmány szövege itt található.