Tumblr a múlt hónap elején bejelentette, hogy megtiltja a pornót. Amikor az új tartalmi irányelv hatályba lépett, kb. Két héttel később - december 17-én - nyilvánvalóvá vált, hogy problémák merülnek fel. Miután telepített egy olyan mesterséges intelligencia rendszert, amelynek állítólag meg kellett tiltania az összes pornográfiát a webhelyen, tévesen megjelölte ártatlan üzenetét a webhely 455,4 millió blogjában 168,2 milliárd üzenet között: vázák, boszorkányok, halak és minden jazz.
Pornográfia a mesterséges intelligencia számára
Bár nem világos, hogy az automatikus szűrőt a Tumblr használta vagy készítette - a vállalat nem válaszolt a témával kapcsolatos megkeresésekre -, nyilvánvaló, hogy a közösségi hálózat beragadt saját politikája és technológiája közé. Például a webhely következetlen álláspontja a "mellbimbókat mutató nőkről" és a művészi meztelenségről például olyan kontextusbeli döntésekhez vezetett, amelyek bizonyítják, hogy még a Tumblr sem tudja, mit tiltjon a platformján. Hogyan lehet egy gyakori társaság meghatározni, mit tart obszcénnek?
Először is nehéz a kockázatos tartalmak blokkolása, mert nehéz a kezdettől fogva meghatározni, hogy mi az. Az obszccencia meghatározása egy több mint száz éves medvecsapda, 1896-ban, az Egyesült Államokban, először az obszcenitást szabályozó törvények fogadtak el. 1964-ben a Jacobellis kontra Ohio ügyben, annak kérdésében, hogy Ohio megtilthatja-e egy Louis Malle-film vetítését, a Legfelsõbb Bíróság kiadta a mai pornográfia valószínûleg leghíresebb meghatározását: „Ma nem próbálom tovább meghatározni ezt a fajta anyagot, amely, amint megértettem, az szerepel a szó szerinti leírásban; és valószínűleg soha nem tudom érthetővé tenni - mondta Potter Stewart bíró. "De tudom, mi az, amikor látom, és a jelen esethez kapcsolódó film nem."
A gépi tanulási algoritmusoknak ugyanaz a probléma. Pontosan ezt a problémát próbálja megoldani Brian Delorge, a Picnix, a speciális mesterséges intelligencia technológiát értékesítő cég vezérigazgatója. Az egyik termékük, az Iris, ügyféloldali alkalmazás pornográf észlelésére, hogy "segítsenek embereknek" - mondta Delorge -, akik életükben nem akarnak pornót. Megjegyzi, hogy a pornó egyetlen problémája az, hogy bármi lehet, egy csomó különféle dolog - és a nem pornográf képek is hasonló elemekkel rendelkezhetnek. Lehet, hogy a tengerparti party képet nem blokkolja, mert több bőr van rajta, mint az irodai fotón, hanem azért, mert a széle van. „Ezért nagyon nehéz képzni egy képfelismerő algoritmust, hogy mindent egyszerre végezzen el” - mondja DeLorge."Amikor a meghatározás az emberek számára nehézkes, a számítógépnek is nehézségei vannak." Ha az emberek nem tudnak megegyezni abban, hogy mi a pornó, és mi nem, reménykedhet-e egy számítógép, hogy megismerje a különbséget?
Annak érdekében, hogy megtanítsa az AI-t a pornó felismerésére, az első dolog, amit meg kell tennie, hogy pornóval táplálja. Sok pornográfia. Hol szerezhetem meg? Nos, az első, amit az emberek csinálnak, egy csomó videót töltöttek le a XVideos Pornhubból - mondja Dan Shapiro, a Lemay.ai alapítójának egyik alapítója. "Ez a jogi jellegű szürke területek egyike - például ha mások tartalmából tanulsz, az tartozik neked?"
Miután a programozók rengeteg pornót töltöttek le, kivágták a nem pornográf felvételeket a videóból, hogy megbizonyosodjanak arról, hogy a felhasznált felvételek nem blokkolják a pizzát kézbesítőket. A platformok fizetnek az embereknek, főként az Egyesült Államokon kívül, hogy megcímkézzék egy ilyen tartalmat; a munka alacsony fizetésű és unalmas, mint például egy captcha-ba való belépés. Csak ülnek, és megjegyzik: ez pornó, ez itt. Kicsit szűrnie kell, mert az összes pornó címkével rendelkezik. A tanulás jobb, ha nem csak fényképeket, hanem nagyméretű adatmintákat is használ.
Promóciós videó:
"Gyakran nem csak a pornót kell szűrnie, hanem a kísérő anyagot" - mondja Shapiro. "Mint a hamis profilok egy lány fényképével és telefonjával." Olyan szexmunkásokra utal, akik ügyfeleket keresnek, de ez bármi lehet, ami nem teljesen legális. "Ez nem pornó, de ez az a fajta dolog, amelyet nem akarsz nézni a platformon, igaz?" Egy jó automatizált moderátor több millió - ha nem több tízmillió - mintadarabból tanul meg, amely tonna emberórát takaríthat meg.
"Össze lehet hasonlítani a gyermek és egy felnőtt közötti különbséggel" - mondja Matt Zeiler, a Clarifai vezérigazgatója és alapítója, egy számítógépes látásindító, amely ilyen képszűrést végez a vállalati ügyfelek számára. „Biztosan elmondhatom neked - néhány hónappal ezelőtt szült egy kisbabánk. Semmit sem tudnak a világról, számukra minden új ". Sok mindent meg kell mutatnia a gyermeknek (az algoritmus), hogy megértse valamit. „Milliók és milliók példák. De felnőttként - amikor oly sok környezetet teremtettünk a világról és megértettük, hogyan működik - csak néhány példából tanulhatunk valami újat. " (Igen, az AI megtanítása felnőtteknek szánt tartalom szűrésére olyan, mint egy gyermek pornó megjelenítése.) A Clarifaihoz hasonló cégek ma gyorsan növekednek. Jó adatbázisuk van a világról, elmondhatják macskák kutyáit, meztelenül öltözve. A Zeiler társasága modelleit új algoritmusok kiképzésére használja ügyfelei számára - mivel az eredeti modell sok adatot dolgozott fel, a személyre szabott verziókhoz csak új adatkészletek működtetésére lenne szükség.
Az algoritmusnak azonban nehéz helyrehozni. Jól működik a nyilvánvalóan pornográf tartalommal; de az osztályozó hibásan jelölheti meg az alsónemű hirdetését nem korlátozó jellegűként, mivel a képen több bőr van, mint például az irodában. (A bikini és a fehérneműk esetében Zeiler szerint nagyon nehéz.) Ez azt jelenti, hogy a marketingszakembereknek munkájuk során ezekre a szélsőséges esetekre kell összpontosítaniuk, prioritásként kezelve a nehezen osztályozható modelleket.
Mi a legnehezebb?
"Anime pornó" - mondja Zeiler. "A meztelenségdetektor első verziója nem rajzfilmpornográfiát használt az oktatáshoz." Az AI sokszor tévedett, mert nem ismerte fel a hentát. "Miután ezt az ügyféllel dolgoztuk, sok adatot befecskendeztünk a modellbe, és jelentősen javítottuk a rajzfilmszűrő pontosságát, miközben megőriztük a valódi fényképek pontosságát" - mondja Zeiler.
A pornó szippantására tanított technológia más dolgokra is felhasználható. A rendszer mögött meghúzódó technológiák rendkívül rugalmasak. Ez több, mint anime mell. Például az Alphabet szúrófűrészét széles körben használják automatikus megjegyzés moderátorként egy újságban. Ez a szoftver ugyanúgy működik, mint a kép-osztályozók, azzal a különbséggel, hogy inkább a toxicitás, mint a meztelenség szerint osztályozza. (A toxikusságot a szöveges megjegyzésekben ugyanolyan nehéz meghatározni, mint a képeken szereplő pornográfiát.) A Facebook ezt a fajta automatikus szűrést használja az öngyilkossági üzenetek és a terrorizmussal kapcsolatos tartalom észlelésére, és megpróbálta ezt a technológiát hamis hírek felismerésére a hatalmas platformon.
Mindez továbbra is az emberi felügyelettől függ; jobban tudjuk kezelni a kétértelműséget és a kétértelmű összefüggéseket. Zeiler azt állítja, hogy nem gondolja, hogy terméke terméke bárki munkáját elvégezte. Megoldja az internet méretezés problémáját. Az emberek továbbra is az AI-t képzik a tartalom rendezése és címkézése révén, hogy az AI meg tudja különböztetni azt.
Ez a moderálás jövője: testreszabott, kulcsrakész megoldások azoknak a vállalatoknak, amelyeket teljes üzleti tevékenységükkel az egyre fejlettebb osztályozók több adatának megtanításával végeznek. Csakúgy, mint a Stripe és a Square, azonnali fizetési megoldásokat kínálnak azoknak a vállalkozásoknak, amelyek nem akarják maguk feldolgozni őket, olyan induló vállalkozások, mint a Clarifai, a Picnix és a Lemay.ai, online moderálást fognak végezni.
Dan Shapiro (Lemay.ai) reményteljes. „Mint minden technológia esetében, a továbbfejlesztés még folyamatban van. Tehát nem hiszem, hogy be fogunk adni, ha kudarcot vallunk. " De képes lesz-e valaha is az AI önállóan működni emberi felügyelet nélkül? Homályos. "Nincs olyan kis ember, aki a tubák dobozában minden szűrést kiszűr." - mondja. "Mindenhol adatokat kell szereznie az algoritmus kiképzéséhez."
Zeiler viszont úgy véli, hogy egy napon a mesterséges intelligencia mindent önmagában mérsékelni fog. Végül az emberi beavatkozások száma nullára vagy kevés erőfeszítésre csökken. Az emberi erőfeszítések fokozatosan olyan dolgokká alakulnak, amelyeket az AI nem tud megtenni, például a magas szintű érvelés, az öntudatosság - mindaz, ami az embereknek megvan.
Ennek része a pornográfia felismerése. Az azonosítás viszonylag triviális feladat az emberek számára, de sokkal nehezebb az algoritmus képzése az árnyalatok felismerésére. A küszöbérték meghatározása, amikor egy szűrő egy képet pornográf vagy nem pornográfként jelöl, szintén nehéz feladat, részben matematikai.
A mesterséges intelligencia a világ látásának tökéletlen tükrözése, akárcsak a pornográfia tükrözi azt, ami történik az emberek között, amikor egyedül vannak. Van benne valami igazság, de nincs teljes kép.
Ilya Khel