"A gépek felemelkedése", "A terminátor visszatér" … Sok tudományos fantasztikus felépítés azon a tényen épül, hogy a számítógépek annyira okosak lesznek, hogy megértik, hogy jobbak lesznek nélküle. Tündérmesék? Hogyan néz ki. 2050-re egy tipikus otthoni számítógép annyi információt képes feldolgozni, mint az összes földi ember együttesen.
De 2050-re az a feltétel vonatkozik, hogy a gépek fokozatosan fejlődnek. Nem működik így. Az elektronikus világgal való kapcsolatunk ugrásszerűen halad előre. Egyszer - egeret csatoltak az autóhoz. Egyszer - megjelent az internet. Egyszer - voltak okostelefonok táblagépekkel.
A következő áttörés akkor jön, amikor a számítógép megérti az embereket. Az okostelefonokon már vannak olyan alkalmazások, mint a Siri és a Cortana, amelyek egyszerű beszélgetést folytathatnak velünk. A probléma azonban az, hogy a számítógép megértse, nem az, amit mondunk, hanem hogy mit értünk! A legegyszerűbb példa: a könnyű nő és a férfi főnöke által elmondott „Ő hagyott engem” kifejezésnek teljesen más jelentése van.
Tehát: mihelyt a gépek megtanulják felismerni az emberi beszéd árnyalatait, egyrészről kezünk megszabadul a szó szoros értelmezésében. Beszéltem a számítógéppel, és mindent megtett. Másrészt nem közeledünk veszélyes vonalhoz, eltávolítva az utolsó akadályt az emberek közötti kommunikációban és a lélektelen vasnak?
Régóta szerettem volna beszélni erről egy ismert tudósokkal, az ABBYY nyelvi kutatási igazgatójával, az Oroszországi Állami Humanitárius Egyetem és a moszkvai Fizikai és Technológiai Intézet számítástechnikai osztályának vezetőjével, Vladimir Selegey-vel. De amikor elmondtam neki apokaliptikus félelmeim, a homlokát ráncolta.
Igen, a tudományos fantasztikus fantasztikus jóslatok tele vannak azzal, hogy az emberek által kiképzett gépek hogyan fognak nélküle működni. De számomra nem világos, miért provokálja a programokat beágyazott tudásmennyiség egy számítógépet, hogy döntést hozzon anélkül, hogy engedélyt kérne egy személytől?
Valójában a probléma nem az, hogy a számítógép megtanulja megtenni emberek nélkül, hanem az, hogy az emberek bizonyos problémák megoldásakor önmaguk nélkül akarnak megtenni. Itt van Csernobil …
Promóciós videó:
És mi köze van Csernobilnak?
- A nukleáris reaktor nagyon összetett fizikai modell. Úgy tűnik, hogy a reaktor minden kontrollparamétere ismeretes, minden megfelel a szigorú fizikai törvényeknek, és a döntéshozatal teljesen a számítógépre bízható. De…
1986-ban, egy héttel a baleset után, szemináriumon vettem részt a mesterséges intelligencia ipari felhasználásáról. Még akkor is egyértelmű volt, hogy ha a döntéshozatalt egy számítógépre bízza, komoly veszélybe kerülünk. Általános, hogy a programok hibákat tartalmaznak. Még a műholdak is tartalmaznak szoftverhibákat.
Vagyis az ember megbízhatóbb, mint a számítógép, bár sokkal gyorsabban gondolkodik?
- Az embernek minden más mellett motivációja is van. Megoldja problémáit - oktatás, szaporodás, karrier, tudja, hogyan kell érezni …
De írhat-e valami ravasz programozó olyan programot, amely megtanít egy agressziós gépet …
- Megpróbálhat például olyan katonai robotot készíteni, amely önmagában hoz döntéseket, elemezve azt, amit lát és hall. És nagyon veszélyes lesz. De nem azért, mert a robotnak hirtelen vágyakozik a pusztulásra, ahogy a tudományos fantasztikus írók írják. Mivel azonban egy programozó hibája, egyes tényezők elhanyagolása kiszámíthatatlan robot viselkedéshez vezethet.
De eddig nagyon messze vagyunk attól a képességtől, hogy önálló tanulási programokat hozzunk létre, amelyek képesek teljesen új ismeretek generálására. Nagyjából szólva, önállóan lépjen át a szorzótábláról a komplex egyenletek megoldásának képességére.
A huszadik század második felében a futurisztikus jóslatok a tudomány területén nagyon népszerűek voltak. A számítógép intelligenciájáért minden belekerült a tejbe. Senki sem jósolta meg az internetet, az információkhoz és a mobiltelefonokhoz való hihetetlen hozzáférési szabadságot. De mindenki gondolkodó számítógépekről beszélt.
Például a 60-as évek végén az első sakkrendszerünk, a KAISA, sikeresen fellépett a világbajnokságon a számítógépek között. Úgy véltek, hogy ahhoz, hogy egy gép legyőzze az embert, szimulálni kell az emberi játék algoritmusait. Az elme, az értelem és a nagyon titokzatos intuíció megteremtése miatt a sakk játékos a helyes döntéseket hozza.
Ma a számítógép veri az embert. De soha nem tanították az intuíciót. Egy milliárd játszott játékot, az összes játékélményt, a sakkjátékok valaha hozott döntéseit betöltötték a memóriájába. És megtanították nekik, hogy használják ezt az optimális játékterv kiválasztásánál, és óriási sebességgel biztosították számukra a lehetőségek felsorolását és értékelését. A számítógép legyőzi a világbajnokokat, de nem élvez vele örömet. Minden teljesen más, mint az emberek.
De Ön egyike azoknak, akik csak azt tanítják a számítógépre, hogy "kapcsolja be a fejét"
- Csak azokat a programokat próbáljuk megtanítani, amelyek „megértik” a szövegeket, hogy információt nyerjenek belőlük, felhalmozzák és általánosítsák. Annak érdekében, hogy az emberek milliárd forrásból kiválasztott szűrt tudást kapjanak. Ez nagyon nehéz, mert az ember maga nem ismeri nagyon jól a nyelvi képességének felépítését, amelyen mások megértése alapul.
A statisztikai gépi fordítás népszerű. A számítógép egyáltalán nem érti, hogy miről szól a lefordított szöveg, csak tudja, hogyan lehet megtalálni a kis töredékek (néhány szóban) fordításának legvalószínűbb változatát, elemezve a memóriájában tárolt óriási mennyiségű emberi fordítást. Általában véve a szöveg világos. Könnyű lenne azonban egy ilyen fordítás alapján felelősségteljes döntést meghozni.
Oké, lefordíthatja a számítógép az utasításokat nekem?
- Utasítás? Veszélyes.
- Igen, egy egyszerű hűtőszekrényhez!
- Még a hűtőszekrényhez is! Szeretném, ha programjaink lefordítanák, megpróbálnák megérteni a szöveget, választanának a tudáson alapuló lehetőségek között, és nem csak azért, mert ez a levelezés leggyakrabban megtalálható az adatbázisunkban.
Oké, tegyük fel, hogy megoldotta a problémát és létrehozott egy rendszert, amelynek köszönhetően a számítógépek megtanulják megérteni beszédünk árnyalatait, és még pontosan lefordítják egy másik nyelvre. És akkor új veszély fenyegeti az embereket - nem kell gondolkodni. Nem lesz szükség az emlékezet, az agy képzésére. Szüksége van információra - kérlek, Wikipedia. Beszélnie kell egy külföldi - fordítóval …
- Minél magasabb az intelligencia és az ember ismerete, annál hasznosabb a következő „intelligens asszisztens”. És minél alacsonyabb, annál több lehetőség tűnik úgy, hogy egyáltalán nem gondolkodik. A számítógépes technológiák a társadalom polarizációjához vezetnek. Durván szólva, a számológép megjelenése nem vezetett a matematikusok degenerációjához. De néhány iskolás gyermeknél nyilvánvalóan csökkent a már így is alacsony képességek.
- Tudod, számomra az iskolai végzettség esésének súlyos mutatója az emberek száma, akik írástudatlanul írnak, vagy akik nem képesek kifejezni gondolataikat és érzéseiket társ nélkül
- Igen, az emberek kevésbé kompetens módon kezdtek írni. Egyszerűen azért, mert általában kevesebb a szerkesztett szöveg olvasása és sokkal több ilyen forrás, ahol a helyesírás nagyon homályos. Ez tette az embereket hülyebbé? Valószínűleg nem.
Lát-e összefüggést az a tény, hogy egy személy írástudatlanul fejezi ki gondolatait anyanyelvén, és az a tény, hogy ostoba lett?
- Nem mennék olyan messzire. Bár nyilvánvaló: mivel a gyerekek kevésbé kezdtek olvasni, néhány probléma merült fel a tudás és a kultúra nemzedékek közötti átadásával. Ez probléma. Ma azt látjuk, hogy egy modern iskolás, akinek a szintje megegyezik a 30 évvel ezelőtt, az irodalmat rosszabb ismeri.
Itt! …
„… De másrészt sok más dolgot is sokkal jobban ismeri, amiről senki sem gondolta, hogy tudják.
Ez természetes folyamat?
- Igen. Sőt, az emberiség történetében először a tudást nem az idősebbektől a fiatalabbá lehet átadni, amint ez évszázadok óta történt. A tudás a fiatalabboktól az idősebbekig terjedt, amely korábban egyáltalán nem volt jellemző az emberi kultúrára. A gyermek megtanítja apát vagy anyát, hogy számítógépen dolgozzon, mobiltelefonnal, különféle ismeretek forrása a szülei számára. És még több gyermek utazik a világ körül. Nagyon gyakran a földrajzi és kulturális ismeretek forrása.
Figyelj, de itt minden a számítógépekkel kezdődött. Még felszabadították az embereket attól is, hogy meg kell emlékezni a nyelvtan elemi szabályaira
- Csak a 90-es évek elején egy csapatban dolgoztam, amely kifejlesztette az első orosz nyelv helyesírás-ellenőrző rendszerét. Hasznos vagy káros volt ezt megtenni? Nagyon hasznos véleményem szerint. Ez a rendszer lehetővé tette a dokumentumok gyorsabb létrehozását. És akkor minden a személy felelősségének szintjétől függ. Ki mondta, hogy az autó után egyáltalán nem kell ellenőrzést végezni? A rendszer csak sokkal hatékonyabbá teszi azt.
De bízunk a számítógépben
- Ez csak azt jelenti, hogy a program készítője nem tájékoztatta Önt arról, hogy számos olyan jelenség létezik, amelyet a gép nem tud ellenőrizni. Például tárgyalások.
Az új technológiák sajnos gyakran vezetnek a hagyományos készségek elvesztéséhez. Én javítottam a lakásban. Fából készült ablakokat akartam telepíteni, amelyeket már korábban telepítettek. De ez lehetetlennek bizonyult. Mindegyik dupla üvegezésű ablakokat épít. Az emberek sajnos többet csinálnak a kezükkel. Mit kell tennie, így működik az élet. Sajnálatos módon.
Szóval konformista vagy?
- Nem. Úgy gondolom, hogy az abszolút káros dolgok elvégzése nem jó. De ha mind nyereség, mind veszteség van, akkor ki kell értékelnie a kockázatokat … Ha kábítószert készít, akkor nem gondolja, hogy nemcsak jó emberek, hanem rossz emberek is túl fognak élni annak használata következtében.
Esetünkben a technológiák fejlesztésével egyidejűleg be kell vonni azokat, akik ezeket használják. Az új technológiák negatív következményei elsősorban azokra mutatnak rá, akik semmilyen technológiai szinten nem teljesítik jól a munkájukat.
Vegyél például gyógyszert. Segíteni akarunk az orvosnak a döntésben, számítógépes szakértői rendszert készítünk, amely a legjobb orvosok által készített számos megbízható diagnózis elemzésén alapul. Ez lehetőséget ad a szakembereknek arra, hogy nagyobb tudásmennyiséghez forduljanak, mint maga maga. De a végső döntés az ő, nem a számítógép! Egy rossz orvos számára minden más - bízni fog abban, amit nem tud megbízhatóan ellenőrizni. De átlagosan az ilyen technológiák megjelenésével számomra úgy tűnik, hogy a gyógyászat még mindig jobb, nem rosszabb.
Nos, meg voltunk győződve arról, hogy az ember intellektuális rendszeréből fakadó, ha megértjük az embert számítógéppel, inkább haszon, mint károk lesznek. De mikor jelenik meg?
- Ez egy nagyon nehéz feladat, amelyet nem lehet azonnal megoldani. Meg kell tanítani a számítógépes ismereteket a nyelvről és a világ ismeretéről, a következtetési módszerekről és az értékek összehasonlításáról. Valami, amit tudjuk, hogyan kell csinálni, valami évekre telik majd. Például megbízható adatokra van szükségünk a nyelvhasználatról, figyelembe véve az egyéni és társadalmi különbségeket. És ezek a különbségek nagyon jelentősek. Például egy speciális projektet készítettünk az orosz nyelv regionális különbségeire. Összegyűjtött egy szótárat, amelyben csaknem tízezer szó van, ami országunk csak bizonyos régióinak lakosaira jellemző
Kik vagyunk mi?
„Ez egy orosz városok nyelvei nevű közös projekt, amelybe bevonják az ABBYY szakembereit, nyelvtudósokat, Oroszország különböző részeinek és az orosz nyelvű országoknak a rajongóit. Megvizsgáltuk a regionális média, a szociális hálózatok, a rendeletek és a helyi hatóságok döntéseinek nyelvét. És ez csak egy kis része a tudásnak, amelyet meg kell tanítani a számítógépre!
Mi az alapvető különbség a fordítási megközelítés és a Google által használt rendszerek között?
- A statisztikai rendszerek nem építenek nyelvi struktúrákat. Fordítási egyezéseket keresnek az 5-7 szavas kis részletekre. De a nyelv oly módon van elrendezve, hogy nagyon gyakran a kapcsolódó szavak sokkal távolabb találhatók, és ha ezt a kapcsolatot nem veszik figyelembe, hibák merülnek fel. De nagyon gyakran ezek a részletek fontosak a fordításban, amelyek elhanyagolása teljesen megváltoztathatja a jelentését. Annak érdekében, hogy mindent figyelembe lehessen venni, az elemzés során meg kell határozni a szavak közötti nyelvi kapcsolatok teljes rendszerét, az úgynevezett mondat szerkezetét. Nem fordítunk mondatokat egy nyelvből a nyelvre, megpróbáljuk azonosítani a mondat szemantikai szerkezetét, majd ezt a struktúrát egy másik nyelv segítségével szintetizáljuk.
De ezeket a szemantikai struktúrákat nemcsak a gépi fordítás céljára, hanem nem annyira használják. Szükségük van az intelligens keresés és információelemzés problémáinak hatékony megoldására is, amelyek manapság fontosabbak az ABBYY, mint kereskedelmi társaság szempontjából. Például a nemrégiben kiadott első megoldások a vállalati piacra ezen technológiákon alapulnak: ezek csak lehetővé teszik az adatok keresését és elemzését a szervezetekben tárolt hatalmas információáramlás során.
És melyik nyelvet, az Ön véleménye szerint, nehezebb megérteni?
- Általánosan elfogadott, hogy a nehezebb azok a nyelvek, amelyekben több szabályt kell megtanulni. De a számítógépes megértés esetén nem erről van szó.
Valami, ami egy ember számára nehéz, például egy gazdag orosz vagy litván inflexiós rendszer, megkönnyíti a számítógép feladatát az elemzés bizonyos szakaszaiban.
Például a kínai nyelv nagyon nehéz, mert nincs morfológiája, és ennélfogva a számítógép sokféle kétértelműséggel szembesül. Ezért a kínai nyelv számítógépes elemzéséhez nagyon fontos a világgal kapcsolatos ismeretek felhasználása, sokkal fontosabb, mint például a fejlett morfológiájú nyelvek elemzésekor.
Sikerült együtt dolgozni orosz, német, angol, francia, spanyol, kínai nyelven. A nyelvi elemzés szakaszokra oszlik. Egyes szakaszok specifikussággal, nehézségekkel járnak az egyik nyelv, mások a másik szempontjából. De lényegében azok a technológiák, amelyekkel dolgozunk, minden nyelvre alkalmazhatók.
Véleménye szerint mikor lesz a nap, amikor beszélgetésünkkel párhuzamosan gyors és érthető fordítást kapunk a számítógépen. Tegyük fel, hogy most beszélünk, és azonnal megkapjuk a beszélgetésünk átiratát spanyolul?
- Nagyon hamarosan lehetséges. Nem hiszem, hogy két év alatt. De … mi szükséges a probléma megoldásához? Fejlesztenünk kell a beszéd elemző rendszereinket. Még nem tudunk spontán beszélgetést folytatni, elválasztani a zajtól és megkapni a kívánt szöveget. És ebben az irányban minden évben előrelépés történik.
De ugyanakkor lesznek olyan dolgok is, amelyeket a gép nem tud egyértelműen értelmezni. És itt a megértés és a fordítás pontossága függ a világgal kapcsolatos tudásrendszer rendelkezésre állásától, a logikai következtetések mechanizmusától.
De mindenesetre fennáll annak a veszélye, hogy teljes bizalommal bírnak egy ilyen program iránt. Hiba azt gondolni, hogy mondjuk, öt év alatt diktálhat egy levelet egy számítógépnek, lefordítja, elküldi az üzleti partnerének, és minden rendben lesz. Senki sem garantálja, hogy a gép nem fog hiányozni a "nem" valahol, vagy más hibákat követ el, amelyek után az üzleti kapcsolat teljesnek tekinthető.
Vagyis az embernek, mint adatkezelőnek továbbra is kell lennie?
- Természetesen. A technológia vakon történő megbízása veszélyes.