A politikusok és a kapitalisták péntek délután hagyományosan sok hírt dobnak el, hogy elrejtsék a rossz hírt. Tehát kissé furcsa volt, hogy Elon Musk, a Tesla alapítója, az elektromos járművek gyártója, és Sam Altman, a neves tech inkubátor, az Y Combinator elnöke, májusban egy hetes hosszú AI-konferencia legelején mutatták be új, AI témájú cégüket.
Ennek oka volt az OpenAI bevezetése ilyen későn. Nem azért, mert senki nem figyelt. Mert mindenki figyelt. Amikor a Szilícium-völgy egyik legerősebb vállalata érezte, hogy fúj a szél, óriási összegeket kezdtek kínálni az újonnan felvetett OpenAI AI tehetségeknek, hogy otthon tartsák ezeket a zsenieket. Az utolsó pillanatban a javaslatok - amelyek közül néhányat maga a konferencia tett - annyira növekedtek, hogy Musknak és Altmannak el kellett halasztania az új indulás bejelentését. „Az összegek elérték az őrültség szélét” - mondja Wojciech Zaremba, a tudós, aki a Google-on és a Facebook-on végzett gyakorlatok után csatlakozott az OpenAI-hez, és azok között volt, akik 11:00 óráig kaptak nagyobb ajánlatot.
Hány dollár az őrület határa? Két évvel ezelőtt, amikor a legújabb gépi tanulási technológia piaca felforrósodott, Peter Lee a Microsoft kutatási alelnöke azt mondta, hogy a legfontosabb AI kutatók költségei meghaladták a Nemzeti Labdarúgó Liga egyik legjobb hátvédjének költségeit - és ez normál körülmények között, nem akkor, amikor a legjobb vállalkozók A Szilícium-völgy a legjobb tehetségeket próbálja megverni. Zaremba elmondja, hogy amikor az OpenAI összegyűlt, piaci értékének kétszeresére felkínálták.
Az OpenAI nem felel meg ezeknek a javaslatoknak. De felajánlott valami mást: az a képesség, hogy kutatásokat kizárólag a jövőre összpontosítson, nem pedig a termékekre és a negyedéves nyereségre, és végül a kutatás legnagyobb részét - ha nem az egészet - osztja meg bárki között. Így van: Musk, Altman és a társaság azt a célt tűzte ki, hogy odaadja azt, amely a 21. század leginkább átalakító technológiája lehet, és ingyen adja oda.
Zaremba szerint az őrültség küszöbén álló javaslatok valójában elhúzták őt - annak ellenére, hogy óriási tiszteletben tartják azokat a vállalatokat, mint a Google és a Facebook. Úgy érezte, hogy a pénzt az OpenAI létrehozásának megakadályozására irányították, ami tovább erősítette elkötelezettségét a nagylelkű indulás iránt. "Rájöttem - mondja Zaremba -, hogy az OpenAI a legjobb hely számomra."
Érzi az iróniát a történet középpontjában? Miközben a világ legnagyobb technológiai vállalata olyan erősen próbál megtartani kutatóit, ahogy az NFL csapata megpróbálja megőrizni csillagok hátralévő részét, maguk a kutatók csak meg akarják osztani betekintésüket. Az AI kutatás kifinomult világában a legfontosabb elméket nemcsak a következő termékciklus vagy haszon hajtja, vagy pedig egyáltalán nem foglalkoznak velük. Javítani akarják az AI-t, és lehetetlen az AI-t jobbá tenni, ha a legújabb fejleményeket magának tartja.
Az OpenAI nemrégiben kiadta az első AI szoftvercsomagot, egy eszközkészletet a mesterséges intelligencia rendszerek létrehozására, melyeket megerősítő tanulásnak nevezett technológián alapulnak. Ez az egyik kulcsfontosságú technológia, amely az AlphaGo, a Google AI létrehozásához vezetett, amely képességeivel meglepte a világot. go játékok. Ezzel az eszközkészlettel olyan rendszereket építhet fel, amelyek megnyitják a robotok új generációját, játszhatnak Atari játékokat és igen, legyőzhetik a Go világbajnokit.
Promóciós videó:
A játékok azonban csak a kezdet. Az OpenAI egy milliárd dolláros küldetés, hogy az AI-t a lehető legnagyobb mértékben nyomja. Ahogy a társaság összegyűlt és mik a tervei, láthatja a következő új innovációs hullámot. Még nem tudjuk, hogy az OpenAI lesz-e a fő mozgatórugója ezeknek a változásoknak. A meglehetősen szokatlan üzembe helyezés mögött meghúzódó erők azt mutatják, hogy az AI következő generációja nemcsak megváltoztatja a technológiát, hanem a működését is.
A mesterséges intelligencia mindenütt megtalálható
A Szilícium-völgy szenvedélye a túlzás. A merész hangzású kijelentéseket mindig szemcsés sóval kell kielégíteni. A mesterséges intelligencia területén azonban változások történnek. Az olyan cégeken belül, mint a Google és a Facebook, a mély tanulási technológiák már segítik az internetes szolgáltatásokat a fotókon lévő arcok azonosításában, az okostelefonok hangparancsai felismerésében és az internetes keresésekben szereplő kérdések megválaszolásában. Ugyanez a technológia a jövőben sok más problémát is megoldhat. Segíthet a gépeknek megtanulni megérteni a természetes nyelvet - amelyhez mi emberek szoktunk beszélni és írni. Ez elősegítheti a robotok új fajtájának kifejlesztését, lehetővé teszi az automaták számára, hogy ne csak feladataikat elvégezzék, hanem menet közben is tanuljanak. És néhányan úgy vélik, hogy ez végül a gépeknek ad egyfajta józan észt - a képességet arra, hogy valóban úgy gondoljon, mint egy ember.
Az ilyen ígéretekkel együtt mély szorongás születik. Musk és Altman attól tart, hogy ha az emberek képes AI-k létrehozására, amelyek nagy dolgokat csinálnak, akkor képesek olyan AI-kat építeni, amelyek szörnyű dolgokat csinálnak. Nem vannak egyedül a félelmükben. Noha ez ellenérzékenynek tűnik, Musk és Altman is úgy vélik, hogy a rosszindulatú AI elleni küzdelem legjobb módja nem a mesterséges intelligencia elérésének korlátozása, hanem annak kibővítése. Ez az törekvés vezet fiatal és intelligens idealisták csapatához.
Az OpenAI tavaly nyáron egy este megjelent a Szilícium-völgyben lévő Rosewood Hotel privát szobájában, egy előkelő városi szállodában, amely szó szerint a kockázatitőke-kapitalista központjában helyezkedik el. Elon Musk ebédelte Ilya Sutskeverrel, aki akkoriban a Google Brainnál működött, egy mély ideghálózatokat fejlesztő társaságnál - mesterséges intelligencia rendszereknél, amelyeket nagy mennyiségű digitális adat elemzésével képesek feladatok elvégzésére kiképezni, ideértve a fényképek felismerését és e-mailek írását, valamint a levelezésből való tanulást. Suckever volt a projekt egyik vezető fejlesztője.
Ilya Sutskever
Sam Altman, akinek az Y Combinator segített olyan társaságok alakításában, mint az Airbnb, a Dropbox és a Coinbase, közvetítette a találkozót, összehozva több AI kutatót és fiatal, de tapasztalt cégépítőt, Greg Brockman-et, korábban a start-up Stripe technológiai igazgatót, egy másik Y társaságot. kombinátor. Egy eklektikus csoport volt. De mindenkinek volt egy célja: új típusú AI laboratóriumot létrehozni, amely nemcsak a Google, hanem mindenki más felügyeletén kívül is működhetne. „A legjobb, amit kihívásként el tudtam képzelni - mondja Brockman -, hogy az emberiség egy biztonságos úton halad az igazi AI létrehozása felé.”
Musk ott volt az Altmannal való hosszú barátsága miatt - és azért, mert az AI kritikus a különféle vállalkozásainak jövője és a jövő egésze szempontjából. A Teslanak szüksége van AI-re, ha önálló vezetésű autókat akar építeni. A Spaceknek, a Musk másik társaságának, AI-re van szüksége, hogy az embereket űrbe hozza, biztonságban tartsa őket. De Musk az elsők között (és leghangosabban), akik figyelmeztettek arra, hogy az emberiség egy nap elveszítheti az olyan rendszerek irányítását, amelyek elég erősek ahhoz, hogy önmagukban megtanuljanak.
Probléma merült fel: sok ember elegendő képzettséggel rendelkezik ezeknek a problémáknak a megoldására, amelyek már működtek a Google-ban (valamint a Microsoft, a Facebook, a Baidu és a Twitter). És ezen a vacsorán senki sem volt teljesen biztos abban, hogy ezeket a kutatókat egy új induló vállalkozásba lehet csábítani, még akkor is, ha Musk és Altman mögötte vannak. És legalább egy kulcsszereplő kész volt elhagyni a hajót. "Megértettem a kockázatokat" - mondja Suckever -, de azt is tudtam, hogy érdekes lenne kipróbálni."
Megtörni a kört
A Muskussal, Altmannal és másokkal Rosewoodon folytatott beszélgetések ösztönzése alapján Brockman hamarosan úgy döntött, hogy felállítja a laboratóriumot, amelyet mindenki szem előtt tartott. A projekt iránti határozott elkötelezettséggel behozta Yoshua Bengio-t, a montreali egyetemi tudósot és a mélyreható tanulási mozgalom egyik alapítóját. Két másik ipari úttörő - Jeff Hinton és Jan Lecun - a Google-ban és a Facebook-ban dolgoznak, de Bengio a tudományos életben törekedett, valahol az ipari csápok elérhetetlen területein. Vázlatot készített a térség legjobb kutatóinak listájáról, és a következő hetekben Brockman mindenkivel kapcsolatba lépett, aki csak tudott, többivel együtt.
E kutatók közül sokan üdvözölték az ötletet, de vigyáztak az ilyen ugrás lehetőségére. A kört megpróbálva Brockman kiválasztotta a tíz felfedezőt, akit a legjobban szeretne látni, és meghívta őket, hogy szombatot borral, harapnivalókkal és beszélgetéssel töltsék el a Napa-völgy borpincében. Brockman számára a Napa utazása volt a katalizátor a projekt számára. "Ez alulértékelt módon hozza össze az embereket, különösen azokban az időkben, amikor sehova nem kell rohannia a cél elérése érdekében" - mondja. "Menned kell oda, de beszélned kell." És amikor eljuttak a borhoz, az a légkör megmaradt. Mint Suckever mondja: "a bor másodlagos volt a beszélgetéshez".
Greg Brockman
A nap végére Brockman mind a tíz kutatót felkérte, hogy csatlakozzanak a laboratóriumhoz, és három hetet adott számukra a gondolkodáshoz. A ciklus végén kilenc volt a parancsnok. És maradtak benne, a Szilícium-völgy óriásai óriási ajánlatainak ellenére. "Nagyon vonzó ajánlatot kaptam a maradásra, tehát a döntés nem volt könnyű" - mondja Suckever a Google-tól, volt munkáltatója. "Végül úgy döntöttem, hogy az OpenAI-ba megyek, részben a nagyon erős embercsoport és természetesen elsősorban küldetésük miatt."
A mély tanulási mozgalom az egyetemi közösségben kezdődött. Csak a közelmúltban olyan cégek, mint a Google, a Microsoft és a Facebook, úgy döntöttek, hogy foglalkoznak ezzel a területtel, mivel a brutális számítási teljesítmény előrelépése ezeket a mély ideghálózatokat valósággá tette, nem csupán elméleti lehetőséggé. Azok az emberek, mint a Hinton és a LeCune, elhagyták a Google és a Facebook tudományos körzetét, mivel ezeknél a vállalatoknál rengeteg erőforrás áll rendelkezésre. De szorosan összekapcsolódott a terület többi teoretikusával együttműködve. Ugyanakkor, ahogy a LeCun kifejti, a mély tanulás kutatása az ötletek szabad áramlását igényli. "Ha titokban végez kutatást," mondja, "visszaessz".
Ennek eredményeként a nagyvállalatok ma már a madárinfluenzával kapcsolatos kutatásaik nagy részét birtokolják. Ez jelentős ütőkocsi, különösen a Google számára, amely már régóta titokban tartotta online birodalmának technológiáját. Nem olyan régen, a Google megnyitotta a forráskódot annak a szoftvermotornak, amely a neurális hálózatát működteti. De sok a jövőbeni verseny szempontjából továbbra is zárva van és kulcsfontosságú. Brockman, Altman és Musk arra törekszik, hogy tovább tolja a nyitottság fogalmát azzal, hogy nem akarja, hogy egy vagy két nagyvállalat irányítsa a mesterséges intelligencia jövőjét.
A nyitottság korlátai
Minden remekül hangzik. Az OpenAI minden idealizmusa esetén azonban a kutatók ugyanolyan körülmények között találhatják magukat, amelyek arra kényszerítették őket, hogy régi munkákon dolgozzanak. A nyitottságnak megvannak a korlátai. És az AI hosszú távú elképzelése nem az egyetlen érdeklődés ebben a játékban. Az OpenAI nem végez jótékonysági munkát. A Musk társaságai nagyban profitálnak az induló munkából, és az Altman Y Combinatorának is. "Minden bizonnyal vannak versengő pontok - mondja Lecun. - Ez egy nonprofit szervezet, de szoros kapcsolatban áll az Y Combinatorral. És az emberek fizetni fognak ebben az iparágban."
Brockman szerint a laboratórium nem fizet ugyanazt a csillagászati fizetést, mint amelyet a Google és a Facebook biztosított az AI kutatóinak. De azt is kijelenti, hogy a laboratórium „jól fizetni akar nekik”, és részvényopciók formájában nyújt kompenzációt, először az Y Combinatorban, később esetleg a SpaceX-ben (amely a Teslával ellentétben magánvállalat).
Brockman mindazonáltal ragaszkodik ahhoz, hogy az OpenAI ne biztosítson különleges kapcsolatot a kapcsolódó vállalatokkal. Az OpenAI kutatási kezdeményezés, nem tanácsadó cég. Az OpenAI idealizmusának azonban megvannak a korlátai. Lehet, hogy a vállalat nem nyitja meg a kódot mindazért, amit előállít, bár a végső cél továbbra is annak nagy részének terjesztése, legyen szó akár tudományos publikációkról, akár internetes szolgáltatásokról. „A megnyitás nem feltétlenül a legjobb megoldás. Táplálnia kell az ötletet, meg kell néznie, hová vezet, majd közzé kell tennie - mondja Brockman. - Sok nyílt forráskódot fogunk előállítani. De nagyon sok olyan anyagunk lesz, amelyek még nem állnak készen a kiadásra."
Suzkever hozzáteszi azt is, hogy az OpenAI eljuthat munkájának néhány szabadalmazásához. "Nem hamarosan semmit sem szabadalmaztatunk" - mondja Brockman. "De készek vagyunk hosszú távon megváltoztatni a taktikát, ha úgy gondoljuk, hogy jobb lesz a világ számára." Az OpenAI például proaktív szabadalmaztatással tehet szert más szabadalmak megszerzésére.
Egyesek a szabadalmakat a profit motivációjának tekintik. De ez a szabadalmak lényege.
A szuper intelligencia problémája
Amikor Musk és Altman bemutatta az OpenAI-t, szintén felvázolták a projektet a rosszindulatú szuper intelligencia fenyegetésének semlegesítésére szolgáló módszerként. Természetesen az ilyen szuper intelligencia az OpenAI munkájából származhat, ám ragaszkodnak ahhoz, hogy minden veszélyt enyhíteni kell, ha a technológiát mindenki számára elérhetővé teszik. "Úgy gondoljuk, hogy sokkal valószínűbb, hogy sok AI megállíthatja a véletlenszerű rossz szereplőket" - mondja Altman.
De ezen a téren nem mindenki hisz ilyen eredményben. Nick Bostrom, egy oxfordi filozófus, aki Muskhoz hasonlóan figyelmeztette az AI veszélyeire, rámutat arra, hogy ha korlátozás nélkül osztja meg kutatását, akkor a "rossz szereplők" el tudják kapni őket, mielőtt mindenki meggyőződne arról, hogy biztonságban vannak. "Ha van egy gombja, amely szégyenteljesvé teszi a világot," mondja Bostrom, "valószínűleg nem akarja, hogy mindenki hozzáférjen ehhez." Ha viszont az OpenAI úgy dönt, hogy visszatartja a kutatást, hogy megakadályozza a rossz fiúk hozzáférését, a Bostrom azt kérdezi: miben különbözik ez a Google-tól vagy a Facebook-tól?
Igen, az OpenAI nonprofit státusza változtathat vagy változtathat meg a dolgokon. A projekt igazi ereje, azt mondja, az, hogy a Google és a Facebook igazolható. „Ez csökkenti annak valószínűségét, hogy a szuper intelligencia monopolizálódik. Ez képes lesz eltávolítani azon lehetséges okok egyikét, amelyek miatt egyes személyek vagy csoportok jobb hozzáférést kapnak az AI-hez, mint mások."
Egy nemrégiben írt munkájában a filozófus kifejti, hogy az OpenAI-hoz hasonló kezdeményezés - az a cselekvés szabad megosztására irányuló kezdeményezés - legfontosabb hatása a mesterséges intelligencia haladásának felgyorsítása, legalább rövid távon. És hosszú távon felgyorsíthatja az előrehaladást, feltéve, hogy a kereskedelem szempontjából optimálisnál magasabb szintű átláthatóságot tartanak fenn.
"Lehet, hogy a jótékonysági indíttatású K + F befektető komolyan felgyorsíthatja az előrehaladást nyílt tudományos politikák végrehajtásával" - mondja.
Hogyan Xerox PARC
Január elején Brockman kilenc kutatója gyűlt össze San Francisco-i lakásában. A projekt annyira új volt, hogy még faliújságuk sem volt. (Képzelje el.) Ugyanazon a napon vásároltak néhányat, és dolgoztak.
Brockman szerint az OpenAI a megerősítéses tanulás, a gépi alapú tanulási problémák feltárásával kezdődik, ezeket újra és újra megismételve, megfigyelve, hogy mely módszerek eredményezik a legjobb eredményt. Egy másik nagy kihívás az úgynevezett "felügyelet nélküli tanulás" - olyan gépek létrehozása, amelyek emberi segítség nélkül valóban öntanulhatnak. Manapság a mély tanulás a gondosan címkézett adatoktól függ. Ha meg akarja tanítani egy ideghálózatot a macskák fényképeinek felismerésére, akkor bizonyos példákat be kell nyújtania - ezeket a példákat macskafotóként kell felcímkézni. Az ilyen képzést emberek segítségével végzik. De sok más tudóshoz hasonlóan, az OpenAI olyan neurális hálózatok felépítését tervezi, amelyek megtanulhatók az adatok gondos kiválasztása nélkül.
„Ha igazán jó tanítási módszertana van tanár nélkül, akkor a gépek az interneten található összes ismeretből - mint egy ember, csak körülnézve - vagy könyveket olvasva tanulhatnak” - mondja Brockman.
Az OpenAI-t a Xerox PARC, az 1970-es években létező technológiai kutatólaboratórium modern inkarnációjának tekinti. Ahogyan a PARC nyílt és ingyenes kutatása mindent meghozott a grafikus felhasználói felületektől és a lézernyomtatástól az objektum-orientált programozásig, Brockman és csapata azt akarja, hogy belemerüljön a tudományos fantasztikus művekbe. A PARC a Xerox tulajdonában volt, de sok más vállalat, köztük az Apple kezébe táplálták, mert Steve Jobs, mint például az emberek üdvözölték a kutatását. Brockman azt akarja, hogy mindenki üdvözölje az OpenAI kutatást.
Annak reményében, hogy elrejti ezt a dinamikát, Brockman és a cég számos más figyelemreméltó kutatót toborzott, köztük Ian Goodfellow, a Google Brain csapata másik vezető kutatója. Brockman szerint a PARC alapvetően egy csomó okos embert vett össze, és úgy döntött, hogy megnézi, mi történt. "Közös irányításra van szüksége központi ellenőrzés nélkül."
Az ellenőrzés hiánya elengedhetetlen az ideálhoz. Ha elegendő embert vonz be a kollektív célba, akkor a végeredmény nyer minden, amit titokban főzött. De ha az AI olyan hatalmas lesz, mint ígérte, akkor az egyenlet megváltozik. Biztosításra van szükségünk, hogy az újonnan alapított AI ugyanazokat az egalitárius eszményeket fogja követni, amelyek elsősorban létrehozásához vezettek. Musk, Altman és Brockman hisznek az emberekben, a tömegben. És ha igazságossá válnak, ez a tömeg egy nap nem lesz teljesen ember.
ILYA KHEL