2010. augusztus egyik estén egy 34 éves londoni Demis Hassabis nevû konferencia terem a színpadon a San Francisco-öböl térségében. Az idegeit uralkodó ember gyengéd járásával felmászott a dobogóra, és röviden mosolygott az ajkaira: - Nos, ma a teremtés különböző megközelítéseiről akarok beszélni … ". Megállt, mintha rájött volna, mennyire hangosan hirdeti ambícióit. És azt mondta: "AGI".
Az AGI az Általános Mesterséges Intelligencia kifejezést jelenti, amely egy hipotetikus számítógépes program, amely intellektuális feladatokat képes elvégezni akár emberben, akár még jobban. Az AGI képes lesz olyan speciális feladatokat végrehajtani, mint például az emberek fényképeken történő felismerése vagy nyelvek fordítása, amelyek jelenleg számos különféle mesterséges intelligenciát képesek végrehajtani telefonjainkban és számítógépeinkben. Képesek lesznek párbeszédet folytatni, sakkozni és franciául beszélni. Képes lesz megérteni a fizikai könyveket, regényeket írni, befektetési stratégiákat kidolgozni és alkalmi beszélgetést folytatni az idegenekkel. Figyelemmel kísérik a nukleáris reakciókat, irányítják az energiahálózatokat és a forgalmat, és minden másban könnyedén sikerrel járnak. Az AGI ma a legfejlettebb AI-t zsebszámológépekké fogja kinézni.
Az egyetlen intellektus, amely jelenleg képes végrehajtani ezeket a feladatokat, az embereké. De az emberi elmét korlátozza az agyat koponya mérete. Teljesítményét korlátozza az a kis energiamennyiség, amelyet a test képes biztosítani. Mivel az AGI számítógépeken fog futni, nem fogja szenvedni ezek a korlátozások. Intelligenciáját csak a rendelkezésre álló processzorok száma korlátozza. Az AGI a nukleáris reakciók megfigyelésével kezdheti meg. De hamarosan új energiaforrásokat fedez fel, másodpercenként több fizikai munkát emészt fel, mint egy ember ezer év alatt képes. Az emberi szintű intelligencia, amelyet a számítógépek sebessége és méretezhetősége támasztanak alá, meg fog menteni a bajt. Hassabis azt mondta a brit Observer brit újságnak, hogy elvárja az AGI-tól, hogy több tudományág mellett foglalkozzon olyan problémákkal, mint például a „rák,éghajlatváltozás, energia, genomika, makroökonómia és pénzügyi rendszerek.
A konferencia, amelyen Hassabis beszélt, a Singularity Summit volt. A szingularitás - a név első része - a futurológusok szerint az AGI megjelenésének valószínűbb következményeire utal. Mivel az AGI nagy sebességgel dolgozza fel az információkat, nagyon gyorsan nagyon intelligens lesz. A gyors önfejlesztési ciklusok a gépi intelligencia robbantásához vezetnek, és az emberek a szilíciumport szippanthatják. Mivel ez a jövő kizárólag ellenőrizetlen feltételezéseken alapul, szinte vallásosan feltételezik, hogy a szingularitás utópiának vagy pokolnak bizonyul.
A felszólalások címe alapján ítélve a konferencia résztvevői inkább az első eredményben hittek: „Elme és hogyan építjük fel”, „AI az öregedés ellen”, „A testünk pótlása”, „Az élet és a halál közötti határ módosítása”. Hassabis beszéde ezzel szemben unalmasnak tűnt: "A szisztémás idegtudományi megközelítés az AGI létrehozásához."
Hassabis a dobogó és a képernyő között mozogott, és próbálkozva beszélt. Bordó ugrót és fehér gombos inget viselt, mint egy iskolás fiú. Kis arca csak úgy tűnt, hogy hangsúlyozza intelligenciáját. Eddig - magyarázta Hassabis - a tudósok két oldalról fordultak az AGI-hez. Az egyik, szimbolikus AI néven ismert megközelítés megkísérelte leírni és programozni az olyan szabályokat, amelyek szükségesek egy olyan rendszerhez, amely emberként gondolkodhat. Ez a megközelítés népszerű volt az 1980-as és 1990-es években, de nem hozta meg a kívánt eredményeket. Hassabis úgy gondolta, hogy az agy mentális felépítése túl finom ahhoz, hogy így lehessen leírni.
Egy másik megközelítés összehozta a tudósokat, akik megpróbálták digitálisan megismételni az agy fizikai hálózatait. Bizonyos értelme volt. Végül is az agy az emberi intelligencia ágya. De ezek a kutatók szintén rossz úton haladtak - mondta Hassabis. Feladatuk az volt, hogy az univerzum összes csillagának térképét elkészítsék. Mélyebben a középpontban az agy rossz működési szintjére koncentráltak. Olyan volt, mintha megpróbálnánk kitalálni, hogyan működik a Microsoft Excel, ha betörünk egy számítógépbe, és megtanuljuk, hogyan működnek a tranzisztorok.
Ehelyett Hassabis középteret kínált: az AGI-nek az agy által az információ feldolgozása széles körű útján kell ösztönöznie ihletet, nem pedig a fizikai rendszerekből vagy a speciális szabályokból, amelyeket az adott helyzetekre alkalmaz. Más szavakkal, az agy szoftverének megértésére kell összpontosítania, nem pedig annak hardverére. Az új technikák, például a funkcionális mágneses rezonancia képalkotás (fMRI), amelyek lehetővé tették az agy bepillantását működésük során, utaltak arra, hogy ilyen megértés lehetséges. A Hassabis szerint a legfrissebb tanulmányok azt mutatják, hogy az agy megtanulja alvás közbeni tapasztalatainak megismételésével az általános alapelvek feltárására. Az AI kutatóknak emulálniuk kell egy ilyen rendszert.
Promóciós videó:
A nyitó csúszda jobb alsó sarkában egy kerek kék örvény alakú logó lóg. A mellette lévő két szót az alábbiak nyomják: DeepMind. Ez volt az első alkalom, amikor a társaságot nyilvánosan említik. Hassabis több mint egy évet töltött azzal, hogy meghívást kapjon a Singularity Csúcstalálkozóra. Az előadás volt a borítója. Valójában egy percre volt szüksége Peter Thiel-rel, a Szilícium-völgy milliárdosával, aki finanszírozta a konferenciát. Hassabis Thiel befektetését akarta.
Hassabis soha nem beszélt arról, hogy miért van szüksége Thiel támogatására. De Thiel még inkább hitt az AGI-ben, mint a Hassabisban. A 2009-es szingularitási csúcstalálkozón Thiel kijelentette, hogy a jövőtől való legnagyobb félelme nem robot felkelés. Jobban aggódott, hogy a szingularitás nem hamarosan jön létre. A világnak új technológiákra volt szüksége a gazdasági visszaesés elkerülésére.
A DeepMind 2 millió fontot hozott, ebből Thiel 1,4 millió volt. Amikor a Google 2014. januárban 600 millió dollárért vásárolta meg a társaságot, Thiel és más korai befektetők 5000% -os hozamot kapták meg befektetésükből.
Sok alapító számára ez boldog vége lenne. Pihenhet, léphet hátra, egyedül tölthet időt pénzzel. A Hassabis számára a Google-akvizíció csak egy újabb lépés az AGI iránti törekvéseiben. 2013 nagy részét az üzlet feltételeinek tárgyalásán töltötte. A DeepMind-nek külön kellett működnie a tulajdonosától. A Google tulajdonjogának előnyeit kellett megszereznie, például a pénzeszközökhöz és a számítási teljesítményhez való hozzáférést anélkül, hogy elvesztette volna az irányítást.
Hassabis úgy gondolta, hogy a DeepMind hibridré válhat: induló motorral, a legnagyobb egyetemek agyával és a világ egyik legértékesebb vállalatának mély zsebével rendelkezik. Minden összetevő a helyén volt, hogy felgyorsítsa az AGI érkezését és kiküszöbölje az emberi szenvedés okait.
Hu Mr. Hassabis-től
Demis Hassabis észak-londoni 1976-ban született egy ciprusi görög és szingapúri születésű kínai családban. Három testvér volt a legidősebb. Anyja a John Lewis brit áruházban dolgozott, apja pedig játékboltot üzemeltetett. Hassabis négyéves korában kezdett el sakkozni, figyeli az apját és a nagybátyját. Néhány hét múlva már verte a felnőtteket. 13 éves koráig korává vált a világ második legjobb sakkjává. Nyolc éves korában megtanulta programozni egy egyszerű számítógépen.
Hassabis 1992-ben, két évvel korábban szerezte meg felsőfokú végzettségét. Állást kapott videojáték-programozóként a Bullfrog Productions-nál. A Hassabis a Tematikus Parkot írta, amelyben a játékosok virtuális vidámparkot hoznak létre és kezelnek. A játék nagy siker volt és 15 millió példányban jött el, és létrehozták a szimulációs játékok teljes műfaját, amelynek célja nem az ellenség legyőzése volt, hanem egy hatalmas komplex rendszer, például egy üzlet vagy egy város működésének optimalizálása.
A játékok készítése mellett Demis jól játszotta őket. Tinédzserként a padló között futott társasjátékversenyekön, míg a sakk, a scrabble, a póker és a backgammon párbajaiban versenyez. 1995-ben, miközben a Cambridge-i Egyetemen számítógépes ismereteket tanult, Hassabis a hallgatói versenyen vett részt. A Go egy ősi stratégiai társasjáték, amely lényegesen nehezebb, mint a sakk. A mesterképzéshez sokéves tapasztalat alapján megszerzett intuíciót kell igényelnie. Senki sem tudta, hogy Hassabis valaha is játszott-e a Go-nál.
Először a Hassabis nyerte a kezdő bajnokságot. Ezután legyőzte a tapasztalt játékosok győztesét, bár hátrányos helyzetben. Charles Matthews, a cambridge-i mester, aki otthont adott a versenynek, emlékeztet arra a sokkra, hogy egy 19 éves újonc elpusztította. Matthews szárny alá vette Hassabist.
A Hassabis intelligenciája és ambíciója mindig is nyilvánvaló volt a játékokban. A Games viszont újra felidézte az intelligencia iránti szenvedélyét. Amikor figyeli a sakk fejlődését, azon tűnődött, vajon programozhatók-e a számítógépek ugyanúgy, mint a tapasztalatok megszerzése útján. A játékok olyan tanulási környezetet kínáltak, amely nem igazodott a való világhoz. Szigorúak és zártak voltak. Mivel a játékok elkülönülnek a való világtól, beavatkozás nélkül gyakorolhatók és hatékonyan megtanulhatók. A játékok felgyorsítják az időt: a játékosok néhány napon belül bűncselekményt hoznak létre, és pár percig harcolnak a Somme-on.
1997 nyarán Hassabis Japánba utazott. Az év májusában az IBM Deep Blue számítógépe legyőzte Garry Kasparovot, a sakk világbajnokát. Első alkalommal egy számítógép megverte a nagymestert. A mérkőzés világszerte felhívta a figyelmet, és aggodalmakat vet fel a számítógépek növekvő ereje és potenciális veszélye miatt. Amikor Hassabis találkozott Masahiko Futszuverával, egy japán társasjátékmesterrel, olyan tervekről beszélt, amelyek ötvözik érdeklődését a stratégiai játékokban és a mesterséges intelligenciában: egy nap számítógépes programot fog kidolgozni a legnagyobb go-játékosok legyőzésére.
Hassabis módszeresen közelítette meg karrierjét. "Hassabis 20 éves korában úgy gondolta, hogy bizonyos dolgoknak helyben kell lenniük, mielőtt a mesterséges intelligencia eljuthat a szükséges szintre" - mondja Matthews. "Terve volt."
1998-ban alapította saját játékstúdióját, Elixir néven. Hassabis egy rendkívül ambiciózus játékra, a Republic: The Revolution-ra összpontosított, amely egy komplex politikai szimuláció. Néhány évvel korábban, még az iskolában, Hassabis azt mondta barátjának, Mustafa Suleimannak, hogy a világnak grandiózus szimulációkra van szüksége az összetett dinamika modellezéséhez és a legösszetettebb társadalmi problémák megoldásához. Most megpróbálta megtenni a játékban.
A vártnál nehezebb volt törekvéseit kódolni. Az Elixir végül kiadta a játék lecsupaszított változatát, hogy meleg véleményt kapjon. Más játékok kudarcot valltak. 2005 áprilisában a Hassabis bezárta az Elixirt. Matthews úgy véli, hogy a Hassabis egyszerűen azért alapította a társaságot, hogy vezetői tapasztalatokat szerezzen. Hassabisnak csak egy fontos szakterülete hiányzott, mielőtt megkezdte volna az AGI keresésére irányuló törekvését. Meg kellett értenie az emberi agyat.
2005-ben Hassabis doktori fokozatot kapott a londoni University College-ban idegtudományi doktori fokozaton. Kiadott egy nagy befolyással bíró tanulmányt a memóriáról és a képzeletről. Az egyik tanulmány, amelyet azóta több mint 1000 alkalommal idéztek, kimutatta, hogy az amnéziás embereknek is nehéz elképzelni az új tapasztalatokat, jelezve az összefüggést az emlékezés és a mentális képek létrehozása között. Hassabis felépítette az AGI elsajátításához szükséges agy megértését. Munkájának nagy része egy kérdésre vezethető vissza: Hogyan fogadja és tartja meg az emberi agy az elképzeléseket és a tudást?
A Hassabis 2010. november 15-én hivatalosan megalapította a DeepMind-et. A társaság küldetése ugyanaz volt, mint most: „oldja meg az intelligenciát”, majd ezt felhasználja minden más megoldására. Mint Hassabis elmondta a szingularitás csúcstalálkozón, ez azt jelenti, hogy megértjük annak megértését, hogy az agy hogyan hajtja végre a feladatokat, szoftverre, amely ugyanazokat a módszereket képes tanítani.
A Hassabis egyáltalán nem állítja, hogy a tudomány teljesen megértette az emberi elmét. Az AGI végrehajtásának tervét több száz idegtudományi tanulmányból lehetetlen volt megtanulni. De egyértelműen úgy véli, hogy teljesen lehetséges az AGI-vel foglalkozni, az őt vonzó módon. Ugyanakkor az is lehetséges, hogy magabiztossága megüti a valóságot. Még mindig nagyon keveset tudunk arról, hogyan működik az agy. 2018-ban egy ausztrál kutatócsoport megkérdőjelezte Hassabis saját megállapításait. Természetesen ez csak egy dokumentum, de azt mutatja, hogy a DeepMind munkája mögött meghúzódó tudomány messze nem bizonyított.
Suleiman és Shane Legg, az AGI megszállott új-zélandi állampolgárai, akikkel Hassabis szintén találkozott az egyetemen, társalapítókként csatlakoztak. A cég hírneve gyorsan növekedett. Hassabis virágzott. "Úgy vonzza, mint egy mágnes" - mondja Ben Faulkner, a Deep Mind volt ügyvezetője. Sok toborzott Európából származik. A DeepMind talán legnagyobb sikere az volt, hogy tehetséges embereket aktívan toboroztunk korábban, és megőriztük legfényesebb és legjobbaikat.
Az egyik gépi tanulási technikára, amelyre a vállalat összpontosított, Hassabis kettős szenvedélye a játékok és az idegtudomány terén: az erõsítés tanulása. Egy ilyen program célja a környezettel kapcsolatos információk összegyűjtése, majd azokból való tanulás, újra és újra megismételve tapasztalatait - ugyanúgy, ahogy Hassabis az Singularity Summit előadásában az alvás közbeni agyi tevékenységeket ismertette.
A megerősítéses tanulás egy tiszta pala segítségével kezdődik. A program virtuális környezetet mutat, amelyről a szabályok kivételével semmit sem tud, például sakk-szimulátor vagy videojáték. A program legalább egy olyan összetevőt tartalmaz, amelyet neurális hálózatnak neveznek. A számítási struktúrák rétegeiből áll, amelyek információkon át szitálódnak az egyedi jellemzők vagy stratégiák azonosításához. Mindegyik réteg a saját absztrakciós szintjén vizsgálja a környezetet. Eleinte ezeknek a hálózatoknak csak minimális sikere van, de hibáikat - és ez fontos - be is kódolják. Fokozatosan intelligensebbé és intelligensebbé válnak, különféle stratégiákkal kísérleteznek és jutalomban részesülnek, ha sikerrel járnak. Ha a program mozgatja a sakkot, és ennek eredményeként elveszíti a játékot, akkor nem fog ilyen hibát megismételni. A mesterséges intelligencia varázslatának nagy része abban a sebességben rejlik, amellyel megismétli ezeket a feladatokat.
A DeepMind munkája 2016-ban érte el a csúcspontját, amikor a csapat kifejlesztett egy mesterséges intelligencia programot, amely megerősítő tanulást és más játékmódszereket használt. Az AlphaGo nevű program felvonta a szemöldökét, miután 2016-ban Szöulban egy ötjátékos mérkőzésen megverte a világbajnokot. A gép győzelme, amelyet 280 millió ember figyelt, tíz évvel korábban történt, mint ahogy a gépek előre jelezték. A következő évben az AlphaGo továbbfejlesztett verziója legyőzte a kínai Go bajnokot.
Mint a Deep Blue-ban 1997-ben, az AlphaGo megváltoztatta az emberi teljesítmény érzékelését. Az emberi bajnokok, a bolygó ragyogó elméi már nem álltak az intellektuális piramis tetején. Majdnem 20 évvel azután, hogy Hassabis bejelentette ambícióit Fuzuvere felé, ezeket teljesítette. Hassabis azt mondta, hogy ez a meccs könnyekbe hozta. Hálás volt Matthewsnak.
A DeepBlue a nyers erőnek és a számítási sebességnek köszönhetően nyert, de az AlphaGo stílusa művészinek tűnt, szinte emberiesnek. Elegánssága és kifinomultsága, valamint a számítástechnikai hatalom fölénye azt mutatta, hogy a DeepMind megelőzte a versenyt egy olyan program létrehozásában, amely képes a betegségek gyógyítására és a városok kezelésére.
DeepMind és mesterséges intelligencia
Hassabis mindig is azt mondta, hogy a DeepMind jobbá fogja változtatni a világot. Az AGI vonatkozásában azonban nincs bizonyosság. Ha valaha is megjelenik, nem tudjuk, jobb vagy rosszabb lesz-e, ha alárendel-e az emberi irányításnak. Ha igen, ki fogja tartani a gyeplőt?
A kezdetektől kezdve Hassabis megpróbálta megvédeni a DeepMind függetlenségét. Mindig ragaszkodott ahhoz, hogy a DeepMind Londonban maradjon. Amikor a Google 2014-ben megvásárolta a céget, az ellenőrzés kérdése sürgetőbbé vált. A Hassabisnak nem kellett eladnia a DeepMind-et a Google-nak. Elegendő készpénzzel tartva vázolt egy üzleti modellt, amelyben a társaság játékokat fejleszt a kutatás finanszírozására. Nagyon sok pénzt ígértek a Google-nak, de nem akarta átadni az általa felvetett társaságot. Az üzlet részeként a DeepMind megállapodást kötött, amely megakadályozná a Google-t abban, hogy egyoldalúan átvegye az irányítást a vállalat szellemi tulajdonában. A felvásárláshoz vezető évben a források szerint mindkét fél megállapodást írt alá - az etikai és biztonsági megállapodást. Ezt a megállapodást London vezető ügyvédei készítették.
A megállapodás átruházza az AGI DeepMind alaptechnológiájának irányítását, ha van ilyen, az etikai igazgatótanácsra. Ugyanezen forrás szerint az Etikai Tanács egyáltalán nem a Google kozmetikai engedménye, hanem szilárd jogi támogatást nyújt a DeepMind számára annak legértékesebb és potenciálisan legveszélyesebb technológiájának ellenőrzése érdekében. A biztosok nevét nem tették közzé, de a DeepMind és a Google közelében egy másik forrás szerint a DeepMind mindhárom alapítója az igazgatótanácsban van. Maga a társaság semmit nem tesz közzé.
A Hassabis más módon is meghatározhatja a DeepMind sorsát. Az egyik az odaadás. A volt és a jelenlegi alkalmazottak szerint a Hassabis kutatási programja a DeepMind egyik legnagyobb erőssége. Programja, amely izgalmas és fontos munkát kínál az akadémia nyomása nélkül, a világ legtehetségesebb szakembereinek százaira hívta fel a figyelmet. A DeepMind leányvállalatai Párizsban és Albertben vannak. Sok alkalmazott jobban kapcsolódik a Hassabishez és küldetéséhez, mint a vállalati szülőhöz, aki csak jövedelemre vágyik. Mindaddig, amíg Hassabis fenntartja a személyes hűségét, jelentős hatalma van egyedüli részvényese felett. Inkább hagyja, hogy a tehetség távolról működjön a DeepMind számára, mint a Facebookon vagy az Applen.
A DeepMindnek van egy másik tőkeáttételi forrása, bár folyamatos feltöltést igényel: kedvező halo. A társaságnak sikerült ebben. Az AlphaGo nagyszerű reklám volt. A Google megvásárlása óta a vállalat többször csodákat készített, amelyek világszerte felkeltették a figyelmet. A szoftverek egyik példája képes felismerni a szkennelési mintákat, amelyek a makula degenerációját jelzik. Egy másik program megtanult sakkot játszani a semmiből, az AlphaGo-hoz hasonló architektúrát használva, és mindössze kilenc órás játék után minden idők legnagyobb játékossá vált. 2018. decemberében az AlphaFold pontosabbnak bizonyult, mint a versenytársak, a fehérjék háromdimenziós szerkezetének előrejelzésében olyan vegyületek listájából, amelyek potenciálisan kezelhetnek olyan betegségeket, mint például a Parkinson-kór és az Alzheimer-kór.
A DeepMind különösen büszke az általa kifejlesztett algoritmusokra, amelyek kiszámítják a Google adatközpontok leghatékonyabb hűtési megoldásait, amelyek megközelítőleg 2,5 millió számítógépes szervert tartalmaznak. 2016-ban a DeepMind szerint 40% -kal csökkentette a Google villamosenergia-számláját. Néhány bennfentes szerint azonban ez a dicsekedés túlzott. A Google jóval azelőtt, hogy a DeepMind jött, algoritmusokat használt az adatközpontok optimalizálására. Úgy gondolják, hogy a DeepMind túlbecsüli érdemeit, hogy értéket szerezzen az ábécé szemében. A Google anyavállalata, az Alphabet fizet a DeepMind-nek a hasonló szolgáltatásokért. Ez utóbbi 2017-ben 54 millió font számlát kiállított az Alphabet számára. Ezek a számok halványak, mint a DeepMind fölött. Ugyanebben az évben 200 millió fontot költött a személyzetre. Általában,2017-ben a DeepMind 282 millió fontot veszített el.
Ez egy cent egy gazdag óriás számára. Más ábécé leányvállalatai azonban felhívták a figyelmet Ruth Porat, az Alphabet bántó pénzügyi igazgatójára. Az internetszolgáltató felépítésére tett kísérletet a Google Fiber-re felfüggesztették, miután világossá vált, hogy a beruházás évtizedekig fog igénybe venni. Az AI kutatói azt is kíváncsi, hogy a DeepMind csavarozásra kerül-e.
A DeepMind AI fejlődésének fokozatos ismertetése egy olyan stratégia része, amely fokozatosan épít a cég hírnevére. Ez különösen akkor értékes, amikor a Google-t azzal vádolják, hogy megsértette a felhasználói adatvédelmet és hamis híreket terjesztett. A DeepMindnek is szerencséje van, hogy a legmagasabb szintű támogatója legyen: Larry Page, a Google egyik alapítója, most az Alphabet vezérigazgatója. Paige nagyon közel van Hassabishoz. Page apja, Karl az ideghálózatokat az 1960-as években tanulmányozta. Karrierje elején Page azt mondta, hogy kizárólag azért hozott létre Google-t, hogy egy AI-társaságot alapítson.
A DeepMind sajtó szoros ellenőrzése nem felel meg a társaságot átélő tudományos szellemnek. Egyes tudósok panaszkodnak, hogy munkájukat nehéz közzétenni: át kell küzdeniük a belső jóváhagyás rétegeit, mielőtt még egy dokumentumot benyújthatnak egy konferenciára vagy folyóiratra. A DeepMind szerint óvatosan kell eljárni, hogy ne ijedjen meg a közönség az AGI kilátásában. A túlságosan szigorú vádak tönkretehetik az akadémiai légkört és gyengíthetik a munkavállalók lojalitását.
Öt évvel a Google felvásárlása után kritikus jelentőségűvé válik a DeepMind irányítójának kérdése. A társaság alapítói és korai alkalmazottai megközelítik azt a küszöböt, amikor el tudnak lépni a társaság megvásárlásából kapott pénzügyi kompenzációval (a Hassabis részvényei valószínűleg mintegy 100 millió fontot érnek el). A társasághoz közeli forrás azonban azt sugallja, hogy az Alphabet évek óta visszakapta a kifizetéseket az alapítóknak. Tekintve könyörtelen figyelmét, Hassabis valószínűleg nem ugrik le a hajóról. A pénzt csak annyira érdekli, amennyire csak segít egész élete céljának elérésében. De néhány kollégám távozott. Három AI mérnök távozott a társaságból 2019 eleje óta. Ben Laurie, a világ egyik legkiválóbb biztonsági mérnöke, visszatért a Google-hoz. Ez természetesen nem sokDe a DeepMind olyan lenyűgöző küldetést és tisztességes fizetést kínál, hogy senki sem hagyhatja el.
A Google eddig nem igazán zavarta a DeepMind-et. Az egyik legújabb fejlemény azonban aggodalmakat vetett fel azzal kapcsolatban, hogy a társaság mennyire képes megőrizni függetlenségét.
DeepMind, orvostudomány és mesterséges intelligencia
A DeepMind mindig tervezte, hogy az AI-t használja az egészségügy javításához. 2016 februárjában létrehozták a DeepMind Health új részlegét, amelyet Mustafa Suleiman vezet, a társaság egyik alapítója. Suleiman, akinek az anyja nővér volt, remélt, hogy Streams nevű programot hoz létre, amely figyelmezteti az orvosokat, ha a beteg egészsége romlik. A DeepMind a metrikák alapján kerül jutalmazásra. Mivel ez a munka megkövetelte a bizalmas betegtájékoztatáshoz való hozzáférést, Suleiman felállított egy független felülvizsgálati panelt (IRP), amely jó angol egészségügyi és technológiai szakembereket toborzott. A DeepMind elég bölcs volt ahhoz, hogy óvatos legyen. Ezt követően a brit információs biztos rájött, hogy az egyik kórházi partner megsértette a törvényt a betegek adatainak feldolgozása során.2017 végére azonban Suleiman megállapodásokat írt alá négy nagyobb kórházzal.
2018. november 8-án a Google bejelentette saját egészségügyi részlegének - a Google Health létrehozását. Öt nappal később bejelentették, hogy a DeepMind Health csatlakozik az anyavállalat erőfeszítéseihez. A DeepMind programot nem figyelmeztették. Az FOI kéréseiből beszerzett információk szerint csak három nappal korábban értesítette a partnerkórházat a változásról. A DeepMind nem volt hajlandó nyilvánosságra hozni, amikor megkezdődtek az összefonódással kapcsolatos viták, de azt mondta, hogy az értesítés és a nyilvános bejelentés közötti rövid idő az átláthatóság érdekében áll. 2016-ban Suleiman azt írta, hogy "a beteg adatait soha nem fogják társítani a Google-fiókokhoz, termékekhez vagy szolgáltatásokhoz". Úgy tűnt, hogy megsértette az ígéretét.
A Google melléklete feldühítette a DeepMind Health alkalmazottait. Az egészségügyi csapathoz közeli emberek szerint több alkalmazott tervezi elhagyni a társaságot, miután az átvételi folyamat befejeződött.
Ez az epizód azt mutatja, hogy DeepMind munkájának perifériás részei veszélyeztetettek a Google számára. A DeepMind kijelentette: "Mindannyian egyetértettünk abban, hogy értelme van ezeket az erőfeszítéseket egyetlen együttműködési erőfeszítésként egyesíteni a megnövekedett erőforrásokkal". Felmerül a kérdés, vajon a Google ugyanazt a logikát fogja-e alkalmazni DeepMind AGI-munkájára.
Széles körben a DeepMind nagy lépéseket tett. Már olyan szoftvert is készített, amely megtanulhatja feladatok végrehajtását emberfeletti szinten. A Hassabis gyakran utal a Breakout-ra, az Atari konzol videojátékára. A játékos irányítja a denevér mozgását, amely vízszintesen mozoghat, és segítségével a labdákat visszapattanja, a fenti blokkokba irányítva, amelyek ütközéskor elpusztulnak. A játékos nyer, ha az összes blokkot elpusztítják. Elveszíti, ha a labda esik a peron felett. Emberi utasítások nélkül a DeepMind nemcsak megtanulta a játékot, hanem a blokkok mögött is dobott labdákat az űrbe, hogy kihasználják a visszapattanást. Ez demonstrálja a megerősítő tanulás és a DeepMind számítógépes programjainak természetfeletti erejét.
A demonstráció minden bizonnyal lenyűgöző. De Hassabis hallgat valamit. Ha a virtuális platform még kissé magasabbra van emelve, a program hibát fog okozni. A DeepMind által megszerzett készség annyira korlátozott, hogy nem képes reagálni a környezet apróbb változásaira sem, amelyeket az ember könnyen legyőzhet. De sok finomság van a világon. A diagnosztikai intelligencia szempontjából nincs két testszerv egyforma. A mechanikus intelligencia érdekében két hasonló motor soha nem lesz azonos a tuningban. Ezért nehéz a programok vadonba juttatása.
A második, amelyről a DeepMind ritkán beszél, az, hogy a virtuális környezetben a siker egy jutalmazási funkciótól függ: egy olyan jeltől, amely lehetővé teszi a szoftver számára, hogy mérje előrehaladását. A program megtanulja, hogy a hátsó falról való visszapattanás növeli a pontszámát. A DeepMind és az AlphaGo munkájának nagy része olyan jutalmazási funkció létrehozása volt, amely kompatibilis egy ilyen összetett játékkal. Sajnos a való világ nem kínál egyszerű jutalmat. Az előrehaladást ritkán mérik az egyes pontokban. Az emberi agy jelet kap a feladat sikeréről a végrehajtás folyamatában, nem pedig azt követően.
A DeepMind kitalálta, hogyan lehetne ezt megkerülni hatalmas mennyiségű feldolgozási teljesítmény felhasználásával. Az AlphaGo az emberek évezredeinek ideje óta játszik játékkal, hogy megtanuljon valamit. Sok AI filozófus szerint ez a megoldás elfogadhatatlan azoknál a feladatoknál, amelyek gyengébb jutalmat kínálnak. A DeepMind elismeri az ilyen kétértelműségeket. Nemrégiben vállalta a StarCraft 2 számítógépes stratégiai játékot. A játék elején hozott döntéseknek következményei vannak, amelyek később jelentkeznek, ami nagyon jellemző a valódi problémák kínos és késő visszajelzéseire. Januárban a DeepMind szoftvere legyőzte a világ legjobb játékosait, és a szigorú korlátozások ellenére meglehetősen lenyűgöző volt. A programok megkezdték a jutalmazási funkciók feltárását az emberek visszajelzéseinek követésével is. Az emberi utasítások hurokba foglalása azonban veszélyt jelent a méret és a sebesség elvesztésére.
A névtelenség feltételével a DeepMind és a Google jelenlegi és korábbi kutatói szkepticizmust fejeztek ki azzal kapcsolatban, hogy a DeepMind ilyen módszerekkel képes lesz elérni az AGI-t. Számukra a nagy teljesítmény elérésének vágya szimulált környezetben megnehezíti a jutalmazási funkció problémájának megoldását. Ugyanakkor ez a megközelítés a DeepMind középpontjában áll. A társaságon belül belső verseny zajlik, ahol a versengő csapatok programjai versenyeznek a felsőbbrendűségért.
A Hassabis az életet mindig is játéknak tekintette. Karrierje nagy részét azok készítésére fordították, szabadidejének nagy részét a játékukra töltötték. A DeepMindnél ezeket használja erőteljes mesterséges intelligencia kifejlesztésére. A szoftverhez hasonlóan a Hassabis saját tapasztalatából is megtanulja. Az AGI folytatása végül zsákutcába vezethet, hasznos orvosi technológiákat fedezhet fel az út mentén, és legyőzi a legjobb játékosokat képességeikben. De létrehozhat AGI-t közvetlenül a Google orra alatt is, de az ellenőrzésen kívül. És ha sikerül megtennie, Demis Hassabis megnyeri a legnehezebb játékot.
Ilya Khel