Azonnal, amikor Dr. Blake Richards meghallotta a mély tanulást, rájött, hogy nem csupán egy olyan módszerrel szembesül, amely csupán a mesterséges intelligenciát forradalmasítja. Rájött, hogy valami alapvető dolgot keres az emberi agyból. A 2000-es évek eleje volt, és Richards egy tanfolyamot tanított a torontói egyetemen Jeff Hinton mellett. Hintonnak, aki a világot meghódító algoritmus mögött állt, az emberi agy ihlette bevezető tanfolyamot kapott a tanítási módszeréről.
A kulcsszavak itt az "agy ihlette". Richards meggyőződése ellenére a fogadás ellene játszott. Az emberi agynak, amint kiderült, nincs olyan fontos funkciója, amelyet a mély tanulási algoritmusokba programoztak. A felszínen ezek az algoritmusok megsértették az alapvető biológiai tényeket, amelyeket az idegtudósok már bizonyítottak.
De mi van, ha a mély tanulás és az agy valóban kompatibilis?
Így egy új, az eLife-ben közzétett tanulmányban Richards a DeepMind-rel együttműködve új algoritmust javasolt a neokortexben lévő neuronok biológiai felépítésére. A kéreg, az agykéreg, magasabb szintű kognitív funkcióknak ad otthont, például érvelés, előrejelzés és rugalmas gondolkodás.
A csapat egyesítette a mesterséges idegsejtjeit rétegezett hálózatba, és kihívta a klasszikus számítógépes látás feladatára - a kézírásos számok azonosítására.
Az új algoritmus kiváló munkát végzett. De egy másik dolog is fontos: ugyanúgy elemezte a tanulás példáit, mint a mély tanulási algoritmusok, ám teljes mértékben az agy alapvető biológiájára épült.
"A mély tanulás biológiai szerkezetben lehetséges" - zárta a tudósok.
Mivel ez a modell jelenleg számítógépes változat, Richards reméli, hogy átadja a botot a kísérleti idegtudósoknak, akik meg tudnák vizsgálni, hogy egy ilyen algoritmus működik-e egy igazi agyban.
Promóciós videó:
Ha igen, akkor az adatokat a számítógépes tudósoknak adhatjuk tovább, hogy tömegesen párhuzamos és hatékony algoritmusokat fejlesszenek ki, amelyeken gépeink működni fognak. Ez az első lépés a két terület összeolvadása felé a felfedezés és az innováció „erényes táncán”.
A bűnbak keresése
Noha valószínűleg hallotta, hogy az AI a közelmúltban legyőzte a Go legjobb legjobbjait, alig tudja pontosan, hogyan működnek az AI mögött álló algoritmusok.
Dióhéjban, a mély tanulás egy mesterséges idegi hálózaton alapszik, virtuális "neuronokkal". A magas felhőkarcolóhoz hasonlóan a hálózat hierarchiában van felépítve: az alacsony szintű idegsejtek folyamatainak bemenete - például vízszintes vagy függőleges sávok, amelyek a 4. számot alkotják -, és a magas szintű neuronok a 4. szám elvont aspektusait dolgozzák fel.
A hálózat kiképzéséhez példákat adsz arra, amit keres. A jel a hálózaton terjed (felmászik az épület lépcsőire), és minden ideg megpróbál valami alapvető dolgot meglátni a „négy” munkájában.
Amint a gyerekek új dolgokat tanulnak, a hálózat eleinte nem működik jól. Mindent kiad, amely véleménye szerint a negyediknek tűnik - és képeket kap Picasso szellemében.
De pontosan így történik a tanulás: az algoritmus a kimenetet az ideális bemenethez igazítja, és kiszámítja a kettő közötti különbséget (olvasás: hibák). A hibák "elterjednek" a hálózaton keresztül, minden neuront kiképezve, azt mondják, hogy nem erre keresik, nézd jobban.
Több millió példa és ismétlés után az internet hibátlanul működik.
A hibajelzés rendkívül fontos a tanuláshoz. Hatékony "hibajavítás" nélkül a hálózat nem fogja tudni, melyik neuronja hibás. Bűnbak keresésekor a mesterséges intelligencia javul.
Az agy is csinálja. De hogyan? Fogalmam sincs.
Biológiai zsákutca
Nyilvánvaló az, hogy a mély tanulási megoldás nem működik.
Rendkívül fontos tulajdonság a hiba visszatáplálása. A megfelelő működéshez szükség van egy bizonyos infrastruktúrára.
Először, a hálózat minden neuronjának hibaüzenetet kell kapnia. De az agyban az idegsejtek csak néhány (ha van) partneri partnerhez kapcsolódnak. Ahhoz, hogy az agyban működjön a hátsó szaporodás, az első szintű idegsejteknek érzékelniük kell az áramlási csatornák milliárd összeköttetéséből származó információkat - és ez biológiailag lehetetlen.
És bár néhány mély tanulási algoritmus adaptálja a hiba visszaprodukciójának helyi formáját - alapvetően az idegsejtek között -, megköveteli, hogy oda-vissza kapcsolata szimmetrikus legyen. Az agy szinapszisában ez szinte soha nem fordul elő.
A modernabb algoritmusok kissé eltérő stratégiát adaptálnak egy külön visszacsatolási útvonal megvalósításával, amely segít az idegsejteknek helyben megtalálni a hibákat. Noha ez biológiailag kivitelezhetőbb, az agynak nincs külön számítógépes hálózata a bűnbak keresésére.
De komplex szerkezetű neuronokkal rendelkezik, szemben a jelenleg a mély tanulásban alkalmazott homogén "golyókkal".
Elágazó hálózatok
A tudósok az emberi kéreg kitöltő piramissejtekből inspiráltak.
"Ezen idegsejtek többsége fák alakú," gyökereik "mélyen az agyban és" ágak "kijönnek a felszínre" - mondja Richards. "Figyelemre méltó, hogy a gyökerek egy bemeneti sorozatot kapnak, az ágak pedig különböznek."
Kíváncsi, de a neuronok szerkezete gyakran "pontosan olyannak" bizonyul, mint egy számítási probléma hatékony megoldása. Vegyük például az érzékszervi feldolgozást: a piramis idegsejtek fenekén vannak, ahol érzékszervi bemenetet kell tartaniuk, és a felsők kényelmesen vannak elhelyezve, hogy visszajelzés útján továbbítsák a hibákat.
Lehet-e ez a komplex felépítés evolúciós megoldás a rossz jel kezelésére?
A tudósok korábbi algoritmusok alapján többrétegű neurális hálózatot hoztak létre. A homogén idegsejtek helyett a középső rétegekben - a bemenetek és a kimenetek között szétválasztva - adták a neuronokat a valódihoz hasonlóakhoz. A kézírásos számoktól tanulva az algoritmus sokkal jobban teljesített, mint az egyrétegű hálózat, annak ellenére, hogy a hiba klasszikus hátterében nem állt elő. A celluláris struktúrák maguk is azonosíthatják a hibát. Ezután a megfelelő pillanatban a neuron mindkét információforrást egyesítette, hogy megtalálják a legjobb megoldást.
Ennek biológiai alapja van: az idegtudományi tudósok régóta tudják, hogy az idegrendszer bemeneti ágjai helyi számításokat végeznek, amelyeket a kimeneti ágak visszatérő szignáljaiba lehet integrálni. De nem tudjuk, hogy az agy valóban ilyen módon működik-e - tehát Richards megbízta az idegtudós orvosokat, hogy ezt megtudják.
Sőt, ez a hálózat a tradicionális mélytanulás módszeréhez hasonlóan kezeli a problémát: rétegezett struktúrát használ az egyes számokról fokozatosan elvont ötletek kivonására.
„Ez a mély tanulás jellemzője” - magyarázza a szerzők.
Mélyen tanuló agy
Kétségkívül nem lesz több fordulat ebben a történetben, mivel a számítógépes tudósok több biológiai részletet hoznak az AI algoritmusokba. Richards és csapata felülről lefelé mutató predikciós funkciót vizsgál, ahol a magasabb szintek jelei közvetlenül befolyásolják, hogy az alacsonyabb szintek hogyan reagálnak a bemenetre.
A magasabb rétegek visszajelzése nem csak javítja a hibajelzést; ösztönözheti azt is, hogy az alacsonyabban feldolgozó idegsejtek "jobban teljesítsenek" valós időben - mondja Richards. Eddig a hálózat nem haladta meg a többi nem biológiai mélyreható tanulási hálózatot. De nem számít.
"A mély tanulás óriási hatással volt az AI-re, de az idegtudományra gyakorolt hatása eddig korlátozott volt" - mondják a tanulmány szerzői. Most az idegtudósoknak kifogásuk van egy kísérleti teszt elvégzésére és annak kiderítésére, hogy a neuronok szerkezete alapja-e a mély tanulás természetes algoritmusa. Talán a következő tíz évben megkezdődik a kölcsönösen előnyös adatcsere az idegtudósok és a mesterséges intelligencia kutatói között.
Ilya Khel