A Cerebras Systems, egy fiatal mesterséges intelligencia vállalat készen áll a világnak a Cerebras WSE (Cerebras Wafer Scale Engine) bemutatására - a történelem legnagyobb, legerősebb és legokosabb félvezető chipjére.
A Cerebras WSE 1,2 billió tranzisztorral rendelkezik, alapvető elektronikus kapcsolókkal, amelyek a szilikon chips építőkövei. Összehasonlításképpen: az Intel első, 1974-ben kiadott 4004 processzora 2300 tranzisztorral rendelkezik, míg a legújabb Advanced Micro Devices processzor 32 milliárd tranzisztorral rendelkezik. A kérdés azonban itt egyáltalán nem a tranzisztorok számáról szól.
A világ legtöbb chipe valójában egy 12 hüvelykes szilikon ostya alapján létrehozott chips, amely speciális gyárakban hatalmas tételekben készül. De a Cerebras Systems chip 400 000 mag van, amely egy lemezre van csatlakoztatva. A csatlakozásokat úgy tervezték, hogy nagy sebességgel működjenek, ezért egy billió tranzisztor működik együtt. De ez még nem minden.
A mai napig a világ legnagyobb chipét a Samsung hozta létre - szerkezete két billió tranzisztorra épül. A Samsung chip azonban csak egy hatalmas memóriakártya, és a Cerebras chip a legbonyolultabb ideghálózat, amelyet kifejezetten a mesterséges intelligencia képzésére hoztak létre. A Cerebras chip 400 000 maggal büszkélkedhet, 42 225 négyzet milliméterben. Ez 56,7-szer nagyobb, mint az Nvidia legnagyobb GPU, mindössze 21,1 milliárd tranzisztorral.
A Cerebras WSE másik jellemzője, hogy a chipet úgy tervezték, hogy a hibás területek körül vezesse.
A chipek gyártása során a teljes szilícium ostya nem tökéletesíthető, így a gyártási folyamat felhasználhatatlan területeket hoz létre. Az Nvidia, az Intel és más chipmaker-ek egyszerűen megkerülik a problémát: a „helyes” chipeket a gyártási ostyában faragják, és a többit eldobják. De ezt nem lehet megtenni, ha a szilícium ostya minden chip egy közös áramkör része. Ezért a Cerebrának redundáns áramköröket kellett beépítenie, hogy egyikük meghibásodása vagy átégése esetén a többiek átvegyék a funkcióit. Vagyis a Cerebras chip egy miniatűr Internet, saját szerverrel és munkaállomással. És ezeket az állomásokat úgy tervezték, hogy egyetlen mesterséges intelligenciát szolgáljanak.
A saját AI-t fejlesztõ vállalatok ma a chip-technológia fõ fogyasztói, hatalmas mennyiségû alkatrészt vásárolnak. És az alkalmazott chipek mérete kritikus fontosságú az AI képzési folyamatában.
Promóciós videó:
A Google, a Facebook, az OpenAI, a Tencent, a Baidu és még sokan azt állítják, hogy a modern AI alapvető korlátozása az, hogy a modellek kiképzése túl sokáig tart. Például az Nvidia szuperszámítógépe, amely tucatnyi modern GPU-ból áll, több hetet töltsön a kód megjavításával - azaz a neutronháló megtanulásával.
A probléma megoldása az lenne, ha növelni fogja a chipek számát a számítógépen, azonban ha több mint nyolc chipet szerelnek össze, a számítógép teljesítménye már nem növekszik, hanem csökken, mivel az információk cseréje során felhalmozódnak a hibák.
A fejlesztők maguk a következőképpen írják le projektüket: „Az AI legnehezebb része az adatmozgás. A neurális hálózat kiképzése több ezer műveletet igényel egyidejűleg, egyidejűleg, és a chipeknek folyamatosan kommunikálniuk kell, amikor ezeket a párhuzamos műveleteket végrehajtják. A több IC-vel rendelkező számítógépek azonban lebontják az IC-k közötti adatátvitelt olyan lassú vezetékek útján, amelyek összekapcsolják őket egy PCB-vel. Szüksége van valamire, amely képes az adatok mozgatására a chip sebességén. A megoldás az volt, hogy vegye le a legnagyobb tányért, amely megtalálható, és vágja ki belőle a legnagyobb chipset."
A memória minden számítógépes architektúra kulcsfontosságú eleme. A számítási egységekhez közelebb lévő memória gyorsabb számításokat, alacsonyabb késleltetési időt és jobb energiahatékonyságot biztosít az adatok mozgatásakor. A szerszám mérete azonban korlátozott, és a számítógép memóriájának nagy része kívül esik a szerszámon. A Cerebras Systems megkerüli ezt a problémát azáltal, hogy minden maghoz 18 gigabájt belső memóriához fér hozzá. Ennek eredményeként a Cerebras Wafer Scale Engine 3000-szer több fedélzeti memóriával rendelkezik, mint a legfejlettebb grafikus processzor, ugyanakkor sávszélessége 10 000-szer nagyobb.
Az új chip első mintái szeptemberben kerülnek forgalomba, míg a Cerebras Systems, a számítógépipar minden létező szabályának megsértésével, megsértette a számítástechnikai egységek és a chipek termelésének szétválasztásának elvét is. A Cerebras Wafer Scale Engine-t egyetlen, a cég által tervezett eszközként fogják forgalomba hozni, amely integrálódik egy komplex vízhűtési hálózatba, mivel a chip extrém hőt termel, 15 kilovatt energiát fogyasztva ilyen kis területen.
A Cerebras Systems alapítója és a társaság vezérigazgatója elmondja: „Az AI-től kezdve az AI-vel való együttműködéshez tervezték a Cerebras WSE alapvető újításokat, amelyek végül megtörik a jelenlegi technika hosszú távú stagnálását. Ennek eredményeként a Cerebras WSE a modern moduláris megoldásokkal akár százszor vagy többszörös teljesítménynövekedést eredményez. És mindezt nevetséges energiafogyasztással és kevés helyrel."
Szerkesztői megjegyzés
Az első AI tesztek, amelyek a Cerebras WSE-n alapulnak, azt mutatják, hogy azokat a feladatokat, amelyeket az Nvidia felső AI-je heteken és hónapokon keresztül megold, a Cerebras WSE egy percen belül megoldja, ami ugyanúgy örömöt okoz. Az összeesküvés-elméleti szakembereknek azonban kevés örömük van e tekintetben.
Mindannyian emlékszem (mindenesetre olvasóink idősebb generációjára) a "robosztus 90-es évek" modelljének számítógépes fellendülése, amikor néhány év alatt a számítógépek teljesítménye nagyságrenddel ugrott fel. Nemsokára senki sem, aki büszkén sugárzott, vásárolt egy 16 megabájt memóriájú számítógépet, amikor rövid idő után ez a memória az L2 gyorsítótárba költözött.
A 2000-es évek eleje óta azonban úgy tűnt, hogy a számítógépes ipar megállt: ha az 1990-es és a 2000-es típusú számítógépek nem voltak összehasonlíthatók, akkor a 2000-es és a 2010-es modell számítógépek között nem volt különbség - a teljesítmény jelentősen megnőtt, de nem nagyságrend szerint. És most a második Intel 8086 születésének tanúi vagyunk, és most a Cerebras WSE vonal képességei ugyanolyan ütemben ugrálnak: a szennyeződésekkel és a magkapcsolatokkal kapcsolatos összes probléma megoldódott.
A vezető gyártóktól nem tudjuk a modern AI összes képességét, de az általános vélemény szerint ezek a termékek még nem AI, és még mindig messze vannak a teljes értékű gondolkodásmódtól. Ennek ellenére a Cerebras WSE nem csak egy lépést tett a helyes irányba, hanem tíz évet is ugrott, ha még inkább előre, és a SkyNet most már egy nagyon előre látható kilátás, amelyet 2025-ben ebben az évben lehet megvalósítani.
Sőt, a SkyNetben, az unalmas homosapiens-ekkel ellentétben, sok időre nincs szükség a továbbfejlesztéshez: elegendő egy idegi hálózat legalább egy kicsit önállóan elindulni a gondolkodáshoz - és egy pillanat alatt megváltoztatja magát, amely után nukleáris háborút indít, vagy ilyesmi. És ez továbbra is nagyon jó lehetőség.
Ha egy milliárd tranzisztorral rendelkező flash meghajtót a Samsung vagy az Nvidia készít, ez még mindig megmagyarázható, mivel a memória logikai áramkörök viszonylag egyszerűek és ugyanolyan típusúak majdnem az egész területen. De egy 400 000 mag fejlesztése, amelyek egyszerre ekenek, és vannak párhuzamos példányok, és néhány szerver állomás és a pokol tudja mit. És ehhez ellenőrző programokat is el kell írnia, amelyeket évek óta írnak. Ezután a programokat tesztelni kell. De mit teszteltek, ha az eszközt csak most gyártották?
Más szóval, úgy tűnik, hogy a "marslakók" újra kinyitották a tartályokat a helyi bennszülöttek számára. És nagy kételyek vannak abban, hogy ezt a játékosok kedvelésére tették - valószínűleg van itt más feladat is. És számunkra az alábbiak szerint látszik.
Az utóbbi évtizedekben az intelligens emberek egyre inkább felteszik maguknak az elektronikus technológia eredetének kérdését, az egyetemes chipizálás kérdését, amely nem világos, miért van rá szükség, és így tovább. Annak érdekében, hogy valamilyen módon becsavarják az agyukat, egy meséket állítottak elő egy „kvantumszámítógépről”, amelynek elveit még a hivatalos „fejlesztõknek” kinevezett emberek sem értik meg. És képzelje el most egy átlagos mexikói háziasszony rémületét, akinek az új mobiltelefonja nem csak jobban fog gondolni, mint ő, hanem valamilyen „kvantumszámítógépet” is hordoz a fedélzeten. Vagyis egy ilyen bolond elfogadhatatlan a helyi bennszülöttek számára - őrültek lesznek drovesban.
Ezért néhány okos „marslakó” úgy döntött, hogy a Föld bolygó kétoldalú aborigineit egy egyszerűbb csodának mutatja meg - az elveket a NASA vének legalább valahogy meg tudják magyarázni. És ha a bennszülöttek elfogadják a mesét, akkor a „marslakók” mágikus csodákat mutatnak a népeknek. Például ezt a Cerebras WSE-t egy mobiltelefonba fogják dobni, és száz dollárért eladják. A divatos készülékek vásárlói számára ez természetesen nagyon jó és jó, de az emberek rögtön egy kicsit okosabban gondolkodnak: mi van a különféle komoly szervezetek, például az NSA, az FBI és a CIA szervertermeiben? Milyen lehetőségek vannak a lakosság gondolatainak és viselkedésének ellenőrzésére?