Stephen Hawking folytatja a mesterséges intelligencia (AI) elleni "keresztes hadjáratot".
A rendkívül várt „Kérdezz mindent a Redditről” kampány során azt írta, hogy az AI biztonsági protokoll kidolgozásának munkáját most, és nem a távoli jövőben kell elvégezni.
"Nem az absztrakt mesterséges intelligencia létrehozására, hanem a hasznos intelligencia létrehozására kell törekednünk," írta a híres fizikus. "Évtizedekbe telik, hogy kitaláljuk, hogyan kell ezt megtenni, tehát most kezdjük el kutatni ezt a kérdést, nem pedig az első előtti este. haladó AI”.
Hawking 2014 óta használja a hírnevet az AI biztonsági mozgalom támogatására, amikor a többi kutatóval közösen írta a szerkesztőséget, figyelmeztetve a fejlett gépek által az emberiség számára fennálló egzisztenciális fenyegetést.
Más figyelemreméltó személyiségek, Elon Musk és Steve Wozniak csatlakoztak Hawkinghoz. Korábban mindhárom nyílt levelet írt alá az autonóm fegyverek vagy harci robotok betiltására.
Az elvárások, hogy az emberiség hamarosan létrehozni fogja a mesterséges intelligenciát, az 50-es évek óta fennálltak, és még nem igazolják magukat. A legtöbb AI tudós azonban úgy gondolja, hogy ebben az évszázadban megjelennek az emberekkel azonos intelligenciájú gépek.
Fotó: ANDREW COWIE / AFP
Promóciós videó:
Hawking figyelmezteti, hogy a mesterséges intelligencia ábrázolása a sci-fi filmekben eltorzítja a gépek valódi veszélyét. Az olyan filmek, mint a The Terminator, démoni gyilkos robotokat ábrázolnak, amelyek célja az emberiség elpusztítása olyan okok miatt, amelyeknek a valódi mesterséges intelligencia nem volt. Ezenkívül megkönnyítik a potenciális AI-kockázat enyhítését (például, ha kiborgokat nem építenek).
„Az AI valódi fenyegetése nem az, hogy gonosz, hanem az, hogy nagyon képes. A mesterséges szuper intelligencia nagyon jó a feladatainak végrehajtásában.
Ha feladatai nem egybeesnek a miénkkel, akkor problémákkal fogunk szembenézni - írta Hawking -, alig utálsz a hangyákat, de ha egy zöld energia projektért felelsz, és az a terület, ahol a hangyabolyg található, elárasztásra szorul, a hangyák szerencsétlenek. Ne engedjük, hogy az emberiség e hangyák helyzetébe kerüljön."
Nick Bostrom, egy AI filozófus, fantasztikusan fantasztizálja a világvég forgatókönyveit, amikor egy program rossz irányba kezd működni. Például a mesterséges intelligencia feladata egy terv kidolgozása a környezet védelmére, és az ökológiai probléma megoldása érdekében úgy dönt, hogy elpusztítja az emberiséget.
Elon Musk már 10 millió dollárt költött az AI biztonsági kutatására, hogy megakadályozza a romboló mesterséges intelligencia, például a Skynet megjelenését a Terminátorban. De Hawking azt akarja, hogy az emberek megváltoztassák az AI általános észlelését.
"Kérem, mondja meg a hallgatóinak, hogy gondolkozzanak nem csak arról, hogyan lehet létrehozni az AI-t, hanem annak biztosításáról is, hogy azt hasznos célokra használják fel." - mondta Hawking egy mesternek, aki a mesterséges intelligencia előadásait tartja elő. akár a legjobb, akár a legrosszabb esemény az emberiség történetében. Ezért fontos, hogy minden úgy megy, ahogy kellene."