Sokan attól tartanak, hogy egy robot felkelõdik a jövõben, és felszólítanak a mesterséges intelligencia fejlesztésének megállítására, hogy elkerüljék a negatív forgatókönyvet. A robotika fejlesztésével kapcsolatos iparban azonban hatalmas számú ember és pénz vesz részt, tehát senki sem fogja megállítani az ilyen technológiák fejlesztését. Szembesülhetünk-e apokalipszispel alkotásaink miatt, és létezik-e egy módszer a gépek felkelésének megakadályozására?
A Science Alert egy ideje publikálta a tudományos világ szakértőinek egy cikket, amely egy speciális algoritmus kidolgozásáról beszélt, amely segít a jövőben megakadályozni a mesterséges intelligenciával rendelkező robotok ellenőrizetlen viselkedését. A tudósok szerint a robotok egyszerűen nem tudnak ártani az embereknek ennek a módszernek köszönhetően.
Maguk a tudósok algoritmusukat Seldoniannak hívták. De mi a jelentése? Az algoritmusok képesek lesznek elemezni a gépek elfogadhatatlan viselkedését és maximálisan megvédik az embereket a robotok negatív hatásaitól, de az algoritmusok nem tartalmazzák a jó és rossz viselkedés fogalmát, tehát nem minden szakértő hisz az algoritmusok védő funkciójában.
Az új rendszer fejlesztői az algoritmus működéséről beszélték az egyik példa egyikével, azaz az inzulinpumpa automatizált rendszerrel történő vezérlésére. Ha az inzulin mennyisége a beteg vérében rendkívül alacsony szintre csökken, akkor az algoritmusok javasolják a személy megmentéséhez szükséges intézkedéseket.
Egy ideje számos tudós aggodalmát fejezte ki a mesterséges intelligencián alapuló nukleáris fegyverek fejlesztése miatt. Ha ezek a rendszerek meghozzák a saját döntéseiket, akkor ez apokalipszist okozhat a Földön. Ne felejtsük el az ilyen rendszereket feltörő hackerek cselekedeteit, és ebben az esetben semmilyen védelmi algoritmus nem segít. Ezért úgy tekinthető, hogy a robotok és a mesterséges intelligencia fejlesztésének területén nincs ideális védelem a modern világ veszélyei ellen.
