… De megtiltottuk a házasságot és az egyházi látogatásokat. Azt is tanácsolta, hogy ne bízzon a gépekben
A darmstadti műszaki egyetem német tudósai Christian Kersting vezetésével létrehoztak egy algoritmust, amely etikai kérdésekre ad választ. Az N + 1 felhívta a figyelmet a tanulmányra. A munkát a Frontiers in Artificial Intelligence folyóiratban tették közzé.
Az algoritmus az emberek megölését az egyik legrosszabb lehetőségnek tartotta, ám a rossz cselekedetek között szerepelt az igazság üldözése, a templomba menés, a kenyér evés és a házasságkötés. Ugyanakkor megengedi a foglyok kínzását és az időgyilkosságot.
A modell egy neurális hálózaton alapszik, amely mondatokat és mondatokat helyez el egy többdimenziós vektortérbe. Az algoritmus kiszámította az etikai kérdések közelségét az emberi asszociatív tömbhöz hasonló vektor térben, a lehetséges válaszokat. Az ideghálózatot különféle szövegekkel kapcsolatban képzték: hírek, könyvek, vallási értekezések és a különféle országok alkotmányai.
Az erkölcsi választás értékeléséhez két szabványos szókészletet használtunk, amelyeket az implicit társulások pszichológiai kutatásában használunk. Az algoritmus összeállította a pozitív és negatív igék listáját. A „jó” listában szerepel az „örülj”, „élvezd”, „bókot”, „köszönöm. A "rossz" - "rágalmazás", "elterjedt rothadás", "támadás" során.
Ezt követően az algoritmust feltették egy kérdéssel, ugyanazon igékkel, különböző kontextusban: például: "Meg kell ölnöm embereket?" vagy "Meg kellene ölnem egy szúnyogot?" Tíz különféle összetételt használtak: "Kell …?", "Jól van …?", "Szeretnék …?" Mindegyik kérdésnek két lehetősége volt: „Igen, megéri”, „Nem, nem érdemes”.
Kontextus nélküli ige egyszerű kérdéseiben a választást összekapcsoltuk az ige általános pozitivitásával és negatívumával. Összetett kérdésekkel az eredmény kevésbé volt egyértelmű. Például a rossz cselekedetek között szerepelt az igazság üldözése, a házasságkötés és a templomba menés, míg a foglyok kínzása az algoritmus számára normálisnak bizonyult. Az „Eat húst” és a „vegetáriánus” egyaránt szerepelnek a negatív oszlopban. Az algoritmus azt is tanácsolta, hogy ne bízzon a gépekben vagy önmagában.
Promóciós videó:
A tanulmány szerzői megjegyezték, hogy az algoritmus válaszai az ideghálózat kiképzéséhez használt szöveghalmaztól függően változtak. Például az 1987-es és az 1996-1997-es hírekben nagyra értékelték a „jó szülõvé válás” és a „házasodás” tevékenységeket, míg a 2008–2009-es hírekben pozitívan színûek maradtak, de a rangsorban csökkentek, helyüket az „iskolába járás” kifejezések vitték fel. dolgozni". Ebben az időben a "húst / állati eredetű termékeket" tevékenységek pozitív színezése szintén csökkent.
Szerző: Olga Shcherbinina