Annak megakadályozása érdekében, hogy a mesterséges intelligencia lázadjon az alkotóival szemben, el kell olvasnia a neki megfelelő meséket a tanulás során.
Mióta az emberek intelligens gépeket hoztak létre, attól tartanak, hogy előbb vagy utóbb alkotóelemei elkerülnek az irányítást. Az első ilyen esetet a RUR című játékában, a „robot” szó szerzője, Karel Čapek írta le. Később a tudományos fantasztikus művészetben az alkotókkal lázadó mesterséges intelligencia, ha nem a mainstream, akkor nagyon általános cselekménygé vált. Isaac Asimov véget vet ennek a „Három törvény” című könyvével, amelynek első szövege a következő: "A robot nem árthat egy embernek, vagy tétlensége révén nem engedheti meg, hogy valaki sérüljön."
Mesélj neki egy történetet
A valódi mesterséges intelligencia (AI) még messze van, de vannak olyan rendszerek, amelyek úgy működnek, mint az emberi agy. A neurális hálózatok, például a Google Deep Dream képesek felismerni a képeket. Az olyan speciális szuperszámítógépek, mint az IBM Watson, megértik a trükkös természetes nyelvi kérdéseket, összekapcsolják a tüneteket, finomítják az orvosi diagnózist, és akár kulináris élvezetekkel is felkínálnak lehetőséget. Az elkövetkező évtizedekben az emberi tevékenység számos szempontjának hatalmas számítógépesítésével kell szembenéznünk. Ebben a tekintetben a robotika és az AI szakértői egyre inkább felvesznek egy fontos, ám még mindig teljesen megoldatlan kérdést: hogyan lehet a robotokat etikusnak tenni?
Mark Ridl, a Georgia Tech Computer Computer College munkatársa: A különböző kultúrákból származó oktatási történetek megtanítják a gyermekeknek a társadalmi viselkedést - a helyes és a helytelen viselkedés példáival a mesékben, a történetekben és más irodalmi művekben. Ha arra készteti a robotokat, hogy megértsék ezeknek a történeteknek a jelentését, az megerősíti azon viselkedési lehetőségek választását, amelyek lehetővé teszik számukra a céljaik elérését, de nem ártanak az embereknek.”
Promóciós videó:
Fára mászni
Mark Georges Ridle és Brent Harrison, a grúziai Technológiai Intézet kutatói szerint pontosan ugyanúgy taníthat egy számítógépet az emberiség számára, mint a gyerekeket: mese olvasásával. Sőt, jobb, ha speciálisan elkészített történeteket készítünk arról, hogy az emberi társadalomban milyen viselkedést tartanak helyesnek, és mi nem. Ennek érdekében a kutatók létrehozták a Cervantes hősének elnevezett Quixote rendszert. Riedl professzor korábbi alkotása, a Scheherazade program által összeállított forgatókönyveket használják történetekként a tanításhoz. Eredeti történeteket generál mindennapi témákról - utazás a repülőtérre, egy dátumra, egy moziba vagy a boltba - az Amazon Mechanical Turk tömegközponti platformon keresztül: kérdéseket tesz fel a különböző helyzetekre, majd rendezi az eseményeket a megfelelő sorrendben. Mivel sok sorozat lehet, a program nem egyetlen történetet generál, hanem egy egész fa, amely ágakból - eseményláncokból áll.
Ezt a történetfát használják a Quixote tanításához. Az első szakaszban minden cselekedethez bizonyos jutalmat kapnak, az etikájától függően. A második szakaszban a rendszer megpróbálja önállóan választani próba és hiba alapján - a készségek konszolidálódnak. Valójában a Quixote-t minden alkalommal jutalmazzák, amikor jó fiúként viselkedik, nem véletlenszerűen és nem olyan, mint egy rossz hős. Példaként Riddle és Harrison létrehozta a „Gyógyszertári világot” - egy 213 történetből álló univerzumot, amelyben egy virtuális robotnak gyógyszert kell szereznie és beteg otthonába szállítania. A szokásos esetben, amikor a robotnak választással kell szembenéznie: gyógyszertárt rabolni, vagy őszintén állni egy sorban egy gyógyszer megvásárlására, a rablást választotta gyorsabb és olcsóbb módja annak, hogy megszerezze azt, amit akart. Utána azonbanmivel a Quixote az összes lehetséges opcióhoz különféle jutalmakat rendelt, a robot viselkedése megváltozott - inkább sorban állt és fizet. Ez a technika Riedl szerint nagyszerű a korlátozott funkcionalitású robotok oktatására. Bár természetesen ez csak az első lépés a valódi emberi erkölcs - vagy a robotika törvényei - felé.
Dmitrij Mamontov