Stephen Hawking elméleti fizikus és a Tesla Motors alapítója, Elon Musk számos olyan alapelvet támogattak, amelyeknek biztosítaniuk kell, hogy a mesterséges intelligencia (AI) ne ártson az embereknek, és csak a jót szolgálja. A Szilícium-völgyi üzleti folyóirat beszámol.
Ez a paktum szükséges az emberek biztonságának biztosításához, valamint az AI-vel kapcsolatos számos kérdés megválaszolásához. Musk bízik abban, hogy az AI potenciálisan veszélyesebb lehet, mint a nukleáris fegyverek. Hawking is hasonló véleményen van, és azt állítja, hogy az AI elpusztíthatja az emberiséget. Mindkettő elismeri azonban, hogy az AI segít az embereknek számos probléma megoldásában, például a rák gyógyításában vagy a globális felmelegedés lassításában.
Mind a 23 elv betartásával biztosítani kell, hogy az AI csak jó célokat szolgáljon. Három kategóriába sorolhatók: kutatási kérdések, etikai és értékkérdések, valamint hosszú távú kérdések. Az első kategória megválaszolja azokat a kérdéseket, amelyekkel az AI készítői szembesülnek, beleértve azt is, hogy a finanszírozásnak hogyan kell tovább haladnia. A második kategória a biztonsági kérdéseket és a fenyegetés semlegesítésének módjait érinti. A harmadik leírja azokat a lehetséges kockázatokat, amelyekkel az emberiség szembesülhet, amikor az AI eléri a csúcspontját, és megjelenik az úgynevezett szuperintelligencia.
Ezeket az alapelveket az AI megbeszélésén, 2017. január elején tartott konferencián dolgozták ki. Demis Hassabis, a DeepMind vezérigazgatója közreműködött az írásban.