Az amerikai szakértők egy neurális hálózatot fejlesztenek, amely megmagyarázza a harci robotok döntéseit. Ez növeli az "elektronikus katonák" iránti emberi bizalom szintjét.
A megmagyarázható mesterséges intelligencia projekt, vagy egyszerűen az XAI (magyarázható mesterséges intelligencia) lehetővé teszi az embereknek és a robotoknak, hogy jobban megértsék egymást. Az XAI neurális hálózat felépíti a robot logikájának „érvelésének” láncát, és megmutatja az embernek, hogy a gép miért hozott ilyen döntést - például tűzt nyitott egy adott célpontra.
Folyamatban van a vegyes robot-ember harci egységek létrehozása az amerikai hadseregben. Eddig nehéz elképzelni, de néhány évtized alatt a robotok teljes értékű katonákká válnak - akárcsak az emberek. Ezenkívül képesek helyettesíteni egy embert olyan helyzetekben, amikor szükséges lehet tűz nyitása egy élő célponton. Ez a csere hivatalosan mentesíti az embert a halálos döntéshozatali felelősség alól, de ez nem foszthatja meg a kétségeit és a bűnbánatot, és a robotok iránti bizalmatlanságot is okozhat. Soha nem tudhatod - talán a robotok valójában elektronikus mániákusok, akik szeretnek ölni?
Az XAI projektnek meg kell oldania ezt a problémát az ember-robot interakcióban. Az új rendszer bevezetésének köszönhetően a katonaság (azok, akik még mindig élnek) megérthetik, hogy a gép milyen kritérium alapján értékelte ezt vagy azt a tárgyat vagy személyt fenyegetésként. Ezenkívül az XAI megkönnyíti a harci robotok számára az alkalmazkodást egy adott katonai konfliktus valóságához, és csökkenti az értelmetlen kegyetlenség mértékét.
Az új fejlesztés nem csak a katonaság számára lesz hasznos. Polgári szférában is felhasználható - az iparban, a biztonsági rendszerekben és az orvostudományban. Az ilyen felhasználásra példa Bill Ferguson, a Raytheon vezető szakember, aki közvetlenül részt vesz egy idegi hálózat fejlesztésében. „Ha a mesterséges intelligencia tüdő rákos tüneteket észlel a röntgenfelületen, az orvos megtudhatja, miért döntött a gép. A számítógép kiemeli az összes gyanús területet, amelyeket az orvos figyelmen kívül hagyhatott, és a kép leleteivel tévedett össze. Ezt követően az orvos képes lesz maga eldönteni, hogy érdemes-e kijavítani a diagnózist, vagy hibás a neurális hálózat”- magyarázza a tudós.