A számítógépek furcsa döntéseket hoznak
A mesterséges intelligencia olyan gyorsan fejlődik, hogy sokan szorongást éreznek: ha hamarosan képes lesz az érzelmeket megtapasztalni és saját döntéseit meghozni. Legyen szó robotról, önálló járműről vagy döntéshozóról az üzleti életben és a tudományban: a mesterséges intelligencia életünk és társadalom minden területén áthatol. A gépi agyokat logikusnak, érzelemmentesnek és pártatlannak tekintik, de a gyakorlat azt mutatja, hogy nem mindig mindent nyitott elmével döntenek.
A mesterséges intelligencia nélkülözhetetlen, ha fontos a nagy mennyiségű adat mintáinak felismerése és azok alapján történő döntéshozatal. De a jövőben a mesterséges intelligencia rendszereket olyan területeken is lehetne használni, ahol jólétünk és még életünk közvetlenül is a következtetésektől függ - az orvostudományban, a munkahelyek kiválasztásában, a kölcsönök kiadásában és az igazságszolgáltatásban.
Mennyire objektív és erkölcsileg helyes döntést hoz a mesterséges intelligencia? Bízhatunk-e valójában a gépi agyban ilyen potenciálisan fontos döntések meghozatalában?
A mesterséges intelligenciát minden területen használják
Az adaptív algoritmusokat ma is alkalmazzák mindennapi életünk számos területén. Vannak digitális asszisztensek a hangutasítások és a kérdések megértéséhez. Az interneten a webbotok segítik a webhelyek karbantartását és irányítását, így nehéz megkülönböztetni őket az emberektől. Még ha hamis híreket és képmanipulációkat is észlelnek, a mesterséges intelligencia rendszerekben is részt vesznek.
Promóciós videó:
Az AI rendszerek munkájukat az iparban, az üzleti életben és még a kormányzatban is végzik. Optimalizálják és ellenőrzik a termelési folyamatokat, szabályozzák a konténerszállítási kikötők és a nagy raktárak logisztikáját, vagy könyvelési nyilvántartást vezetnek. A biztosítótársaságok és a bankok már rendelkeznek az első intelligens programokkal a benyújtott kérelmek ellenőrzésére vagy a kifizetésekkel kapcsolatos döntések meghozatalára. Az Ikeánál, a Deutsche Telekomnál és sok más társaságnál, az UNICEF-nél vagy a könyvtáraknál virtuális asszisztensek vesznek részt az ügyfélszolgálatban.
Nagy mennyiségű adat dolgozott fel az edzéshez
Mindez azért lehetséges, mert az AI rendszerek képesek gyorsan elemezni hatalmas mennyiségű adatot, azonosítani a mintákat és a korrelációkat. Például az algoritmus számtalan háziállat-fotóról tanul, amelyek megfelelõ nevekkel rendelkeznek. Az edzés után a rendszer teljesen új fényképeket választhat ki a kívánt fajokról. Önmagában felismeri a különbségeket.
Sok más AI rendszer a szöveg alapját használja a tanuláshoz. Felbecsülik egy szó helyzetét és megvizsgálják annak szemantikai jelentését, valamint a hasonló szavakkal vagy szinonimákkal fennálló kapcsolatokat. Ezek a szemantikai kapcsolatok matematikai kifejezésekké fordítják a programokat, és így még komplex szemantikai összefüggéseket is megtanulnak.
Csak ennek a képességnek köszönhetően képes a mesterséges intelligencia például értékelni az orvosi adatokat és az orvosi nyilvántartásokat, és következtetni belőlük a klinikai képek jellemzőire. Ezen eredmények alapján az AI rendszereket már diagnosztikai segédeszközökként használják, felismerik a rák különféle típusait, az Alzheimer-kór jeleit, az öngyilkossági állapotokat és a cukorbetegség veszélyes cukorszintjét.
De amilyen vonzónak tűnik, egyre több AI-nek van nagy hátránya. Minél tovább mesterséges intelligencia hatol be a társadalom szinte minden szférájába, annál nagyobb a döntésének lehetséges következményei. Az ember pénzügyi vagy szakmai jövője, sőt élete is az ítéletétől függ.
AI megoldások, amelyek életbe kerülhetnek
Például, ha az AI tévesen diagnosztizálja a gyógyszert anélkül, hogy kihallgatnák, akkor a beteg helytelen kezelést kaphat, vagy akár meg is halhat. A katonaság egy autonóm fegyverrendszert használ, amely rossz döntéseket hoz. Például az AI nem képes megkülönböztetni a menekülő barátot az ellenségtől, az ártatlan haláltól.
Az AI algoritmusokat már az Egyesült Államok bíróságai is használják. Megjósolják a visszaesés valószínűségét az elkövetők számára a bíróságon. Értékelésük gyakran befolyásolja a bíróság döntését és következésképpen az elítélt büntetését.
Ha AI dönt a kölcsönökről
Hasonlóképpen, a pénzügyi és biztosítási döntések befolyásolhatják, hogy valaki hitelt kap-e vagy sem. Ezeket a rendszereket általában adatbázisok segítségével képzik.
És itt az AI mintákat keres: melyek az emberek általában visszafizetik a kölcsönöket, és melyek nem? Fejleszti értékelési eljárásait és meghozza a megfelelő döntéseket. Ez különösen azt jelenti, hogy a rossz lakóhellyel vagy foglalkozással rendelkező emberek e körülmények ellenére nem kapnak kölcsönt, függetlenül attól, mennyit hajlandóak fizetni.
A számítógépes felelősség ilyen megosztása esetén az ember csak asszisztens lesz a számítógépes agy döntéseinek végrehajtásában. És ez már megtörténik.
Ki felelős a hibákért?
Egy másik probléma az AI fejlesztésében: minél bonyolultabb a döntéshozatal elve, annál nehezebb az emberek számára megérteni azokat. Felveti azt a kérdést is, hogy ki felelős a hibákért.
Egyre gyakoribbak a balesetek az autopilóton történő vezetéskor: ki a felelős azért, hogy egyes helyzeteket nem tárol a memóriában, vagy az AI téves következtetéseket von le. Vagy talán saját következtetéseket von le? Vannak már ilyen példák.
A botok a játék során kidolgozták saját szabályaikat
A kutatás során a kutatók 100 intelligens robotot hagytak kölcsönhatásba egy koncessziós játékban. Mindegyiknek el kell döntenie, hogy adományoz-e valamit a csapatának, vagy kívülről a játék résztvevőinek.
Meglepő módon az idő múlásával a botok egyre inkább kirekesztettek a külső csoportokból, és csak a csapata tagjaik számára adományoznak.
Ennek oka: az intelligens botok adaptálták játékstratégiájukat, és megismételték azoknak a bajtársaknak a viselkedését, akik a legtöbb pénzt gyűjtötték és a legjobban voltak. Így olyan robotcsoportok alakultak ki, amelyek ugyanolyan módon viselkedtek és következetesen kizárták a nem kapcsolódó játék résztvevőket. Folyamatosan létrehozva valamit, amely kiszámítja, elemzi és gyorsabban hozza meg a döntéseket, az emberiség egy napon elveszíti az irányítást a létrehozása felett, amelynek cselekedeteire nem lesz képes nyomon követni.
A tudósok szerint ez nyilvánvaló: a mesterséges intelligencia nem igényel mesterséges adatokat az elfogultság érdekében, elegendő, ha körül vannak más gépek. Mert még ez is létrehozhat egy csoportos gondolkodást, amelyet az emberi közösségek ismertek. Ezért az AI használatával az embereknek magukra kell hagyniuk a döntést.
Vasilik Svetlana