Az amerikai rendőrségnél 1998 óta működő Compas algoritmus elemezte a vádlottak adatait, majd a kapott információk alapján segített például annak eldöntésében, hogy a bűnözőt óvadék ellenében szabad-e szabadon bocsátani, vagy őrizetben kell-e tartani. A visszatartó intézkedés kiválasztásakor a rendszer figyelembe vette az életkort, a nemet és a bűnügyi arénában elért eredményeket. A "szolgálat" 20 éve alatt az algoritmust több mint egymillióan értékelték, de nemrégiben alkalmatlannak nyilvánították, ezt követően azonnal visszahívták.
A Dartmouth College tudósai tesztelték, hogy a rendszer mennyire pontos és megbízható-e. Ehhez szabadúszókat, jogi végzettséggel nem rendelkező egyszerű embereket toboroztak, hogy saját maguk hozzák meg döntéseiket az emberekről szóló rövid információk alapján, információkat adva az alanyoknak a nemről, az életkorról, a bűnügyi történelemről és számos más paraméterről.
A kis dossziéval rendelkező szabadúszók előrejelzésének pontossága majdnem 70 százalék volt, míg a program öt százalékkal maradt el az emberektől, miközben 137 életrajzi pontra támaszkodott. Az algoritmus megítélésének elemzése azt mutatta, hogy a fekete foglyokat valószínűleg a program gyanítja.
"Az ilyen esetekben a hibák nagyon költségesek lehetnek, ezért érdemes megfontolni, hogy egyáltalán ezt az algoritmust kell-e használni bírósági ítéletek meghozatalához" - mondja a tanulmány egyik szerzője.
Az algoritmus elvének tanulmányozása után a kutatók arra a következtetésre jutottak, hogy minél fiatalabb az alperes és minél több letartóztatás van a háta mögött, annál nagyobb a visszaesés valószínűsége, ezért az AI szakemberei a technológiát megbízhatatlannak ismerték el.
Viacheslav Larionov