A seriff algoritmust használ a bűncselekmények előrejelzésére
A floridai seriff irodája algoritmus segítségével arra számított, hogy mely emberek követhetnek el bűncselekményeket a jövőben. A helyi publikáció szerint a csúcstechnológiás megoldás a bűnözés csökkentése helyett ártatlan emberek zaklatásához vezetett.
A Tampa Bay Times felmérése szerint az algoritmus megkérdőjelezhető adatokon alapult, és önkényes döntéseket hozott.
A program által nyújtott jelzések alapján a rendvédelmi tisztviselők olyan emberek otthonába mentek, akik nem tettek semmi rosszat, és pénzbírsággal vagy őrizetbe vették őket a jelenleg talált vagy feltalált okok miatt.
A mesterséges intelligencia rendszert a Pasco seriff hivatala használja. A nyomozás során a kiadvány 21 embert talált, akiket a seriff segédei zaklattak, bár nem követtek el bűncselekményt.
A seriff megvédi az algoritmust
2019 szeptemberében a rendvédelmi tisztviselők megérkeztek a ház ajtajához, ahol annak idején 15 éves tinédzser Rio Wojtecki lakott. A program megmutatta, hogy a fiú a bűncselekmény elkövetéseinek első öt tagja volt. Riót egyszer őrizetbe vették, miután kerékpárokat lopott. A tinédzser bírósági ellenőrzés alatt állt, de ezen algoritmus miatt a rendőrség még 21 alkalommal kihallgatta, bár törvényt sértő cselekményeket nem követett el.
A hírek szerint Wojtecki súlyos szorongásos formát vált ki a seriff embereinek gyakori látogatása miatt. Az egyik pillanatban a tinédzser összeesett, és édesanyja szerint kórházba szállították.
A Pasco seriff hivatala közölte, hogy nem ez az egyetlen osztály használ ilyen technológiát. Sőt, az intézmény azzal vádolta a Tampa Bay Times-ot, hogy a rendőrség által alkalmazott alapvető eljárásokat zaklatás formájának írja le.