Az intézkedés célja a város kisebbségeinek védelme. A város egyik tanácstagja, Michelle Wu szerint a technológia elfogult és diszkriminatív, ezért veszélyezteti a lakosok privátszféráját és alapvető jogait. Az arcfelismerő algoritmusokról egy ideje tudni, hogy pontatlanul működnek, ha nem fehér emberekről van szó.
A probléma azután került terítékre, hogy a DataWorks Plus nevű szoftver némi emberi hibával ahhoz vezetett, hogy tévesen tartóztattak le egy fekete férfit Detroitban. Robert Williamset tévesen párosította össze a rendszer a jogosítványában szereplő fotója alapján a rablás helyszínén található biztonsági kamerák felvételeivel. Ez az első olyan ismert eset, amikor az Egyesült Államokban egy szoftver idézett elő ilyen kellemetlen esetet.
A Massachusetsi Műszaki Egyetem 2018-as tanulmánya szerint a kereskedelmi forgalomban elérhető arcfelismerő szoftverek a sötét, vékony nők 34,7 százalékát pontatlanul azonosították be.
(Forrás: 24.hu)
