Ranglega handtekin á grundvelli gervigreindarforrits

Jóhann Hlíðar Harðarson skrifar 13. ágúst 2023 14:31

Gervigreindarforrit eru notuð í sífellt meira mæli af lögreglunni í Bandaríkjunum til að bera kennsl á og finna fólk sem brýtur af sér og næst á mynd. Í öllum þeim tilvikum sem vitað er um, þar sem lögreglan handtók ranga manneskju, hefur verið um blökkufólk að ræða. Getty Images

Rúmlega þrítug kona var handtekin fyrir að stela bíl og ógna eigandanum með byssu, eftir að gervigreindarforrit bar kennsl á konuna með hjálp mynda úr eftirlitsmyndavél. Gervigreindin gleymdi því hins vegar að konan var komin 8 mánuði á leið en ræninginn bar ekki barn undir belti.

Hélt að einhver væri að gera sér grikk

Porcha Woodruff hélt að það væri einhver að stríða henni þegar sex lögreglumenn í fullum skrúða bönkuðu upp á hjá henni snemma á fimmtudagsmorgni og tilkynntu henni að hún væri handtekin, grunuð um að hafa stolið bíl á bensínstöð. Porcha var í óðaönn að gefa börnunum sínum, 6 og 12 ára, morgunverð og senda þau í skóla.

Var nálægt því að missa barnið

Hún benti lögregluþjónunum á magann á sér og spurði hvort þeir væru ekki að grínast, hún væri komin átta mánuði á leið. Þeir héldu nú ekki, handjárnuðu hana og stungu henni inn í fangaklefa þar sem hún mátti sitja á steinbekk í 11 klukkustundir, fram að kvöldmat. Henni var sleppt gegn greiðslu 100.000 dala tryggingu, og þá var farið beint með hana á bráðamóttöku. Þar sögðu læknar að hún hefði orðið fyrir ofþornun og að það væri mesta mildi að Porcha hefði ekki misst barnið sitt.

Lögreglan í Detroit hefur tekið í notkun gervigreindarforrit sem er notað til að bera kennsl á fólk sem brýtur af sér og næst á myndir eftirlitsmyndavéla. Í gagnasafni lögreglunnar var 8 ára gömul mynd af Porchu, þar sem hún hafði á sínum tíma ekið með útrunnið ökuskírteini. Gervigreindarforritið sagði að Porcha væri á myndinni þar sem kona sést stela bíl á bensínstöð. Og það var eins og við manninn mælt, lögreglan skundaði heim til hennar og handtók hana. Jafnvel þó að konan á myndinni hafi ekki verið ólétt.

Mistökin snúast alltaf um blökkufólk

Porcha hefur nú stefnt lögreglunni í Detroit fyrir handtökuna. Tvö önnur mál eru nú rekin gegn lögreglunni í borginni af sömu ástæðu. Lögmenn Porchu segja dæmin sanna að myndgreiningarforritin séu mjög ófullkomin og geri ótal mistök, sem alltaf lúti að rangri myndgreiningu á blökkufólki. Það séu því, þegar öllu er á botninn hvolft, innbyggðir fordómar í sjálfri gervigreindinni.

Bandaríkin Gervigreind

Athugið. Vísir hvetur lesendur til að skiptast á skoðunum. Allar athugasemdir eru á ábyrgð þeirra er þær rita. Lesendur skulu halda sig við málefnalega og hófstillta umræðu og áskilur Vísir sér rétt til að fjarlægja ummæli og/eða umræðu sem fer út fyrir þau mörk. Vísir mun loka á aðgang þeirra sem tjá sig ekki undir eigin nafni eða gerast ítrekað brotlegir við ofangreindar umgengnisreglur.

Mest lesið

Fleiri fréttir