Tölvuforrit frá Amazon ruglar saman þingmönnum og eftirlýstum glæpamönnum Gunnar Hrafn Jónsson skrifar 26. júlí 2018 16:28 Forritið virðist hafa innbyggða fordóma gagnvart þeldökku fólki. Vísir/Getty 28 bandarískir þingmenn eru eftirlýstir af lögreglunni ef marka má niðurstöður úr nýju forriti frá tæknirisanum Amazon. Forritið ber saman andlit fólks við upplýsingar úr gagnagrunni lögreglu til að bera kennsl á glæpamenn. Vandamálið er að það virðist ekki vera mikið að marka niðurstöður forritsins enn sem komið er. American Civil Liberties Union (ACLU) eru félagasamtök sem berjast fyrir borgaralegum réttindum. Þau gerðu tilraunir með forritið sem fólust í að mata það á ljósmyndum af öllum núverandi þingmönnum. Eins og fyrr segir vildi forritið meina að 28 þeirra væru á flótta undan réttvísinni. Talsmaður ACLU segir þetta sýna hversu hættulegt það sé að treysta á tölvuforrit í þessum tilgangi. Formælandi Amazon segir hins vegar að með því að breyta stillingum forritsins sé auðvelt að auka nákvæmni þess og koma í veg fyrir þessar fölsku niðurstöður. Amazon notar sama forrit í margvíslegum tilgangi. Það hefur verið notað til að flokka myndir af frægu fólki, bera kennsl á óviðeigandi myndefni og margt fleira. Amazon er nú að vinna með lögreglu vestanhafs til að innleiða notkun forritsins í löggæslustörfum. ACLU segir það stórhættulega þróun og bendir á að forritið hafi innbyggða fordóma þeirra sem hönnuðu það. Af þeim sem voru ranglega sagðir glæpamenn af forritinu voru 40% blökkumenn. Það virðist því tvöfalt líklegra til að rugla dökkleitu fólki saman við glæpamenn. Tækni Tengdar fréttir Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05 Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03 Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33 Mest lesið Dregur framboðið til baka Innlent Ákvörðun áfrýjunardómstólsins áfall og stórt skref aftur á bak Erlent Auglýsa eftir „eiganda“ fjármuna Innlent Leyfislausar tjaldbúðir og sundsprettur eftir lokun Innlent Bein útsending: Forsetaefnin skila inn framboðum sínum í Hörpu Innlent Trump líklegur til að græða á úrskurði Hæstaréttar Erlent Niðri fyrir vegna Útlaganna Innlent Samtök hernaðarandstæðinga fordæma „kúvendingu“ á afstöðu Íslands Innlent Kínverjar vara Bandaríkjamenn við að stíga á „rauðu strikin“ Innlent Dómstóll fyrirskipar handtöku landbúnaðarráðherra Selenskís Erlent Fleiri fréttir Rýma dómshús vegna sprengjuhótunar Dómstóll fyrirskipar handtöku landbúnaðarráðherra Selenskís Ákvörðun áfrýjunardómstólsins áfall og stórt skref aftur á bak Trump líklegur til að græða á úrskurði Hæstaréttar Dómi Harvey Weinstein snúið við Tekur fyrir að hafa verið „hermaður Hitlers“ Maður á sextugsaldri sagður hafa stungið grunnskóladreng Sánchez íhugar að segja af sér vegna meintrar spillingar Spaðar Rauðu myllunnar hrundu til jarðar í nótt Skipulögðu árásir í Þýskalandi og víðar í nafni ISKP Fyrstu hergögnin eiga að berast til Úkraínu á næstu klukkustundum Segir ekki af sér þrátt fyrir njósnir aðstoðarmannsins Aðstoðarvarnarmálaráðherra ákærður fyrir mútuþægni Upptök eldsins í gömlu kauphöllinni enn ókunn Settur út af sakramentinu fyrir að stýra minningarstund um Navalní Handtóku barnunga öfgamenn eftir stunguárás í Sydney Ekki ólöglegt fyrir konur að brjóta gegn körlum Grunuð um að hafa banað tveimur börnum Vitni greinir frá ráðabruggi og lögmaður Trump fær viðvörun Öldungadeildin samþykkti 95 milljarða dala aðstoð við Úkraínu, Ísrael og Taívan Reyna að sigla um geiminn á geislum sólarinnar Lýsa yfir áhyggjum af fregnum af fjöldagröfum á Gasa Fá aftur gögn frá tæplega hálfrar aldar gömlu geimfari Umdeildur flutningur á hælisleitendum til Rúanda samþykktur Starfsmaður hægrijaðarflokks handtekinn fyrir njósnir fyrir Kína Gera alvarlegar athugasemdir við verðlaunakerfi Tik Tok Tugir handteknir á mótmælum háskólanema gegn aðgerðum Ísraels Undirbúa stærðarinnar sendingar til Úkraínu Engin sönnunargögn bendla UNRWA við árásina Hættu við umfangsmiklar árásir á Íran Sjá meira
28 bandarískir þingmenn eru eftirlýstir af lögreglunni ef marka má niðurstöður úr nýju forriti frá tæknirisanum Amazon. Forritið ber saman andlit fólks við upplýsingar úr gagnagrunni lögreglu til að bera kennsl á glæpamenn. Vandamálið er að það virðist ekki vera mikið að marka niðurstöður forritsins enn sem komið er. American Civil Liberties Union (ACLU) eru félagasamtök sem berjast fyrir borgaralegum réttindum. Þau gerðu tilraunir með forritið sem fólust í að mata það á ljósmyndum af öllum núverandi þingmönnum. Eins og fyrr segir vildi forritið meina að 28 þeirra væru á flótta undan réttvísinni. Talsmaður ACLU segir þetta sýna hversu hættulegt það sé að treysta á tölvuforrit í þessum tilgangi. Formælandi Amazon segir hins vegar að með því að breyta stillingum forritsins sé auðvelt að auka nákvæmni þess og koma í veg fyrir þessar fölsku niðurstöður. Amazon notar sama forrit í margvíslegum tilgangi. Það hefur verið notað til að flokka myndir af frægu fólki, bera kennsl á óviðeigandi myndefni og margt fleira. Amazon er nú að vinna með lögreglu vestanhafs til að innleiða notkun forritsins í löggæslustörfum. ACLU segir það stórhættulega þróun og bendir á að forritið hafi innbyggða fordóma þeirra sem hönnuðu það. Af þeim sem voru ranglega sagðir glæpamenn af forritinu voru 40% blökkumenn. Það virðist því tvöfalt líklegra til að rugla dökkleitu fólki saman við glæpamenn.
Tækni Tengdar fréttir Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05 Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03 Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33 Mest lesið Dregur framboðið til baka Innlent Ákvörðun áfrýjunardómstólsins áfall og stórt skref aftur á bak Erlent Auglýsa eftir „eiganda“ fjármuna Innlent Leyfislausar tjaldbúðir og sundsprettur eftir lokun Innlent Bein útsending: Forsetaefnin skila inn framboðum sínum í Hörpu Innlent Trump líklegur til að græða á úrskurði Hæstaréttar Erlent Niðri fyrir vegna Útlaganna Innlent Samtök hernaðarandstæðinga fordæma „kúvendingu“ á afstöðu Íslands Innlent Kínverjar vara Bandaríkjamenn við að stíga á „rauðu strikin“ Innlent Dómstóll fyrirskipar handtöku landbúnaðarráðherra Selenskís Erlent Fleiri fréttir Rýma dómshús vegna sprengjuhótunar Dómstóll fyrirskipar handtöku landbúnaðarráðherra Selenskís Ákvörðun áfrýjunardómstólsins áfall og stórt skref aftur á bak Trump líklegur til að græða á úrskurði Hæstaréttar Dómi Harvey Weinstein snúið við Tekur fyrir að hafa verið „hermaður Hitlers“ Maður á sextugsaldri sagður hafa stungið grunnskóladreng Sánchez íhugar að segja af sér vegna meintrar spillingar Spaðar Rauðu myllunnar hrundu til jarðar í nótt Skipulögðu árásir í Þýskalandi og víðar í nafni ISKP Fyrstu hergögnin eiga að berast til Úkraínu á næstu klukkustundum Segir ekki af sér þrátt fyrir njósnir aðstoðarmannsins Aðstoðarvarnarmálaráðherra ákærður fyrir mútuþægni Upptök eldsins í gömlu kauphöllinni enn ókunn Settur út af sakramentinu fyrir að stýra minningarstund um Navalní Handtóku barnunga öfgamenn eftir stunguárás í Sydney Ekki ólöglegt fyrir konur að brjóta gegn körlum Grunuð um að hafa banað tveimur börnum Vitni greinir frá ráðabruggi og lögmaður Trump fær viðvörun Öldungadeildin samþykkti 95 milljarða dala aðstoð við Úkraínu, Ísrael og Taívan Reyna að sigla um geiminn á geislum sólarinnar Lýsa yfir áhyggjum af fregnum af fjöldagröfum á Gasa Fá aftur gögn frá tæplega hálfrar aldar gömlu geimfari Umdeildur flutningur á hælisleitendum til Rúanda samþykktur Starfsmaður hægrijaðarflokks handtekinn fyrir njósnir fyrir Kína Gera alvarlegar athugasemdir við verðlaunakerfi Tik Tok Tugir handteknir á mótmælum háskólanema gegn aðgerðum Ísraels Undirbúa stærðarinnar sendingar til Úkraínu Engin sönnunargögn bendla UNRWA við árásina Hættu við umfangsmiklar árásir á Íran Sjá meira
Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05
Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03
Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33