Tölvuforrit frá Amazon ruglar saman þingmönnum og eftirlýstum glæpamönnum Gunnar Hrafn Jónsson skrifar 26. júlí 2018 16:28 Forritið virðist hafa innbyggða fordóma gagnvart þeldökku fólki. Vísir/Getty 28 bandarískir þingmenn eru eftirlýstir af lögreglunni ef marka má niðurstöður úr nýju forriti frá tæknirisanum Amazon. Forritið ber saman andlit fólks við upplýsingar úr gagnagrunni lögreglu til að bera kennsl á glæpamenn. Vandamálið er að það virðist ekki vera mikið að marka niðurstöður forritsins enn sem komið er. American Civil Liberties Union (ACLU) eru félagasamtök sem berjast fyrir borgaralegum réttindum. Þau gerðu tilraunir með forritið sem fólust í að mata það á ljósmyndum af öllum núverandi þingmönnum. Eins og fyrr segir vildi forritið meina að 28 þeirra væru á flótta undan réttvísinni. Talsmaður ACLU segir þetta sýna hversu hættulegt það sé að treysta á tölvuforrit í þessum tilgangi. Formælandi Amazon segir hins vegar að með því að breyta stillingum forritsins sé auðvelt að auka nákvæmni þess og koma í veg fyrir þessar fölsku niðurstöður. Amazon notar sama forrit í margvíslegum tilgangi. Það hefur verið notað til að flokka myndir af frægu fólki, bera kennsl á óviðeigandi myndefni og margt fleira. Amazon er nú að vinna með lögreglu vestanhafs til að innleiða notkun forritsins í löggæslustörfum. ACLU segir það stórhættulega þróun og bendir á að forritið hafi innbyggða fordóma þeirra sem hönnuðu það. Af þeim sem voru ranglega sagðir glæpamenn af forritinu voru 40% blökkumenn. Það virðist því tvöfalt líklegra til að rugla dökkleitu fólki saman við glæpamenn. Tækni Tengdar fréttir Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05 Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03 Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33 Mest lesið Greindi þátt almennings og fjölmiðla í máli „strokufangans“ Innlent Sagður hafa tæmt sjóði flokksins og rekur nýja stjórn úr húsnæðinu Innlent Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Erlent Halla forseti blandar sér í götuljósaumræðuna Innlent Mikill viðbúnaður vegna eftirfarar á Sæbraut Innlent Reiða fram rúma milljón fyrir Jakub Innlent Vonar að Rauði krossinn endurskoði afstöðu sína Innlent Segir ásakanir kjaftæði og íhugar meiðyrðamál Innlent „Þurfum að huga að forvörnum“ Fréttir Allt að sautján stiga hiti í dag Veður Fleiri fréttir Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Hæstaréttardómarar fjarlægðu flein úr holdi Bandaríkjaforseta Lífstíðarfangelsi fyrir að myrða 14 ára dreng með samúræjasverði Finna fyrir fjarveru Bandaríkjanna á loftslagsfundi en sakna þeirra ekki Ungar konur særðust í skotárás í Nuuk Sá sem samdi Mission: Impossible lagið er látinn Stjúpsonur norska krónprinsins grunaður um nauðganir Dönsk stjórnvöld vilja tryggja fólki höfundarrétt að eigin persónu Stígur fram og segir Írani hafa löðrungað Bandaríkin „Áreiðanleg gögn“ sanni verulegt tjón á kjarnorkumannvirkjum Hvar er Khamenei? Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Stofna sérstakan dómstól vegna árásarglæpa Rússa Segist funda með ráðamönnum Íran í næstu viku Trump íhugar að láta Úkraínumenn fá fleiri Patriot-kerfi Kristrún missti af fundi með Selenskí Tók í spaðann á Trump: „Hann er nú heillandi, karlinn“ Segir Spánverja munu borga fyrir að borga ekki nóg Lögðu grunninn að „sterkara, sanngjarnara og banvænna“ NATO Telur engan vafa um að Bandaríkin verji bandamenn sína Biðst afsökunar á gyðingahatri Svíþjóðardemókrata Diddy ætlar ekki að bera vitni Trump gefur lítið fyrir Pentagon skýrsluna og segir árásina hafa heppnast fullkomlega 33 ára sósíalisti hafði betur gegn Cuomo í New York Bretar eignast aftur herþotur sem geta flutt kjarnorkuvopn Myndaveisla: Fyrsti dagur leiðtogafundar Atlantshafsbandalagsins Æsispennandi forval: Framtíð Demókrataflokksins gæti ráðist í New York Átök í Miðausturlöndum: „Erfitt að meta hvað er í raun og veru í gangi“ Ný skýrsla: Bandaríkjunum mistókst að eyðileggja kjarnorkumannvirki Írana „Þrátt fyrir allan þennan vígbúnað þá er þetta mjög vinalegt“ Sjá meira
28 bandarískir þingmenn eru eftirlýstir af lögreglunni ef marka má niðurstöður úr nýju forriti frá tæknirisanum Amazon. Forritið ber saman andlit fólks við upplýsingar úr gagnagrunni lögreglu til að bera kennsl á glæpamenn. Vandamálið er að það virðist ekki vera mikið að marka niðurstöður forritsins enn sem komið er. American Civil Liberties Union (ACLU) eru félagasamtök sem berjast fyrir borgaralegum réttindum. Þau gerðu tilraunir með forritið sem fólust í að mata það á ljósmyndum af öllum núverandi þingmönnum. Eins og fyrr segir vildi forritið meina að 28 þeirra væru á flótta undan réttvísinni. Talsmaður ACLU segir þetta sýna hversu hættulegt það sé að treysta á tölvuforrit í þessum tilgangi. Formælandi Amazon segir hins vegar að með því að breyta stillingum forritsins sé auðvelt að auka nákvæmni þess og koma í veg fyrir þessar fölsku niðurstöður. Amazon notar sama forrit í margvíslegum tilgangi. Það hefur verið notað til að flokka myndir af frægu fólki, bera kennsl á óviðeigandi myndefni og margt fleira. Amazon er nú að vinna með lögreglu vestanhafs til að innleiða notkun forritsins í löggæslustörfum. ACLU segir það stórhættulega þróun og bendir á að forritið hafi innbyggða fordóma þeirra sem hönnuðu það. Af þeim sem voru ranglega sagðir glæpamenn af forritinu voru 40% blökkumenn. Það virðist því tvöfalt líklegra til að rugla dökkleitu fólki saman við glæpamenn.
Tækni Tengdar fréttir Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05 Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03 Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33 Mest lesið Greindi þátt almennings og fjölmiðla í máli „strokufangans“ Innlent Sagður hafa tæmt sjóði flokksins og rekur nýja stjórn úr húsnæðinu Innlent Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Erlent Halla forseti blandar sér í götuljósaumræðuna Innlent Mikill viðbúnaður vegna eftirfarar á Sæbraut Innlent Reiða fram rúma milljón fyrir Jakub Innlent Vonar að Rauði krossinn endurskoði afstöðu sína Innlent Segir ásakanir kjaftæði og íhugar meiðyrðamál Innlent „Þurfum að huga að forvörnum“ Fréttir Allt að sautján stiga hiti í dag Veður Fleiri fréttir Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Hæstaréttardómarar fjarlægðu flein úr holdi Bandaríkjaforseta Lífstíðarfangelsi fyrir að myrða 14 ára dreng með samúræjasverði Finna fyrir fjarveru Bandaríkjanna á loftslagsfundi en sakna þeirra ekki Ungar konur særðust í skotárás í Nuuk Sá sem samdi Mission: Impossible lagið er látinn Stjúpsonur norska krónprinsins grunaður um nauðganir Dönsk stjórnvöld vilja tryggja fólki höfundarrétt að eigin persónu Stígur fram og segir Írani hafa löðrungað Bandaríkin „Áreiðanleg gögn“ sanni verulegt tjón á kjarnorkumannvirkjum Hvar er Khamenei? Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Stofna sérstakan dómstól vegna árásarglæpa Rússa Segist funda með ráðamönnum Íran í næstu viku Trump íhugar að láta Úkraínumenn fá fleiri Patriot-kerfi Kristrún missti af fundi með Selenskí Tók í spaðann á Trump: „Hann er nú heillandi, karlinn“ Segir Spánverja munu borga fyrir að borga ekki nóg Lögðu grunninn að „sterkara, sanngjarnara og banvænna“ NATO Telur engan vafa um að Bandaríkin verji bandamenn sína Biðst afsökunar á gyðingahatri Svíþjóðardemókrata Diddy ætlar ekki að bera vitni Trump gefur lítið fyrir Pentagon skýrsluna og segir árásina hafa heppnast fullkomlega 33 ára sósíalisti hafði betur gegn Cuomo í New York Bretar eignast aftur herþotur sem geta flutt kjarnorkuvopn Myndaveisla: Fyrsti dagur leiðtogafundar Atlantshafsbandalagsins Æsispennandi forval: Framtíð Demókrataflokksins gæti ráðist í New York Átök í Miðausturlöndum: „Erfitt að meta hvað er í raun og veru í gangi“ Ný skýrsla: Bandaríkjunum mistókst að eyðileggja kjarnorkumannvirki Írana „Þrátt fyrir allan þennan vígbúnað þá er þetta mjög vinalegt“ Sjá meira
Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05
Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03
Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33