Óheppilegt ef fölsk mynd varpar sök á saklausan mann Tómas Arnar Þorláksson skrifar 31. júlí 2025 23:00 Unnar Már Ástþórsson, aðalvarðstjóri lögreglunnar á höfuðborgarsvæðinu. vísir/ívar Lögreglan á höfuðborgarsvæðinu er miður sín eftir að hafa dreift mynd sem hafði verið breytt með gervigreind. Það hefði getað haft alvarlegar afleiðingar í för með sér að sögn aðalvarðstjóra. Hann vonar að mannleg mistök komi ekki til með að rýra traust almennings til lögreglunnar. Lögreglan á höfuðborgarsvæðinu deildi í gær ljósmynd með það fyrir stafni að fá frekari upplýsingar um fjóra menn sem höfðu verið staðnir að því í upptöku úr öryggismyndavél að stela dísilolíu úr flutningabíl. Eina vandamálið er að mennirnir á ljósmyndinni og mennirnir í upptökunni eru alls ekki þeir sömu. Það hafði verið átt við skjáskot úr öryggismyndavélinni með þeim afleiðingum að skáldað var í eyðurnar eins og sjá má. Til að mynda var gullkeðju bætt við ásamt merki á bifreiðina, húfu breytt í hár og í raun andlit og svipbrigði skálduð frá grunni. „Við erum mjög miður okkar yfir þessu“ Lögreglan baðst að lokum afsökunar á myndinni og fjarlægði hana. Unnar Már Ástþórsson, aðalvarðstjóri hjá lögreglunni á höfuðborgarsvæðinu, segir enn ekki ljóst hver uppruni myndarinnar sé. „Við erum mjög miður okkar yfir þessu, að þetta hafi gerst. Við höfum alveg komið fram með það núna í dag að við höfum beðist innilegrar afsökunar á þessu. Auðvitað er það óheppilegt að lögreglan birti myndir sem varpa mögulega sök á einstakling sem er saklaus.“ Umrædd mynd var upphaflega birt á Facebook-hópnum Þjófar á Íslandi af aðgangi sem var stofnaður í maí og siglir undir fölsku flaggi. Lögreglan fékk síðan myndina senda. Mannleg mistök hafi orðið til þess að hún var birt og verða verkferlar því endurskoðaðir. Hafið þið áhyggjur af því að þetta rýri traust til lögreglunnar? „Við höfum alltaf áhyggjur af því að mistök okkar verði til þess að rýra traust. Vinnan okkar felst í því, hvernig við tökum á móti myndunum, hvernig við yfirfærum myndirnar. Er sannarlega um rétt myndefni að ræða?“ Komið fyrir að saklaus maður sé handtekinn vegna gervigreindar Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands og sérfræðingur um gervigreind, segir að forrit sem slík eigi það til að halla á ákveðna minnihlutahópa og skálda í eyðurnar. „Það eru þekkt dæmi um það. Margar svona aðferðir voru þjálfaðar, allavega í fyrndinni, mest á hvítu fólki. Svona bjagar geta leynst í svona líkunum. Við vitum oft ekkert hvaða bjagar eru í þeim og á hvaða gögnum þau hafa verið þjálfuð.“ Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands.vísir/ívar Veist þú til þess að eitthvað líkt þessu hafi gerst áður? „Það eru nokkur dæmi frá Bandaríkjunum þar sem er búið að taka mynd af einstakling sem er í lágri upplausn eins og er hér. Síðan er flett upp í gagnagrunni af ökuskírteinum og einhver er ranglega handtekinn, því það er búið að fletta upp rangri manneskju. Og það er gert með gervigreind. Gervigreind hefur leitt til mistaka eins og hefði getað gerst hér. Það hefur gerst að einhver er ranglega handtekinn út af gervigreind.“ Hann ítrekar að þegar að upplausn er jafn lítil eins og raun ber vitni í umræddri upptöku úr öryggismyndavél er ekki hægt að þysja inn eins og er oft sýnt í kvikmyndum. Þvert á móti býr gervigreindin til ný gögn og nýjar upplýsingar. „Gervigreindin er að fara verða það góð með tímanum að við sjáum mögulega ekkert lengur með tímanum hvað kemur frá gervigreind og hvað ekki.“ Lögreglumál Gervigreind Lögreglan Mest lesið Dullarfull brotlending nærri Area 51 Erlent Engan óraði fyrir framhaldinu Erlent „Það er sárt að þurfa að horfa á eftir þeim“ Innlent Spyr hvort aflífa þurfi sig vegna mjaðmaskipta Innlent Trump og „maðurinn með ljáinn“ hóta að greiða ekki laun Erlent Tóku farsíma af unglingum í Hafnarfirði og millifærðu af reikningum Innlent Lögregla lýsir eftir Aylin Innlent Stofna hreyfingu til undirbúnings íslenskum her Innlent Á leið til Suður-Afríku með syni sína í meðferð vegna úrræðaleysis Innlent Ekki hlutverk stjórnarandstöðunnar að halda uppi stemmingu Innlent Fleiri fréttir „Það er sárt að þurfa að horfa á eftir þeim“ Ekki hlutverk stjórnarandstöðunnar að halda uppi stemmingu Segir réttast að ráðherra dragi drögin í heild sinni til baka Spyr hvort aflífa þurfi sig vegna mjaðmaskipta Þungt símtal bónda í Skagafirði Lögregla lýsir eftir Aylin Dæmi um að aðstandendur beri fíkniefni í börn á Stuðlum Tóku farsíma af unglingum í Hafnarfirði og millifærðu af reikningum Stofna hreyfingu til undirbúnings íslenskum her Fólk hvatt til að setjast og spjalla á spjallbekknum Diljá hlustaði á Bítið með tárin í augunum Kyngreint nautasæði kemur vel út Samþykkt að kortleggja eignarhald sjávarútvegsfyrirtækja „Þýðir ekki bara að moka yfir hlutina“ Segir stöðuna á sjúkrahúsinu á Akureyri grafalvarlega „Það þarf að gera meira og hraðar“ Ekki áfellisdómur yfir kerfinu að farið sé með börn í meðferð í Suður-Afríku Snjór í Esjunni en ekki víst að hann festist Farþegi á bak og burt þegar björgunaraðilar mættu „Munum fagna þegar riðu hefur verið útrýmt á Íslandi“ „Ekki svo að allir bændur séu að kvarta“ Tvö ár liðin frá árásum Hamas og alvarlegt rútuslys á Snæfellsnesi Vilja heimili á markað en ekki uppboð við nauðungarsölu Þriðjungur telur sumarfrí grunnskólabarna of langt Óánægja með stjórnarandstöðu í hæstu hæðum Mótmæla við ríkisstjórnarfund og kalla eftir aðgerðum Á leið til Suður-Afríku með syni sína í meðferð vegna úrræðaleysis Umferð stýrt eftir að ekið var á grindverk á Austurvegi Skorið á hjólbarða og spreyjað á bifreiðar Búningsklefar minna á fatagám: „Þetta mun aldrei breytast, því miður“ Sjá meira
Lögreglan á höfuðborgarsvæðinu deildi í gær ljósmynd með það fyrir stafni að fá frekari upplýsingar um fjóra menn sem höfðu verið staðnir að því í upptöku úr öryggismyndavél að stela dísilolíu úr flutningabíl. Eina vandamálið er að mennirnir á ljósmyndinni og mennirnir í upptökunni eru alls ekki þeir sömu. Það hafði verið átt við skjáskot úr öryggismyndavélinni með þeim afleiðingum að skáldað var í eyðurnar eins og sjá má. Til að mynda var gullkeðju bætt við ásamt merki á bifreiðina, húfu breytt í hár og í raun andlit og svipbrigði skálduð frá grunni. „Við erum mjög miður okkar yfir þessu“ Lögreglan baðst að lokum afsökunar á myndinni og fjarlægði hana. Unnar Már Ástþórsson, aðalvarðstjóri hjá lögreglunni á höfuðborgarsvæðinu, segir enn ekki ljóst hver uppruni myndarinnar sé. „Við erum mjög miður okkar yfir þessu, að þetta hafi gerst. Við höfum alveg komið fram með það núna í dag að við höfum beðist innilegrar afsökunar á þessu. Auðvitað er það óheppilegt að lögreglan birti myndir sem varpa mögulega sök á einstakling sem er saklaus.“ Umrædd mynd var upphaflega birt á Facebook-hópnum Þjófar á Íslandi af aðgangi sem var stofnaður í maí og siglir undir fölsku flaggi. Lögreglan fékk síðan myndina senda. Mannleg mistök hafi orðið til þess að hún var birt og verða verkferlar því endurskoðaðir. Hafið þið áhyggjur af því að þetta rýri traust til lögreglunnar? „Við höfum alltaf áhyggjur af því að mistök okkar verði til þess að rýra traust. Vinnan okkar felst í því, hvernig við tökum á móti myndunum, hvernig við yfirfærum myndirnar. Er sannarlega um rétt myndefni að ræða?“ Komið fyrir að saklaus maður sé handtekinn vegna gervigreindar Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands og sérfræðingur um gervigreind, segir að forrit sem slík eigi það til að halla á ákveðna minnihlutahópa og skálda í eyðurnar. „Það eru þekkt dæmi um það. Margar svona aðferðir voru þjálfaðar, allavega í fyrndinni, mest á hvítu fólki. Svona bjagar geta leynst í svona líkunum. Við vitum oft ekkert hvaða bjagar eru í þeim og á hvaða gögnum þau hafa verið þjálfuð.“ Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands.vísir/ívar Veist þú til þess að eitthvað líkt þessu hafi gerst áður? „Það eru nokkur dæmi frá Bandaríkjunum þar sem er búið að taka mynd af einstakling sem er í lágri upplausn eins og er hér. Síðan er flett upp í gagnagrunni af ökuskírteinum og einhver er ranglega handtekinn, því það er búið að fletta upp rangri manneskju. Og það er gert með gervigreind. Gervigreind hefur leitt til mistaka eins og hefði getað gerst hér. Það hefur gerst að einhver er ranglega handtekinn út af gervigreind.“ Hann ítrekar að þegar að upplausn er jafn lítil eins og raun ber vitni í umræddri upptöku úr öryggismyndavél er ekki hægt að þysja inn eins og er oft sýnt í kvikmyndum. Þvert á móti býr gervigreindin til ný gögn og nýjar upplýsingar. „Gervigreindin er að fara verða það góð með tímanum að við sjáum mögulega ekkert lengur með tímanum hvað kemur frá gervigreind og hvað ekki.“
Lögreglumál Gervigreind Lögreglan Mest lesið Dullarfull brotlending nærri Area 51 Erlent Engan óraði fyrir framhaldinu Erlent „Það er sárt að þurfa að horfa á eftir þeim“ Innlent Spyr hvort aflífa þurfi sig vegna mjaðmaskipta Innlent Trump og „maðurinn með ljáinn“ hóta að greiða ekki laun Erlent Tóku farsíma af unglingum í Hafnarfirði og millifærðu af reikningum Innlent Lögregla lýsir eftir Aylin Innlent Stofna hreyfingu til undirbúnings íslenskum her Innlent Á leið til Suður-Afríku með syni sína í meðferð vegna úrræðaleysis Innlent Ekki hlutverk stjórnarandstöðunnar að halda uppi stemmingu Innlent Fleiri fréttir „Það er sárt að þurfa að horfa á eftir þeim“ Ekki hlutverk stjórnarandstöðunnar að halda uppi stemmingu Segir réttast að ráðherra dragi drögin í heild sinni til baka Spyr hvort aflífa þurfi sig vegna mjaðmaskipta Þungt símtal bónda í Skagafirði Lögregla lýsir eftir Aylin Dæmi um að aðstandendur beri fíkniefni í börn á Stuðlum Tóku farsíma af unglingum í Hafnarfirði og millifærðu af reikningum Stofna hreyfingu til undirbúnings íslenskum her Fólk hvatt til að setjast og spjalla á spjallbekknum Diljá hlustaði á Bítið með tárin í augunum Kyngreint nautasæði kemur vel út Samþykkt að kortleggja eignarhald sjávarútvegsfyrirtækja „Þýðir ekki bara að moka yfir hlutina“ Segir stöðuna á sjúkrahúsinu á Akureyri grafalvarlega „Það þarf að gera meira og hraðar“ Ekki áfellisdómur yfir kerfinu að farið sé með börn í meðferð í Suður-Afríku Snjór í Esjunni en ekki víst að hann festist Farþegi á bak og burt þegar björgunaraðilar mættu „Munum fagna þegar riðu hefur verið útrýmt á Íslandi“ „Ekki svo að allir bændur séu að kvarta“ Tvö ár liðin frá árásum Hamas og alvarlegt rútuslys á Snæfellsnesi Vilja heimili á markað en ekki uppboð við nauðungarsölu Þriðjungur telur sumarfrí grunnskólabarna of langt Óánægja með stjórnarandstöðu í hæstu hæðum Mótmæla við ríkisstjórnarfund og kalla eftir aðgerðum Á leið til Suður-Afríku með syni sína í meðferð vegna úrræðaleysis Umferð stýrt eftir að ekið var á grindverk á Austurvegi Skorið á hjólbarða og spreyjað á bifreiðar Búningsklefar minna á fatagám: „Þetta mun aldrei breytast, því miður“ Sjá meira