Apple hyggst skima eftir barnaníð þegar myndir fara í skýið Hólmfríður Gísladóttir skrifar 6. ágúst 2021 08:22 Menn eru ekki á eitt sáttir um ágæti ákvörðunar Apple. Getty/NurPhoto/Jaap Arriens Tæknirisinn Apple hyggst taka í notkun hugbúnað til að skima allar myndir sem farsímanotendur hlaða upp í skýið (iCloud). Hugbúnaðinum er ætlað að bera kennsl á þekktar myndir sem sýna kynferðislega misnotkun á börnum. Ákvörðuninni hefur verið fagnað af þeim sem vinna að því að uppræta barnaníð á netinu en talsmenn netfrelsis og persónuverndarsjónarmiða segja þróunina afar varhugaverða. Breytingin mun aðeins ná til iPhone-símtækja í Bandaríkjunum. Í þeim tilvikum þar sem hugbúnaðurinn neuralMatch ber kennsl á mynd sem það telur sýna misnotkun er myndin flögguð og skoðuð af manneskju. Ef misnotkun er staðfest verður umræddur iCloud-aðgangur gerður óvirkur og yfirvöld látin vita. Forsvarsmenn Apple hyggjast einnig skima dulkóðuð skilaboð notenda til að leita að þekktum barnaníðsmyndum en bæði stjórnvöld og stóru tæknifyrirtækin búa yfir gagnabanka sem geymir milljónir slíkra mynda. Matthew Green, sem rannsakar dulkóðun við Johns Hopkins University, varar við því að kerfið kann að verða notað í misjöfnum tilgangi; til dæmis gætu óprúttnir aðilar komið saklausum einstaklinum í vandræði með því að senda þeim sakleysislegar myndir sem kerfið flaggar engu að síður. Green segir þegar hafa verið sýnt fram á að hægt sé að blekkja algóriþma með þessum hætti og þá eru einnig uppi áhyggjur um hvað gerist ef stjórnvöld fyrirskipa tæknifyrirtækjum að nota hugbúnaðinn til að leita að öðru en barnaníðsefni. „Hvað gerist þegar stjórnvöld í Kína segja: Hér er listi af gögnum sem við viljum að þú skimir eftir?“ spyr Green. „Segir Apple nei? Ég vona að þeir segi nei en tæknin þeirra segir ekki nei.“ Sláandi stefnubreyting eða lífsbjörg? Apple og aðrir tæknirisar stunda það nú þegar að skima eftir „fingraförum“ þekktra mynda sem sýna kynferðislegra misnotkun á börnum og Apple hefur löngum verið undir þrýstingi að veita stjórnvöldum aukin aðgang að dulkóðuðum gögnum. Electronic Frontier Foundation segir ákvörðun Apple nú sláandi stefnubreytingu fyrirtækis hvers notendur hafa geta reitt sig á öryggi og persónuvernd. Hany Farid, maðurinn sem fann upp PhotoDNA, sem hefur gert löggæsluyfirvöldum kleift að leita að barnaníðsefni á netinu, segir ákvörðunina hins vegar ekkert til að hafa sérstakar áhyggjur af. Bendir hann meðal annars á að mörg áþekk forrit hafi verið í notkun án skaðvænlegra áhrifa. Til dæmis bjóði WhatsApp upp á öfluga dulkóðun en noti á sama tíma hugbúnað til að leita að vírusum og vari notendur við að smella ekki á hættulega hlekki. John Clark, forseti og framkvæmdastjóri National Center for Missing and Exploited Children, segir ákvörðun Apple vatnaskil í barátti gegn barnaníð á netinu. „Vegna fjölda notenda vara frá Apple munu þessar nýju öryggisráðstafanir mögulega verða til þess að bjarga lífum,“ segir hann. Ítarlega umfjöllun um málið má finna hjá Guardian. Persónuvernd Tækni Apple Réttindi barna Kynferðisofbeldi Mest lesið Leigubílstjóri grunaður um stórfellda líkamsárás rekinn Innlent Búningsklefar minna á fatagám: „Þetta mun aldrei breytast, því miður“ Innlent Vill vita hvað Úkraínumenn vilja gera við bandarískar stýriflaugar Erlent Skorið á hjólbarða og spreyjað á bifreiðar Innlent Telja að eitt prósent þjóðarinnar sé haldið barnagirnd Innlent Vilja að Reykjavík lögsæki ríkið Innlent Hópslysaáætlun virkjuð á Snæfellsnesi Innlent Maður dvaldi í Alþingishúsinu yfir nótt Innlent Handtekinn fyrir stórfellda líkamsárás í Dugguvogi Innlent „Við viljum bara grípa þau fyrr“ Innlent Fleiri fréttir Tvö ár liðin frá árásum Hamas á Ísrael Vill vita hvað Úkraínumenn vilja gera við bandarískar stýriflaugar Hæstiréttur hafnar Maxwell Stofna rannsóknarnefnd um Afganistan sem Íslendingar kölluðu eftir Gretu Thunberg og félögum vísað úr landi Gisèle Pelicot aftur í réttarsal Fá Nóbelinn fyrir ónæmisrannsóknir sínar Bein útsending: Hver fær Nóbelsverðlaunin í læknisfræði? Forsætisráðherra Frakklands segir af sér Viðræður um frið á Gasa hefjast í dag Nýskipaðri ríkisstjórn þegar hótað vantrausti Stórtap Air Greenland vegna aflýstra flugferða til Nuuk Tæplega þúsund manns innlyksa á Everest Látinn eftir skotárás í Kaupmannahöfn Sögð vafin í ísraelska fánann og veifað um eins og verðlaunagrip Fjögurra manna fjölskylda meðal látinna Sendir þjóðvarðliðið til Chicago Segja stutt í samkomulag en sprengjum rignir enn Skoðanabróðir Orbans og Fico vinnur kosningar í Tékklandi Þrjátíu særðust í drónaárás á farþegalest Fjöldi án rafmagns vegna vonskuveðurs í Noregi Þrettán ára grunaður um aðild að skotárás Var að streyma á TikTok þegar hann féll til jarðar og lést Loftárásir í kjölfar ákalls Trumps Flogið á ný í München eftir mögulegt drónaflug Skipar Ísraelum að hætta að sprengja Hamasliðar tilbúnir að sleppa gíslum og láta völd af hendi Hótar helvíti á jörð samþykki Hamas ekki tillögurnar Vísa frá máli á hendur skipverjum sem voru taldir hafa slitið sæstrengi „Það vill enginn spila eftir reglum sem eru samdar annars staðar“ Sjá meira
Ákvörðuninni hefur verið fagnað af þeim sem vinna að því að uppræta barnaníð á netinu en talsmenn netfrelsis og persónuverndarsjónarmiða segja þróunina afar varhugaverða. Breytingin mun aðeins ná til iPhone-símtækja í Bandaríkjunum. Í þeim tilvikum þar sem hugbúnaðurinn neuralMatch ber kennsl á mynd sem það telur sýna misnotkun er myndin flögguð og skoðuð af manneskju. Ef misnotkun er staðfest verður umræddur iCloud-aðgangur gerður óvirkur og yfirvöld látin vita. Forsvarsmenn Apple hyggjast einnig skima dulkóðuð skilaboð notenda til að leita að þekktum barnaníðsmyndum en bæði stjórnvöld og stóru tæknifyrirtækin búa yfir gagnabanka sem geymir milljónir slíkra mynda. Matthew Green, sem rannsakar dulkóðun við Johns Hopkins University, varar við því að kerfið kann að verða notað í misjöfnum tilgangi; til dæmis gætu óprúttnir aðilar komið saklausum einstaklinum í vandræði með því að senda þeim sakleysislegar myndir sem kerfið flaggar engu að síður. Green segir þegar hafa verið sýnt fram á að hægt sé að blekkja algóriþma með þessum hætti og þá eru einnig uppi áhyggjur um hvað gerist ef stjórnvöld fyrirskipa tæknifyrirtækjum að nota hugbúnaðinn til að leita að öðru en barnaníðsefni. „Hvað gerist þegar stjórnvöld í Kína segja: Hér er listi af gögnum sem við viljum að þú skimir eftir?“ spyr Green. „Segir Apple nei? Ég vona að þeir segi nei en tæknin þeirra segir ekki nei.“ Sláandi stefnubreyting eða lífsbjörg? Apple og aðrir tæknirisar stunda það nú þegar að skima eftir „fingraförum“ þekktra mynda sem sýna kynferðislegra misnotkun á börnum og Apple hefur löngum verið undir þrýstingi að veita stjórnvöldum aukin aðgang að dulkóðuðum gögnum. Electronic Frontier Foundation segir ákvörðun Apple nú sláandi stefnubreytingu fyrirtækis hvers notendur hafa geta reitt sig á öryggi og persónuvernd. Hany Farid, maðurinn sem fann upp PhotoDNA, sem hefur gert löggæsluyfirvöldum kleift að leita að barnaníðsefni á netinu, segir ákvörðunina hins vegar ekkert til að hafa sérstakar áhyggjur af. Bendir hann meðal annars á að mörg áþekk forrit hafi verið í notkun án skaðvænlegra áhrifa. Til dæmis bjóði WhatsApp upp á öfluga dulkóðun en noti á sama tíma hugbúnað til að leita að vírusum og vari notendur við að smella ekki á hættulega hlekki. John Clark, forseti og framkvæmdastjóri National Center for Missing and Exploited Children, segir ákvörðun Apple vatnaskil í barátti gegn barnaníð á netinu. „Vegna fjölda notenda vara frá Apple munu þessar nýju öryggisráðstafanir mögulega verða til þess að bjarga lífum,“ segir hann. Ítarlega umfjöllun um málið má finna hjá Guardian.
Persónuvernd Tækni Apple Réttindi barna Kynferðisofbeldi Mest lesið Leigubílstjóri grunaður um stórfellda líkamsárás rekinn Innlent Búningsklefar minna á fatagám: „Þetta mun aldrei breytast, því miður“ Innlent Vill vita hvað Úkraínumenn vilja gera við bandarískar stýriflaugar Erlent Skorið á hjólbarða og spreyjað á bifreiðar Innlent Telja að eitt prósent þjóðarinnar sé haldið barnagirnd Innlent Vilja að Reykjavík lögsæki ríkið Innlent Hópslysaáætlun virkjuð á Snæfellsnesi Innlent Maður dvaldi í Alþingishúsinu yfir nótt Innlent Handtekinn fyrir stórfellda líkamsárás í Dugguvogi Innlent „Við viljum bara grípa þau fyrr“ Innlent Fleiri fréttir Tvö ár liðin frá árásum Hamas á Ísrael Vill vita hvað Úkraínumenn vilja gera við bandarískar stýriflaugar Hæstiréttur hafnar Maxwell Stofna rannsóknarnefnd um Afganistan sem Íslendingar kölluðu eftir Gretu Thunberg og félögum vísað úr landi Gisèle Pelicot aftur í réttarsal Fá Nóbelinn fyrir ónæmisrannsóknir sínar Bein útsending: Hver fær Nóbelsverðlaunin í læknisfræði? Forsætisráðherra Frakklands segir af sér Viðræður um frið á Gasa hefjast í dag Nýskipaðri ríkisstjórn þegar hótað vantrausti Stórtap Air Greenland vegna aflýstra flugferða til Nuuk Tæplega þúsund manns innlyksa á Everest Látinn eftir skotárás í Kaupmannahöfn Sögð vafin í ísraelska fánann og veifað um eins og verðlaunagrip Fjögurra manna fjölskylda meðal látinna Sendir þjóðvarðliðið til Chicago Segja stutt í samkomulag en sprengjum rignir enn Skoðanabróðir Orbans og Fico vinnur kosningar í Tékklandi Þrjátíu særðust í drónaárás á farþegalest Fjöldi án rafmagns vegna vonskuveðurs í Noregi Þrettán ára grunaður um aðild að skotárás Var að streyma á TikTok þegar hann féll til jarðar og lést Loftárásir í kjölfar ákalls Trumps Flogið á ný í München eftir mögulegt drónaflug Skipar Ísraelum að hætta að sprengja Hamasliðar tilbúnir að sleppa gíslum og láta völd af hendi Hótar helvíti á jörð samþykki Hamas ekki tillögurnar Vísa frá máli á hendur skipverjum sem voru taldir hafa slitið sæstrengi „Það vill enginn spila eftir reglum sem eru samdar annars staðar“ Sjá meira