Óttast flóðbylgju barnaníðsefnis sköpuðu með aðstoð gervigreindar Hólmfríður Gísladóttir skrifar 8. nóvember 2023 07:07 Börn og foreldrar eru algjörlega varnarlaus gagnvart gervigreindarsköpuðu barnaníðsefni, þar sem allt sem þarf er mynd af andliti barnsins. Getty Móðir stúlku hvers mynd var notuð til að búa til barnaklám með aðstoð gervigreindar segist hafa heyrt frá mörg hundruð foreldrum sem segja börn sín einnig meðal fórnarlamba hinnar nýju tækni. Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði. Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Tónlistarmaðurinn Róbert Örn er fallinn frá Innlent Ellý Katrín hefur kvatt þennan heim Innlent „Forsætisráðherra með dólg og svo rokinn úr salnum í fýlu“ Innlent Lögregluaðgerð á veitingastað í miðbænum Innlent Grunur um mansal á Gríska húsinu Innlent „Ríkisstjórnin verður að hætta að hringja í lögregluna“ Innlent Ræddu við 26 einstaklinga varðandi vændi og mansal Innlent Sót yfir allri íbúðinni þegar hún kom heim frá útlöndum Innlent Einn umdeildasti kennari landsins lætur af störfum Innlent Tveir handteknir vegna gruns um mansal á nuddstofu í Reykjavík Innlent Fleiri fréttir Óeirðaástand í Buenos Aires vegna aðgerðarpakka Milei Lokuðu ferðamannastöðum og skólum vegna mikils hita Gamall handritsbútur reyndist úr guðspjalli um æsku Krists Aðeins fjórðungur Breta vill vera utan ESB Reyna að mynda bandalög fyrir skyndikosningar í Frakklandi Óvíst með afdrif vopnahléstillögunnar Frederiksen enn ekki með sjálfri sér eftir árásina Íhuga að virða tímamótadóm að vettugi Biden virðir sakadóminn yfir syni sínum Óhollar vörur drepa fjórðung Evrópubúa Stilla upp harðlínumönnum til að fylla skarð Raisi Flugfélagið býður hinum slösuðu minnst 1,4 milljónir í bætur Bananarisi ábyrgur fyrir morðum kólumbískrar dauðasveitar Umdeildur dómari vill trúræknari Bandaríki Varaforseti Malaví á meðal tíu látinna Hamas samþykkir vopnahléstillöguna Merki um stríðsglæpi beggja fylkinga þegar gíslar voru frelsaðir Skutu viðvörunarskotum að norðurkóreskum hermönnum Hægri öfl gætu eignast sinn fyrsta forsætisráðherra Tólf ára drengir sekir um morð á nítján ára gömlum manni Öryggisráðið styður friðartillögu Biden Flugvél varaforseta Malaví týnd Biden ber ekki vitni í eigin sakamáli Ekkja leiðtoga ISIS leysir frá skjóðunni Lést af náttúrulegum orsökum Bóluefni gegn flensu og Covid-19 langt á veg komið Macron veðjar á að Frakkar séu í áfalli Fullyrða að gíslar hafi fundist í haldi blaðamanns Mánaðarverkfalli í Færeyjum lýkur Setti sig í samband við ráðgjafa Biden til að mótmæla gagnrýni á AGD Sjá meira
Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði.
Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Tónlistarmaðurinn Róbert Örn er fallinn frá Innlent Ellý Katrín hefur kvatt þennan heim Innlent „Forsætisráðherra með dólg og svo rokinn úr salnum í fýlu“ Innlent Lögregluaðgerð á veitingastað í miðbænum Innlent Grunur um mansal á Gríska húsinu Innlent „Ríkisstjórnin verður að hætta að hringja í lögregluna“ Innlent Ræddu við 26 einstaklinga varðandi vændi og mansal Innlent Sót yfir allri íbúðinni þegar hún kom heim frá útlöndum Innlent Einn umdeildasti kennari landsins lætur af störfum Innlent Tveir handteknir vegna gruns um mansal á nuddstofu í Reykjavík Innlent Fleiri fréttir Óeirðaástand í Buenos Aires vegna aðgerðarpakka Milei Lokuðu ferðamannastöðum og skólum vegna mikils hita Gamall handritsbútur reyndist úr guðspjalli um æsku Krists Aðeins fjórðungur Breta vill vera utan ESB Reyna að mynda bandalög fyrir skyndikosningar í Frakklandi Óvíst með afdrif vopnahléstillögunnar Frederiksen enn ekki með sjálfri sér eftir árásina Íhuga að virða tímamótadóm að vettugi Biden virðir sakadóminn yfir syni sínum Óhollar vörur drepa fjórðung Evrópubúa Stilla upp harðlínumönnum til að fylla skarð Raisi Flugfélagið býður hinum slösuðu minnst 1,4 milljónir í bætur Bananarisi ábyrgur fyrir morðum kólumbískrar dauðasveitar Umdeildur dómari vill trúræknari Bandaríki Varaforseti Malaví á meðal tíu látinna Hamas samþykkir vopnahléstillöguna Merki um stríðsglæpi beggja fylkinga þegar gíslar voru frelsaðir Skutu viðvörunarskotum að norðurkóreskum hermönnum Hægri öfl gætu eignast sinn fyrsta forsætisráðherra Tólf ára drengir sekir um morð á nítján ára gömlum manni Öryggisráðið styður friðartillögu Biden Flugvél varaforseta Malaví týnd Biden ber ekki vitni í eigin sakamáli Ekkja leiðtoga ISIS leysir frá skjóðunni Lést af náttúrulegum orsökum Bóluefni gegn flensu og Covid-19 langt á veg komið Macron veðjar á að Frakkar séu í áfalli Fullyrða að gíslar hafi fundist í haldi blaðamanns Mánaðarverkfalli í Færeyjum lýkur Setti sig í samband við ráðgjafa Biden til að mótmæla gagnrýni á AGD Sjá meira