Styttist í háþróuð gervigreindarsvindl á íslensku Vésteinn Örn Pétursson skrifar 28. júlí 2025 22:08 Hafsteinn segir stutt í að gervigreindarsvindlin fari að láta á sér kræla fyrir alvöru. Vísir Dósent í tölvunarfræði segir ekki langt í að gervigreindartækni sem hermir eftir röddum fólks verði orðin svo góð að hægt verði að nota hana að blekkja Íslendinga, bæði á netinu og símleiðis. Stjórnvöld þurfi að bregðast við með einhverjum hætti. Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“ Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Trump segir Hamas og Ísraela hafa náð samkomulagi Erlent Skýr afstaða landsmanna um hvort einkunnir eigi að vera í tölum eða bókstöfum Innlent „Ég ætla ekki að jarða hann, ég ætla að hafa hann á lífi“ Innlent Segir lægri álagningu á húsnæði en í öðrum greinum Fréttir „Auðvitað er ég hrædd um hana“ Innlent Varnargarðar hækkaðir við Grindavík Innlent Björk styður æskuvinkonu sína sem sætir svívirðingum Innlent Hitnar undir feldi Lilju Innlent Kenna Evrópu- og Bandaríkjamönnum um litlar líkur á friði Erlent Grænlendingar fá Erling til að gera Grænland grænna Innlent Fleiri fréttir Varnargarðar hækkaðir við Grindavík Skýr afstaða landsmanna um hvort einkunnir eigi að vera í tölum eða bókstöfum „Auðvitað er ég hrædd um hana“ Ford vörubíll árgerð 1930 gefinn Byggðasafni Árnesinga „Ég ætla ekki að jarða hann, ég ætla að hafa hann á lífi“ Mamma Möggu Stínu gerir upp erfiðan dag Útlendingastofnun: Ekkert bendi til ómannúðlegrar meðferðar í Króatíu Hitnar undir feldi Lilju Játaði að hafa stolið tugum milljóna úr dánarbúi móður sinnar Játaði áralangt kynferðisofbeldi gegn stjúpdóttur sinni Bein útsending: Mótmæla handtöku Möggu Stínu Fékk aðsvif og missti bílinn yfir á annan vegarhelming Hefur áhyggjur af unga fólkinu Ungir Sjálfstæðismenn vilja stöðva hælisveitingar Sér fram á margar klukkustundir í fullkominni óvissu Takmörk á því hversu langt Ísraelar geti farið til að verja hafnbann Keyrt á vegfaranda í Skeifunni Óheppileg „læk“ Reykjavíkurborgar: „Okkur þykir þetta miður“ Hafa rætt við ísraelsk stjórnvöld og sett fram kröfur vegna Margrétar Björk styður æskuvinkonu sína sem sætir svívirðingum „Minnir á saltveðrið mikla“ Magga Stína tekin höndum og gular viðvaranir í kortunum Stúlkan komin í leitirnar Bændum verulega brugðið vegna breytinga á búvörulögum Ákærður fyrir stunguárás á Seltjarnarnesi Magga Stína handtekin í nótt af Ísraelsher Átján sagt upp í Seljahlíð Fyrri degi heimsóknar lauk með kvöldverði í forsetahöllinni Sást blóðugur fyrir utan fjölbýlishús Langþreyttur á TikTok áreiti og rasískum orðsendingum skólakrakka Sjá meira
Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“
Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Trump segir Hamas og Ísraela hafa náð samkomulagi Erlent Skýr afstaða landsmanna um hvort einkunnir eigi að vera í tölum eða bókstöfum Innlent „Ég ætla ekki að jarða hann, ég ætla að hafa hann á lífi“ Innlent Segir lægri álagningu á húsnæði en í öðrum greinum Fréttir „Auðvitað er ég hrædd um hana“ Innlent Varnargarðar hækkaðir við Grindavík Innlent Björk styður æskuvinkonu sína sem sætir svívirðingum Innlent Hitnar undir feldi Lilju Innlent Kenna Evrópu- og Bandaríkjamönnum um litlar líkur á friði Erlent Grænlendingar fá Erling til að gera Grænland grænna Innlent Fleiri fréttir Varnargarðar hækkaðir við Grindavík Skýr afstaða landsmanna um hvort einkunnir eigi að vera í tölum eða bókstöfum „Auðvitað er ég hrædd um hana“ Ford vörubíll árgerð 1930 gefinn Byggðasafni Árnesinga „Ég ætla ekki að jarða hann, ég ætla að hafa hann á lífi“ Mamma Möggu Stínu gerir upp erfiðan dag Útlendingastofnun: Ekkert bendi til ómannúðlegrar meðferðar í Króatíu Hitnar undir feldi Lilju Játaði að hafa stolið tugum milljóna úr dánarbúi móður sinnar Játaði áralangt kynferðisofbeldi gegn stjúpdóttur sinni Bein útsending: Mótmæla handtöku Möggu Stínu Fékk aðsvif og missti bílinn yfir á annan vegarhelming Hefur áhyggjur af unga fólkinu Ungir Sjálfstæðismenn vilja stöðva hælisveitingar Sér fram á margar klukkustundir í fullkominni óvissu Takmörk á því hversu langt Ísraelar geti farið til að verja hafnbann Keyrt á vegfaranda í Skeifunni Óheppileg „læk“ Reykjavíkurborgar: „Okkur þykir þetta miður“ Hafa rætt við ísraelsk stjórnvöld og sett fram kröfur vegna Margrétar Björk styður æskuvinkonu sína sem sætir svívirðingum „Minnir á saltveðrið mikla“ Magga Stína tekin höndum og gular viðvaranir í kortunum Stúlkan komin í leitirnar Bændum verulega brugðið vegna breytinga á búvörulögum Ákærður fyrir stunguárás á Seltjarnarnesi Magga Stína handtekin í nótt af Ísraelsher Átján sagt upp í Seljahlíð Fyrri degi heimsóknar lauk með kvöldverði í forsetahöllinni Sást blóðugur fyrir utan fjölbýlishús Langþreyttur á TikTok áreiti og rasískum orðsendingum skólakrakka Sjá meira