Styttist í háþróuð gervigreindarsvindl á íslensku Vésteinn Örn Pétursson skrifar 28. júlí 2025 22:08 Hafsteinn segir stutt í að gervigreindarsvindlin fari að láta á sér kræla fyrir alvöru. Vísir Dósent í tölvunarfræði segir ekki langt í að gervigreindartækni sem hermir eftir röddum fólks verði orðin svo góð að hægt verði að nota hana að blekkja Íslendinga, bæði á netinu og símleiðis. Stjórnvöld þurfi að bregðast við með einhverjum hætti. Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“ Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Læknir í Kópavogi blekkti fjölskyldu sína með lygasögu um krabbamein Innlent Segir herforingjum að búa sig undir átök gegn innlendum „óvinum“ Erlent Kallar þjóðaröryggisráð saman Innlent Sultuslakir strandaglópar eftir heilsuferð til Split Innlent Fyrrum meðferðarheimili sett á sölu Innlent Tillögum Trumps lýst sem uppgjöf Erlent Tugir drengja fastir í rústum skóla sem hrundi til grunna Erlent Hættir sem þingflokksformaður Innlent Ná ekki að leika árangur Wagner eftir Erlent Strandaglópar slaga í tuttugu þúsund Innlent Fleiri fréttir „Það er svo langt síðan að við höfðum ekki trú á Play“ Fyrrum meðferðarheimili sett á sölu Strandaglópar slaga í tuttugu þúsund Sultuslakir strandaglópar eftir heilsuferð til Split Kallar þjóðaröryggisráð saman Verulegt högg fyrir ferðaþjónustuna Eftirköstin af gjaldþroti Play og friðaráætlun á Gasa Læknir í Kópavogi blekkti fjölskyldu sína með lygasögu um krabbamein Áhyggjur landsmanna af útbreiðslu hernaðarátaka í Evrópu aukast Hættir sem þingflokksformaður Sundlaugar borgarinnar verði bættar fyrir ungbarnafjölskyldur Hópslagsmál og hundaárás Vonsviknir ferðamenn og reiði út í Icelandair vegna hækkunar fargjalda Arnarflug lifað lengst í samkeppni við Icelandair Fall Play frá öllum hliðum Tilkynnt um dróna yfir Keflavíkurflugvelli Þriggja ára fangelsi: Tók ekki mark á lygilegri frásögn Neyðast til að millilenda, tapaður peningur og rándýr flug heim Lítur svo á að hann njóti ekki trausts og hefur beðist lausnar Banaslys á Skagavegi 2024: Drukknaði eftir að hafa misst stjórn í beygju Sjokk, stress og særindi í Leifsstöð Bein útsending: Lýðheilsuvísar 2025 kynntir Ekki erfitt að vera föst í 25 gráðum en ástæðan sorgleg „Óvænt og líka mjög leiðinlegt“ Play hættir að fljúga, hundruð missa vinnuna og strandaglópar í Leifsstöð Föst í Portúgal: „Siðlaust“ að fljúga vélunum út í morgun Fara yfir stöðuna vegna Play og skipuleggja sig Bílstjórinn þrettán ára Vísað burtu af hóteli og svo handtekinn í sameign 29 prósent heimila skipuð einstæðingum: „Meðvituð ákvörðun til að njóta frelsis“ Sjá meira
Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“
Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Læknir í Kópavogi blekkti fjölskyldu sína með lygasögu um krabbamein Innlent Segir herforingjum að búa sig undir átök gegn innlendum „óvinum“ Erlent Kallar þjóðaröryggisráð saman Innlent Sultuslakir strandaglópar eftir heilsuferð til Split Innlent Fyrrum meðferðarheimili sett á sölu Innlent Tillögum Trumps lýst sem uppgjöf Erlent Tugir drengja fastir í rústum skóla sem hrundi til grunna Erlent Hættir sem þingflokksformaður Innlent Ná ekki að leika árangur Wagner eftir Erlent Strandaglópar slaga í tuttugu þúsund Innlent Fleiri fréttir „Það er svo langt síðan að við höfðum ekki trú á Play“ Fyrrum meðferðarheimili sett á sölu Strandaglópar slaga í tuttugu þúsund Sultuslakir strandaglópar eftir heilsuferð til Split Kallar þjóðaröryggisráð saman Verulegt högg fyrir ferðaþjónustuna Eftirköstin af gjaldþroti Play og friðaráætlun á Gasa Læknir í Kópavogi blekkti fjölskyldu sína með lygasögu um krabbamein Áhyggjur landsmanna af útbreiðslu hernaðarátaka í Evrópu aukast Hættir sem þingflokksformaður Sundlaugar borgarinnar verði bættar fyrir ungbarnafjölskyldur Hópslagsmál og hundaárás Vonsviknir ferðamenn og reiði út í Icelandair vegna hækkunar fargjalda Arnarflug lifað lengst í samkeppni við Icelandair Fall Play frá öllum hliðum Tilkynnt um dróna yfir Keflavíkurflugvelli Þriggja ára fangelsi: Tók ekki mark á lygilegri frásögn Neyðast til að millilenda, tapaður peningur og rándýr flug heim Lítur svo á að hann njóti ekki trausts og hefur beðist lausnar Banaslys á Skagavegi 2024: Drukknaði eftir að hafa misst stjórn í beygju Sjokk, stress og særindi í Leifsstöð Bein útsending: Lýðheilsuvísar 2025 kynntir Ekki erfitt að vera föst í 25 gráðum en ástæðan sorgleg „Óvænt og líka mjög leiðinlegt“ Play hættir að fljúga, hundruð missa vinnuna og strandaglópar í Leifsstöð Föst í Portúgal: „Siðlaust“ að fljúga vélunum út í morgun Fara yfir stöðuna vegna Play og skipuleggja sig Bílstjórinn þrettán ára Vísað burtu af hóteli og svo handtekinn í sameign 29 prósent heimila skipuð einstæðingum: „Meðvituð ákvörðun til að njóta frelsis“ Sjá meira