Djúpfölsuð myndbönd að verða vandamál og stjörnurnar farnar að birtast í erótískum senum Stefán Árni Pálsson skrifar 7. desember 2022 10:31 Djúpfölsuð myndbönd er út um allan veraldarvefinn. Tækin þróast á hraða ljóssins og gervigreind er orðin hluti af daglegu lífi margra. Gervigreind er notuð í svokallaða djúpfölsun en þá er andliti einnar manneskju skeytt á hreyfimynd af annarri. Hér að neðan sjáum við til dæmis myndband af Tom Cruise eða hvað? Hér er um að ræða djúpfalsað myndband og á netinu er gríðarlegt magn af djúpfölsuðum myndböndum. @deeptomcruise I negotiate the best deals with 🐊 ‘s! ♬ Love You So - The King Khan & BBQ Show Tryggvi Elínarson er þróunarstjóri og sérfræðingur tæknilausna hjá Datera, stafrænu birtingar- og ráðgjafarfyrirtæki. Hann segir að tæknin á bak við djúpfölsun sé komin á þann stað tæknin er aðgengileg öllum og að fæstir geti borið kennsl á djúpfölsuð myndbönd. „Við erum hreinlega í veldisvexti þegar kemur að þróun tækninnar. Við sjáum alveg ofboðslega hraða framför sérstaklega þegar kemur að gervigreind, gervigreind sem raunverulega framkvæmir þessar djúpfalsanir. Hún gæti tekið myndir og myndbönd af þér, matað eitthvað kerfi og látið hana leika hvaða senu sem er,“ segir Tryggvi. Ekki er einungis hægt að djúpfalsa myndir og myndskeið heldur líka hljóðbrot og raddir. En hver er tilgangurinn með djúpfölsun? Tryggvi segir að gott dæmi hafi birst í nýlegri Star Wars þáttaröð þar sem þessi tækni var notuð til að gera ungan Luke Skywalker raunverulegri og líka þegar kemur að röddinni. En hverjar eru skuggahliðarnar? „Það gefur auga leið að þarna er komin enn ein leiðin til að villa á sér heimildir og þykjast vera annar en maður er. Það sem við óttumst í markaðs og pr bransanum að maður getur látið einhver orð í munn hjá þekktum einstaklingi. Í flestum tilfellum kemur í ljós sama daga eða stuttu seinna að um fölsun sé að ræða en þá er yfirleitt skaðinn skeður.“ Hann segir að það sé ekki auðvelt fyrir hinn almenna borgara að greina hvort um djúpfölsun sé að ræða eða ekki og að eftir því sem tækninni fleygir fram þurfi sérfræðinga til að skera úr um slíkt. „Það sem er líka önnur skuggahlið á þessu er að við sjáum þetta líka leka inn í enn þá óþægilegra svið og stórstjörnur eru að lenda í því að það er verið að setja andlitið á þeim á nektarmyndir og jafnvel heilu erótísku senurnar,“ segir Tryggvi. Hann segir að því meira myndefni sem til er á netinu af einstaklingum, því auðveldara er að djúpfalsa efni af viðkomandi. „Og fyrir vikið, því meira sem við dælum af okkur efni á netið, því auðveldara er hægt að nota okkur í djúpfalsanir.“ Hann segir þó að fólk eins og ég og þú þurfum í það minnsta ekki enn að hafa áhyggjur af slíku, heldur eru áhrifafólk í viðskiptalífinu, stjórnmálamenn og opinberar persónur ættu að hafa auknar áhyggjur af djúpfölsunum. „En á sama tíma erfitt að ætla að það sé ekki til myndefni af þér ef þú ert í pólitík og ef þú ert frægur leikari þá er eðli málsins samkvæmt til efni af þér. Það sem vantar þarna er sterkari löggjöf í kringum þessi mál, hver ber ábyrgð og hverjar eru afleiðingarnar þegar svona kemst upp. Þetta gerist svo ofboðslega hratt að það er hætta að við lendum eftir á, menn mega ekki sitja og bíða því þetta er að gerast á svo miklum ógnarhraða.“ Jafnvel þó tækniframfarir hafi gefið okkur margt, auðveldað lífið og bjargað mannslífum eru margir sem misnota hana. Tryggvi segir að á undanförnum árum hafi borið meira á því að gervigreind sé notuð til þess að stýra samfélagsumræðu í ákveðna átt. „Raunverulega svona gervigreindarspjallmenni eru orðin alveg ofboðslega fær og eiga auðvelt með að haga sér eins og eðlilegur einstaklingur og það er að verða erfitt að greina á milli hvort þetta sé spjallmenni eða ekki.“ Hér að neðan má sjá innslagið í heild sinni þar sem Tryggvi fer einnig yfir það hvað sé spennandi í þessari nýju tækni. Tækni Ísland í dag Gervigreind Mest lesið Stjörnulífið: Afmæli í sitthvoru lagi, 17. júní og brúðkaupsveislur Lífið Slæmt jafnvægi á milli Baggalúts og Sinfóníunnar Gagnrýni Justin Timberlake handtekinn Lífið Þorgrímur Þráins selur slotið Lífið „Við hættum nú eiginlega ekkert saman“ Lífið Stjörnubrúðkaup á Siglufirði: „Partý sem fór hálfpartinn úr böndunum“ Lífið „Í fyrrakvöld bjargaði Tesla bifreið lífi mínu“ Lífið samstarf Myndaveisla: Níu líf of stórkostleg fyrir eftirsjá Menning „Endurtek í sífellu: Ég vil ekki deyja, ég vil ekki deyja“ Áskorun Maðurinn sem uppgötvaði Bieber kveður bransann Tónlist Fleiri fréttir Myndaveisla: Þær voru fjallkonur um land allt í ár „Við hættum nú eiginlega ekkert saman“ Stjörnubrúðkaup á Siglufirði: „Partý sem fór hálfpartinn úr böndunum“ Justin Timberlake handtekinn Greta Salóme og Elvar greina frá kyninu Stjörnulífið: Afmæli í sitthvoru lagi, 17. júní og brúðkaupsveislur Þorgrímur Þráins selur slotið Myndaveisla: Vel mætt í 80 ára lýðveldisafmælið Bjuggu til 47 síðna EM hefti til að dunda við Fyllist stolti við að líta til fyrri fjallkvenna „Þetta lag minnir mig alltaf á að hafa tapað Idolinu“ Tíminn sem fór í að ræða perra inni í hreyfingunni með ólíkindum Átta ára með sinn eigin bíl á bílasýningu á Akureyri Heilmikil skemmtidagskrá og samsöngur á Þingvöllum í dag Inga Tinna og Logi greina frá kyni barnsins Segir hjálminum að þakka að hann sé á lífi Krakkatían: Níu líf, karfan og víkingar Hvers vegna tölum við um bongóblíðu? Tólf klukkustunda gjörningur í Hörpu í dag Torfbærinn í Vesturbænum sem stóð fram á níunda áratuginn Bubbi hrærður: Trúir því að Níu líf muni á endanum vakna að nýju Fréttatía vikunnar: Skúlptúrar, ráðherrarifrildi og EM Arnar Þór selur Arnarneshöllina Á 90 þúsund servíettur í Hafnarfirði Heiður Ósk og Davíð eru nýtt par Fékk skyndihugmynd og er nú í blómahafi heima fyrir Einstakur Fender Telecaster í Hljóðfærahúsinu Fólk ferðist alla leið frá Ástralíu til að sækja Víkingahátíðina Tignarleg miðbæjaríbúð Helgu Ólafs til sölu Íslensk lopapeysa flutt milli heimsálfa vegna mestu eftirsjár ævinnar Sjá meira
Hér að neðan sjáum við til dæmis myndband af Tom Cruise eða hvað? Hér er um að ræða djúpfalsað myndband og á netinu er gríðarlegt magn af djúpfölsuðum myndböndum. @deeptomcruise I negotiate the best deals with 🐊 ‘s! ♬ Love You So - The King Khan & BBQ Show Tryggvi Elínarson er þróunarstjóri og sérfræðingur tæknilausna hjá Datera, stafrænu birtingar- og ráðgjafarfyrirtæki. Hann segir að tæknin á bak við djúpfölsun sé komin á þann stað tæknin er aðgengileg öllum og að fæstir geti borið kennsl á djúpfölsuð myndbönd. „Við erum hreinlega í veldisvexti þegar kemur að þróun tækninnar. Við sjáum alveg ofboðslega hraða framför sérstaklega þegar kemur að gervigreind, gervigreind sem raunverulega framkvæmir þessar djúpfalsanir. Hún gæti tekið myndir og myndbönd af þér, matað eitthvað kerfi og látið hana leika hvaða senu sem er,“ segir Tryggvi. Ekki er einungis hægt að djúpfalsa myndir og myndskeið heldur líka hljóðbrot og raddir. En hver er tilgangurinn með djúpfölsun? Tryggvi segir að gott dæmi hafi birst í nýlegri Star Wars þáttaröð þar sem þessi tækni var notuð til að gera ungan Luke Skywalker raunverulegri og líka þegar kemur að röddinni. En hverjar eru skuggahliðarnar? „Það gefur auga leið að þarna er komin enn ein leiðin til að villa á sér heimildir og þykjast vera annar en maður er. Það sem við óttumst í markaðs og pr bransanum að maður getur látið einhver orð í munn hjá þekktum einstaklingi. Í flestum tilfellum kemur í ljós sama daga eða stuttu seinna að um fölsun sé að ræða en þá er yfirleitt skaðinn skeður.“ Hann segir að það sé ekki auðvelt fyrir hinn almenna borgara að greina hvort um djúpfölsun sé að ræða eða ekki og að eftir því sem tækninni fleygir fram þurfi sérfræðinga til að skera úr um slíkt. „Það sem er líka önnur skuggahlið á þessu er að við sjáum þetta líka leka inn í enn þá óþægilegra svið og stórstjörnur eru að lenda í því að það er verið að setja andlitið á þeim á nektarmyndir og jafnvel heilu erótísku senurnar,“ segir Tryggvi. Hann segir að því meira myndefni sem til er á netinu af einstaklingum, því auðveldara er að djúpfalsa efni af viðkomandi. „Og fyrir vikið, því meira sem við dælum af okkur efni á netið, því auðveldara er hægt að nota okkur í djúpfalsanir.“ Hann segir þó að fólk eins og ég og þú þurfum í það minnsta ekki enn að hafa áhyggjur af slíku, heldur eru áhrifafólk í viðskiptalífinu, stjórnmálamenn og opinberar persónur ættu að hafa auknar áhyggjur af djúpfölsunum. „En á sama tíma erfitt að ætla að það sé ekki til myndefni af þér ef þú ert í pólitík og ef þú ert frægur leikari þá er eðli málsins samkvæmt til efni af þér. Það sem vantar þarna er sterkari löggjöf í kringum þessi mál, hver ber ábyrgð og hverjar eru afleiðingarnar þegar svona kemst upp. Þetta gerist svo ofboðslega hratt að það er hætta að við lendum eftir á, menn mega ekki sitja og bíða því þetta er að gerast á svo miklum ógnarhraða.“ Jafnvel þó tækniframfarir hafi gefið okkur margt, auðveldað lífið og bjargað mannslífum eru margir sem misnota hana. Tryggvi segir að á undanförnum árum hafi borið meira á því að gervigreind sé notuð til þess að stýra samfélagsumræðu í ákveðna átt. „Raunverulega svona gervigreindarspjallmenni eru orðin alveg ofboðslega fær og eiga auðvelt með að haga sér eins og eðlilegur einstaklingur og það er að verða erfitt að greina á milli hvort þetta sé spjallmenni eða ekki.“ Hér að neðan má sjá innslagið í heild sinni þar sem Tryggvi fer einnig yfir það hvað sé spennandi í þessari nýju tækni.
Tækni Ísland í dag Gervigreind Mest lesið Stjörnulífið: Afmæli í sitthvoru lagi, 17. júní og brúðkaupsveislur Lífið Slæmt jafnvægi á milli Baggalúts og Sinfóníunnar Gagnrýni Justin Timberlake handtekinn Lífið Þorgrímur Þráins selur slotið Lífið „Við hættum nú eiginlega ekkert saman“ Lífið Stjörnubrúðkaup á Siglufirði: „Partý sem fór hálfpartinn úr böndunum“ Lífið „Í fyrrakvöld bjargaði Tesla bifreið lífi mínu“ Lífið samstarf Myndaveisla: Níu líf of stórkostleg fyrir eftirsjá Menning „Endurtek í sífellu: Ég vil ekki deyja, ég vil ekki deyja“ Áskorun Maðurinn sem uppgötvaði Bieber kveður bransann Tónlist Fleiri fréttir Myndaveisla: Þær voru fjallkonur um land allt í ár „Við hættum nú eiginlega ekkert saman“ Stjörnubrúðkaup á Siglufirði: „Partý sem fór hálfpartinn úr böndunum“ Justin Timberlake handtekinn Greta Salóme og Elvar greina frá kyninu Stjörnulífið: Afmæli í sitthvoru lagi, 17. júní og brúðkaupsveislur Þorgrímur Þráins selur slotið Myndaveisla: Vel mætt í 80 ára lýðveldisafmælið Bjuggu til 47 síðna EM hefti til að dunda við Fyllist stolti við að líta til fyrri fjallkvenna „Þetta lag minnir mig alltaf á að hafa tapað Idolinu“ Tíminn sem fór í að ræða perra inni í hreyfingunni með ólíkindum Átta ára með sinn eigin bíl á bílasýningu á Akureyri Heilmikil skemmtidagskrá og samsöngur á Þingvöllum í dag Inga Tinna og Logi greina frá kyni barnsins Segir hjálminum að þakka að hann sé á lífi Krakkatían: Níu líf, karfan og víkingar Hvers vegna tölum við um bongóblíðu? Tólf klukkustunda gjörningur í Hörpu í dag Torfbærinn í Vesturbænum sem stóð fram á níunda áratuginn Bubbi hrærður: Trúir því að Níu líf muni á endanum vakna að nýju Fréttatía vikunnar: Skúlptúrar, ráðherrarifrildi og EM Arnar Þór selur Arnarneshöllina Á 90 þúsund servíettur í Hafnarfirði Heiður Ósk og Davíð eru nýtt par Fékk skyndihugmynd og er nú í blómahafi heima fyrir Einstakur Fender Telecaster í Hljóðfærahúsinu Fólk ferðist alla leið frá Ástralíu til að sækja Víkingahátíðina Tignarleg miðbæjaríbúð Helgu Ólafs til sölu Íslensk lopapeysa flutt milli heimsálfa vegna mestu eftirsjár ævinnar Sjá meira