Raunveruleikinn hvarf Kristján Friðbertsson skrifar 25. febrúar 2024 13:31 Færni gervigreindar til sjálfvirkrar sköpunar á texta, hljóði og mynd (s.k. sköpunargreind, e. generative artificial intelligence) hefur fengið þó nokkra athygli undanfarið. Í slíkri sjálfvirkri sköpun lærir gervigreindin undirliggjandi uppbyggingu og notar lærdóminn til að skapa eitthvað nýtt, en svipað. Alls ekki ólíkt því ef ég myndi ætla að læra að mála með olíu í stíl kúbisma. Þá kynni ég mér hvernig maður málar með olíulitum ásamt því hvað einkennir kúbisma. Skoða verk kúbista og reyni í fyrstu að mála eftirmyndir til að átta mig á tækninni. Ef ég mála eftirlíkingu af frægu verki og set nafn fræga málarans á strigann, þá er það fölsun. Ef ég set mitt nafn, þá er það stuldur. Nema ef ég breyti einhverju, jafnvel smávægilegu, þá getur það talist afleidd (e. derivative) list. Að sama skapi getur verið hægt að nota gervigreind í tilgangi fölsunar eða stuldar, en gervigreindin sjálf er þó í versta falli að skapa afleidda list. Vélræn textasköpun og málskilningur hafa ekki orðið útundan í þessari þróun. Fyrirtæki geta loksins farið að nota spjallmenni sem verða meira en bara gagnslaus, pirrandi tól. Framfarir í radd- og myndgreiningum og hljóð- og myndvinnslu í bland við sjálfvirka sköpun opna á alls kyns tækifæri, sum jákvæðari en önnur. Vinnumarkaðurinn Svokallaðar djúpfalsanir (e. „deepfakes“) hafa verið til staðar í u.þ.b. áratug, en undanfarið hefur afurðin orðið sífellt meira sannfærandi. Sé nægilegt mynd- og hljóðefni til staðar af viðkomandi, er hægt að þjálfa gervigreindina svo hún skapi efni sem erfitt er fyrir almenning að sjá að sé óekta. Nýlegt dæmi sáum við auðvitað í áramótaskaupinu. Auk misnotkunaráhættu, getur þetta vegið að starfsöryggi ýmissa stétta. Raddleikarar sem starfa í tengslum við auglýsingar, tölvuleiki og teiknimyndir verða skyndilega ekki jafn nauðsynlegir fyrst tölvan getur leyst þá af með samskonar rödd. Svipað með leikara í sjónvarpi og kvikmyndum. Þegar viljandi er apað eftir þeirra rödd eða útliti í blekkingar tilgangi er það þó auðvitað fljótt að rata í hendur lögfræðinga. Við getum líka lítið í átt til tónlistarframleiðenda, hverra hlutverk er að gefa tónlistinni kunnuglegan, vinsælan hljóm. Gervigreindarkerfi byggð á tauganetum sem læra hratt á gríðarlega stór hljóðsöfn geta tekið ansi stóran hluta af slíkri vinnu til sín. Handritshöfundar í Bandaríkjunum höfðu takmörkun á notkun gervigreindar við textasmíð meðal krafna í nýlegri kjarabaráttu. Að sumu leyti framsýnt, skynsamlegt og skiljanlegt. Kaupir tíma og mildar höggið. Nær samt því miður ekki að vera framtíðarlausn. Geti gervigreind raunverulega sparað miklar fjárhæðir og samt skilað jafn góðum afurðum, myndast auðvitað ákveðið samkeppnisforskot fyrir þá aðila sem eru ekki bundnir slíkum samningum. Aðila sem geta þá framleitt myndir og þætti fyrir lægri kostnað, eða nýtt peningana betur í annað. Sjálfsagt styttist í þann raunveruleika. Einhverjir verða afkastameiri með tækniframförum, en aðrir þurfa með tímanum að þróa sína hæfni yfir á nýtt svið. Sögufalsanir Leikarinn Stephen Fry er meðal þeirra sem hafa rekist á sannfærandi myndband af sjálfum sér á netinu, flytjandi ræðu sem hann hefur aldrei flutt, á stað sem hann hefur aldrei komið. Heldur fleiri kannast kannski við umfjöllun um falsaðar nektarmyndir og kynlífsmyndbönd, sem m.a. söngkonan Taylor Swift og fleiri hafa orðið fyrir nýlega. Allt getur þetta verið notað til þess að koma höggi á viðkomandi aðila, skapa tekjumyndandi efni í samkeppni við hið raunverulega efni, eða jafnvel til hótana og fjárkúgana. Fölsun getur komið hvaðan sem er og stundum er jafnvel ómögulegt að um hina raunverulegu persónu sé að ræða. En hvað ef hún er skipulögð með mikilli fyrirhöfn til að hámarka neikvæðar afleiðingar? Myndir þú trúa því að bara í akkurat þessu eina tilfelli sem þér mislíkar væri um að ræða fölsun? Þó svo það líti út og hljómi nákvæmlega eins og allt sem maður hefur áður séð frá viðkomandi. Nema kannski fyrir utan örfáar óvanalegar setningar. Akkurat bara eina atvikið sem kæmi sér mjög illa fyrir viðkomandi, ef rétt reynist og er því kallað fölsun... Martröð millistjórnenda? Aukið aðgengi að öflugri tækni er gríðarlega mikilvægt og á jákvæðu hliðinni vonum við að það leysi úr læðingi mikla vannýtta orku meðal fólks. Einnig má vona að sérfræðingar losni við einföldustu verkin og verði afkastameiri. Starfsfólk í mannaflsfrekum störfum hefur lengi horft upp á vaxandi sjálfvirkni fækka störfum í boði. Færra starfsfólk þarf líka minna utanumhald. Ýmislegt sem krafist hefur sérfræði þekkingar hefur einnig byrjað að fara sama veg. Flóknari og sérhæfðari verk þurfa þó enn að vera unnin (og yfirfarin) af sérfræðingum, en viðbúið er að einhvers staðar þurfi færri hendur í heildina. Grafískum störfum í tölvuleikjaiðnaðinum í Kína hefur t.d. nú þegar fækkað um 70% þökk sé gervigreind. Vont fyrir starfsfólkið, gott fyrir heildina? Nágrannaríkið Japan horfir líka jákvæðum augum til gervigreindar. Þjóðin sem lengi hefur verið í fararbroddi í ýmiss konar tækniþróun, þ.m.t. vélmennum, nýtir sér tæknina í baráttu við fólksfækkun. Gervigreind og vélmenni með ýmiss konar mannleg viðmót leysa í vaxandi mæli starfsfólkið af. Gildir þar einu hvort um ræðir hefðbundin flutnings- og verksmiðjustörf, verslun og þjónustu eða jafnvel hrísgrjónaræktun. Gottvont? Hér blandast augljóslega ýmislegt saman. Lausnir við skorti á vinnuafli kallast á við kjarabaráttu og starfsöryggi. Nytsamlegar tækniframfarir misnotaðar í blekkingarleik, fölsunum, fjársvikum og öðrum sakamálum. Mikið af þessu er þó auðvitað gömul saga og ný. Tæknin getur hjálpað okkur að vinna gegn ýmsum vandamálum, en auðvitað getur hún einnig búið önnur til. Á stærsta kosningaári í langan tíma, víða um heim, er nánast útilokað að það verði ekki amk einhver dæmi um pólitíska misnotkun á þessum tólum. Reyndar þurfum við ekki einu sinni að bíða, því dæmin eru þegar farin að detta inn t.d. frá Slóvakíu, Bretlandi, Bandaríkjunum og víðar. Eru kosninganiðurstöður gildar ef þær eru augljós afleiðing blekkingarleiks, svo lengi sem ekki var átt við sjálfa atkvæðaseðlana? Er þetta jafnvel bara eðlileg framlenging af hinum margfrægu „kosningaloforðum“ og efndum þeirra? Meðfylgjandi myndir voru skapaðar af sköpunargreindarvélinni DallE-3. Höfundur er tölvunarfræðingur. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Gervigreind Tækni Japan Kína Bandaríkin Tengdar fréttir Innræti og manndómur íslenzkra ráðherra og alþingismanna Á síðustu dögum og vikum hafa komið upp tvö mál, þar sem reynt hefur sérstaklega á innræti og manndóm, innri mann, ráðamanna hér. Einkar athyglisvert hefur verið, að fylgjast með því, hvern mann ráðamenn hafa í reynd að geyma, á bak við sitt breiða bros, fallegu orðræðu og ótæpilegu loforð, til Péturs og Páls. Hér urðu menn að koma til dyranna, eins og þeir eru í raun klæddir. 12. júní 2023 13:01 Kosningaórói Njáls Trausta Ekki hafa margir Alþingismenn orðið á vegi íbúa Austurlands undanfarið og ef ekki hefðu komið til hörmungarnar á Seyðisfirði hefði enn minna sést til þeirra á svæðinu en ella. 27. maí 2021 20:18 Mest lesið Hvernig vogar þú þér að gera grín að Möggu Stínu? Elliði Vignisson Skoðun Rúmfatalagerinn, ekki fyrir alla! Ragnar Gunnarsson Skoðun Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson Skoðun Er edrúlífið æðislegt? Jakob Smári Magnússon Skoðun Kópavogsmódelið Ragnheiður Ósk Jensdóttir Skoðun Ráðgátan um RÚV Helgi Brynjarsson Skoðun Sterkari saman – geðheilsa er mannréttindi allra Halldóra Jónsdóttir,Halldóra Víðisdóttir,Júlíana Guðrún Þórðardóttir Skoðun Ísland þarf engan sérdíl Magnús Árni Skjöld Magnússon Skoðun Flækjustig í skjóli einföldunar Kolbrún Georgsdóttir Skoðun Í örugga höfn! Örlygur Hnefill Örlygsson,Bergur Elías Ágústsson Skoðun Skoðun Skoðun Eflum geðheilsu alla daga Guðbjörg Sveinsdóttir skrifar Skoðun Skoðanagrein – Alþjóðlegi Gigtardaginn: Achieve Your Dreams Hrönn Stefánsdóttir skrifar Skoðun Réttlæti hins sterka. Hvernig hinn sterki getur unnið nánast öll dómsmál Jörgen Ingimar Hansson skrifar Skoðun Við sem lifum með POTS höfum verið yfirgefin af kerfinu Elín A. Eyfjörð Ármannsdóttir skrifar Skoðun Drifkraftur bata – Alþjóðlegi geðheilbrigðisdagurinn Sigríður Ásta Hauksdóttir skrifar Skoðun Lordinn lýgur! Andrés Pétursson skrifar Skoðun Það er ekki hægt að þykjast með líf barnanna okkar Ása Berglind Hjálmarsdóttir skrifar Skoðun Í örugga höfn! Örlygur Hnefill Örlygsson,Bergur Elías Ágústsson skrifar Skoðun Reykjavíkurmódelið er skref í rétta átt – fyrir börnin og starfsfólkið Bozena Raczkowska skrifar Skoðun Varasjóður eða hefðbundið styrkjakerfi? Birgitta Ragnarsdóttir skrifar Skoðun Geðheilsa á tímum óvissu og áskorana María Heimisdóttir skrifar Skoðun Kópavogsmódelið Ragnheiður Ósk Jensdóttir skrifar Skoðun Villta vestur ólöglegra veðmálaauglýsinga á Íslandi Skúli Bragi Geirdal skrifar Skoðun Sterkari saman – geðheilsa er mannréttindi allra Halldóra Jónsdóttir,Halldóra Víðisdóttir,Júlíana Guðrún Þórðardóttir skrifar Skoðun Ísland þarf engan sérdíl Magnús Árni Skjöld Magnússon skrifar Skoðun Er edrúlífið æðislegt? Jakob Smári Magnússon skrifar Skoðun Rúmfatalagerinn, ekki fyrir alla! Ragnar Gunnarsson skrifar Skoðun Að gera ráð fyrir frelsi Birgir Orri Ásgrímsson skrifar Skoðun Að þekkja sín takmörk Heiðar Guðjónsson skrifar Skoðun Gervigreind og dómgreind Henry Alexander Henrysson skrifar Skoðun Fjárfesting í réttindum barna bætir fjárhag sveitarfélaga Marín Rós Eyjólfsdóttir skrifar Skoðun Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson skrifar Skoðun Alþjóða geðheilbrigðisdagurinn – réttur til réttrar meðferðar Pétur Maack Þorsteinsson skrifar Skoðun Á að takmarka samfélagsmiðlanotkun barna? María Rut Kristinsdóttir skrifar Skoðun Hvernig vogar þú þér að gera grín að Möggu Stínu? Elliði Vignisson skrifar Skoðun Hvað er í gangi? Jón Pétur Zimsen skrifar Skoðun Lausnir í leikskólamálum Kristín Thoroddsen skrifar Skoðun Hjálpum fólki að eignast börn Hildur Sverrisdóttir skrifar Skoðun Ráðgátan um RÚV Helgi Brynjarsson skrifar Skoðun Hvetjandi refsing Reykjavíkurborgar Halla Gunnarsdóttir skrifar Sjá meira
Færni gervigreindar til sjálfvirkrar sköpunar á texta, hljóði og mynd (s.k. sköpunargreind, e. generative artificial intelligence) hefur fengið þó nokkra athygli undanfarið. Í slíkri sjálfvirkri sköpun lærir gervigreindin undirliggjandi uppbyggingu og notar lærdóminn til að skapa eitthvað nýtt, en svipað. Alls ekki ólíkt því ef ég myndi ætla að læra að mála með olíu í stíl kúbisma. Þá kynni ég mér hvernig maður málar með olíulitum ásamt því hvað einkennir kúbisma. Skoða verk kúbista og reyni í fyrstu að mála eftirmyndir til að átta mig á tækninni. Ef ég mála eftirlíkingu af frægu verki og set nafn fræga málarans á strigann, þá er það fölsun. Ef ég set mitt nafn, þá er það stuldur. Nema ef ég breyti einhverju, jafnvel smávægilegu, þá getur það talist afleidd (e. derivative) list. Að sama skapi getur verið hægt að nota gervigreind í tilgangi fölsunar eða stuldar, en gervigreindin sjálf er þó í versta falli að skapa afleidda list. Vélræn textasköpun og málskilningur hafa ekki orðið útundan í þessari þróun. Fyrirtæki geta loksins farið að nota spjallmenni sem verða meira en bara gagnslaus, pirrandi tól. Framfarir í radd- og myndgreiningum og hljóð- og myndvinnslu í bland við sjálfvirka sköpun opna á alls kyns tækifæri, sum jákvæðari en önnur. Vinnumarkaðurinn Svokallaðar djúpfalsanir (e. „deepfakes“) hafa verið til staðar í u.þ.b. áratug, en undanfarið hefur afurðin orðið sífellt meira sannfærandi. Sé nægilegt mynd- og hljóðefni til staðar af viðkomandi, er hægt að þjálfa gervigreindina svo hún skapi efni sem erfitt er fyrir almenning að sjá að sé óekta. Nýlegt dæmi sáum við auðvitað í áramótaskaupinu. Auk misnotkunaráhættu, getur þetta vegið að starfsöryggi ýmissa stétta. Raddleikarar sem starfa í tengslum við auglýsingar, tölvuleiki og teiknimyndir verða skyndilega ekki jafn nauðsynlegir fyrst tölvan getur leyst þá af með samskonar rödd. Svipað með leikara í sjónvarpi og kvikmyndum. Þegar viljandi er apað eftir þeirra rödd eða útliti í blekkingar tilgangi er það þó auðvitað fljótt að rata í hendur lögfræðinga. Við getum líka lítið í átt til tónlistarframleiðenda, hverra hlutverk er að gefa tónlistinni kunnuglegan, vinsælan hljóm. Gervigreindarkerfi byggð á tauganetum sem læra hratt á gríðarlega stór hljóðsöfn geta tekið ansi stóran hluta af slíkri vinnu til sín. Handritshöfundar í Bandaríkjunum höfðu takmörkun á notkun gervigreindar við textasmíð meðal krafna í nýlegri kjarabaráttu. Að sumu leyti framsýnt, skynsamlegt og skiljanlegt. Kaupir tíma og mildar höggið. Nær samt því miður ekki að vera framtíðarlausn. Geti gervigreind raunverulega sparað miklar fjárhæðir og samt skilað jafn góðum afurðum, myndast auðvitað ákveðið samkeppnisforskot fyrir þá aðila sem eru ekki bundnir slíkum samningum. Aðila sem geta þá framleitt myndir og þætti fyrir lægri kostnað, eða nýtt peningana betur í annað. Sjálfsagt styttist í þann raunveruleika. Einhverjir verða afkastameiri með tækniframförum, en aðrir þurfa með tímanum að þróa sína hæfni yfir á nýtt svið. Sögufalsanir Leikarinn Stephen Fry er meðal þeirra sem hafa rekist á sannfærandi myndband af sjálfum sér á netinu, flytjandi ræðu sem hann hefur aldrei flutt, á stað sem hann hefur aldrei komið. Heldur fleiri kannast kannski við umfjöllun um falsaðar nektarmyndir og kynlífsmyndbönd, sem m.a. söngkonan Taylor Swift og fleiri hafa orðið fyrir nýlega. Allt getur þetta verið notað til þess að koma höggi á viðkomandi aðila, skapa tekjumyndandi efni í samkeppni við hið raunverulega efni, eða jafnvel til hótana og fjárkúgana. Fölsun getur komið hvaðan sem er og stundum er jafnvel ómögulegt að um hina raunverulegu persónu sé að ræða. En hvað ef hún er skipulögð með mikilli fyrirhöfn til að hámarka neikvæðar afleiðingar? Myndir þú trúa því að bara í akkurat þessu eina tilfelli sem þér mislíkar væri um að ræða fölsun? Þó svo það líti út og hljómi nákvæmlega eins og allt sem maður hefur áður séð frá viðkomandi. Nema kannski fyrir utan örfáar óvanalegar setningar. Akkurat bara eina atvikið sem kæmi sér mjög illa fyrir viðkomandi, ef rétt reynist og er því kallað fölsun... Martröð millistjórnenda? Aukið aðgengi að öflugri tækni er gríðarlega mikilvægt og á jákvæðu hliðinni vonum við að það leysi úr læðingi mikla vannýtta orku meðal fólks. Einnig má vona að sérfræðingar losni við einföldustu verkin og verði afkastameiri. Starfsfólk í mannaflsfrekum störfum hefur lengi horft upp á vaxandi sjálfvirkni fækka störfum í boði. Færra starfsfólk þarf líka minna utanumhald. Ýmislegt sem krafist hefur sérfræði þekkingar hefur einnig byrjað að fara sama veg. Flóknari og sérhæfðari verk þurfa þó enn að vera unnin (og yfirfarin) af sérfræðingum, en viðbúið er að einhvers staðar þurfi færri hendur í heildina. Grafískum störfum í tölvuleikjaiðnaðinum í Kína hefur t.d. nú þegar fækkað um 70% þökk sé gervigreind. Vont fyrir starfsfólkið, gott fyrir heildina? Nágrannaríkið Japan horfir líka jákvæðum augum til gervigreindar. Þjóðin sem lengi hefur verið í fararbroddi í ýmiss konar tækniþróun, þ.m.t. vélmennum, nýtir sér tæknina í baráttu við fólksfækkun. Gervigreind og vélmenni með ýmiss konar mannleg viðmót leysa í vaxandi mæli starfsfólkið af. Gildir þar einu hvort um ræðir hefðbundin flutnings- og verksmiðjustörf, verslun og þjónustu eða jafnvel hrísgrjónaræktun. Gottvont? Hér blandast augljóslega ýmislegt saman. Lausnir við skorti á vinnuafli kallast á við kjarabaráttu og starfsöryggi. Nytsamlegar tækniframfarir misnotaðar í blekkingarleik, fölsunum, fjársvikum og öðrum sakamálum. Mikið af þessu er þó auðvitað gömul saga og ný. Tæknin getur hjálpað okkur að vinna gegn ýmsum vandamálum, en auðvitað getur hún einnig búið önnur til. Á stærsta kosningaári í langan tíma, víða um heim, er nánast útilokað að það verði ekki amk einhver dæmi um pólitíska misnotkun á þessum tólum. Reyndar þurfum við ekki einu sinni að bíða, því dæmin eru þegar farin að detta inn t.d. frá Slóvakíu, Bretlandi, Bandaríkjunum og víðar. Eru kosninganiðurstöður gildar ef þær eru augljós afleiðing blekkingarleiks, svo lengi sem ekki var átt við sjálfa atkvæðaseðlana? Er þetta jafnvel bara eðlileg framlenging af hinum margfrægu „kosningaloforðum“ og efndum þeirra? Meðfylgjandi myndir voru skapaðar af sköpunargreindarvélinni DallE-3. Höfundur er tölvunarfræðingur.
Innræti og manndómur íslenzkra ráðherra og alþingismanna Á síðustu dögum og vikum hafa komið upp tvö mál, þar sem reynt hefur sérstaklega á innræti og manndóm, innri mann, ráðamanna hér. Einkar athyglisvert hefur verið, að fylgjast með því, hvern mann ráðamenn hafa í reynd að geyma, á bak við sitt breiða bros, fallegu orðræðu og ótæpilegu loforð, til Péturs og Páls. Hér urðu menn að koma til dyranna, eins og þeir eru í raun klæddir. 12. júní 2023 13:01
Kosningaórói Njáls Trausta Ekki hafa margir Alþingismenn orðið á vegi íbúa Austurlands undanfarið og ef ekki hefðu komið til hörmungarnar á Seyðisfirði hefði enn minna sést til þeirra á svæðinu en ella. 27. maí 2021 20:18
Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson Skoðun
Sterkari saman – geðheilsa er mannréttindi allra Halldóra Jónsdóttir,Halldóra Víðisdóttir,Júlíana Guðrún Þórðardóttir Skoðun
Skoðun Réttlæti hins sterka. Hvernig hinn sterki getur unnið nánast öll dómsmál Jörgen Ingimar Hansson skrifar
Skoðun Við sem lifum með POTS höfum verið yfirgefin af kerfinu Elín A. Eyfjörð Ármannsdóttir skrifar
Skoðun Reykjavíkurmódelið er skref í rétta átt – fyrir börnin og starfsfólkið Bozena Raczkowska skrifar
Skoðun Sterkari saman – geðheilsa er mannréttindi allra Halldóra Jónsdóttir,Halldóra Víðisdóttir,Júlíana Guðrún Þórðardóttir skrifar
Skoðun Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson skrifar
Skoðun Alþjóða geðheilbrigðisdagurinn – réttur til réttrar meðferðar Pétur Maack Þorsteinsson skrifar
Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson Skoðun
Sterkari saman – geðheilsa er mannréttindi allra Halldóra Jónsdóttir,Halldóra Víðisdóttir,Júlíana Guðrún Þórðardóttir Skoðun