Gervi­­­­­greind vekur Hemma til lífsins meðan lög­gjafinn sefur

Hvað sem fólki kann að finnast um Skaupið er víst að það náði heldur betur að hrista upp í mannskapnum og vekja upp spurningar um gervigreind. Svör liggja ekki á lausu. Þessar spurningar eru lagalegar og siðferðilegar.

Um er að ræða atriði þeirra Audda Blö og Steinda Jr., þar sem þeir nýttu gervigreind til að fá fjölmarga þekkta einstaklinga að þeim fjarstöddum og jafnvel forspurðum til að birtast í tónlistarmyndbandi. Atriðið vekur upp spurningar sem snúa að ýmsu sem varðar siðferði, lög, höfundar- og sæmdarrétt. 

Hér fyrir neðan má sjá það hvernig gervigreindin tekur yfir atriðið.

Mörgum brá í brún. Ekki síst þegar skemmtikrafturinn Hemmi Gunn birtist „ljóslifandi“ en hann varð bráðkvaddur í Tailandi í júní 2013. Eins og Vísir hefur greint frá eru margir ósáttir við það, svo sem Ragnar bróðir Hemma, og fleiri hafa tjáð efasemdir um hvað sé siðferðilega rétt.

Angar tækninnar sérlega óhuggnanlegir

Pétur segir leitt að heyra að ekki hafi allir verið sáttir.

„Leiðinlegt að heyra það. Ég get vottað fyrir það, en ég vann náið með teyminu, að öllum var annt um að hafa samband við aðstandendur og ef fólk upplifir sjokk við þetta þá reyndum við að gera allt til að svo yrði ekki. Því þetta verkefni veitir fullkomið tækifæri til að velta upp einmitt þeim bolta. „Áramótaskaupið er þekkt satíruverkefni og við reyndum að ganga þannig frá verkefninu að skýrt sé hvernig í pottinn er búið.“

Pétur segir sérstaklega viðkvæmt mál með einstaklinga sem fallnir eru frá en vakna til lífsins á skjánum. 

„En ég held að erfitt sé að fá eins góðan ramma utan um það og Skaupið. Það var gengið eins snyrtilega frá þessu og unnt var.“

Vissulega var minningu Hemma sýnd full virðing en mönnum er engu að síður brugðið og ekkert endilega víst að næst verði að slíku gáð?

„Nei, vissulega eru angar tækninnar óhuggulegir. Internetið eins og það leggur sig hefur anga sem varða persónuvernd og meðferð upplýsinga sem er vert að fylgjast vel með og hafa skýrt regluverk á. Gervigreindin fellur þar undir en fyrst og fremst er þetta spennandi tækni til að vinna myndefni á splúnkunýjan hátt. En við köllum eftir ábyrgum viðbrögðum yfirvalda og því að regluverkið sé uppfært.“

Hinn afar staði löggjafi

En nú erum við með stjórnvöld sem má kenna við eftiráspeki, þung og svifasvein bregðast þau við löngu eftir að á þeim er þörf – við erum með stjórnvöld sem eru í það minnsta tíu árum á eftir?

„Vissulega og það verður sláandi ljóst núna. Heldur betur, ég vona að þeir fari að setja á sig hanskana og vinna. Þetta er ekki bara á sviði myndvinnslu og hljóðvinnslu, heldur úrvinnslu gagna og fréttavinnslu.“

Pétur nefnir sem dæmi auglýsingu Já.is í tengslum við Black Friday sem öll var framleidd af gervigreindarforritum og það ekki tilgreint sérstaklega. 

„Þar vakna spurningar hvort auglýsanda beri skylda til að kynna það sem slíkt. Þetta eru spurningar sem vert er að fara að spyrja sig.“

En það er kannski ekki mikilla viðbragða að vænta frá löggjafaþinginu?

„Það eru nú stöku aðilar sem hafa viðrað sínar áhyggjur inni á þingi en ég veit ekki til þess að nein frumvörp séu í vinnslu þar. Og þetta eru spurningar sem eru á heimsvísu og ekki bara bundnar við Ísland. Við höfum sett upp sterkt kerfi með STEF og höfundarbundinn rétt. En við þurfum að gera svo miklu miklu meira, þá hvað varðar ímynd og gervigreindina.“

Satíran og tjáningarfrelsið

Gervigreindin er orðin óhugnanlega raunveruleg og tímabært að opna það samtal. Pétur tekur það skýrt fram að hann sé ekki lögfræðingur.

„En þetta eru allt mjög þarfar spurningar sem við þurfum að taka fyrir og þær varða ímyndarrétt þjóðþekktra einstaklinga og hvernig við ætlum að taka skrefin áfram með þessari tækni. Í þessu verkefni var allur efnisréttur sem nýttur var til að þjálfa þessi líkön, í eigu RÚV. Þannig var ekki brotið gegn neinum höfundarrétti.“

Pétur leggur einnig áherslu á að ekki hafi verið reynt að blekkja heldur þvert á móti, í þessu tilfelli. En þegar gengið er að einhverjum söngvara sem ekki hefur gefið sitt leyfi þá vakni auðvitað spurningar. En þetta er satíra og þá sé erfitt að komast að þeirri niðurstöðu að vert sé að takmarka tjáningarfrelsið. En þessum spurningum er ósvarað.

„Það var mikið lagt í að fá leyfi en mikilvægast var að hafa samband við aðstandendur Hemma Gunn. En það eru stórar spurningar í þessu. Svo virðist sem miklar framfarir í tæknimálum sem hendast fram úr öllum siðferðilegum álitaefnum.“

Kári Stefáns prótótýpan

Pétur segir Overtune með þeim fremstu á sínu sviði á heimsvísu. 

„Við erum mjög stolt af því að hafa getað unnið þetta svona hratt. Við vorum ekki teymi heldur var ég einn að vinna með þau tól sem við höfum smíðað hér innanbúðar. Þetta voru í allt 25 skot, svaka vinna. Fimm þjálfuð raddlíkön, 15 andlit, 25 skot,“ segir Ragnar. Hann segir það mikinn heiður að hafa fengið að brjóta blað í sögu íslenskra tæknibrellna. En það séu á þessu margri vinklar.

„Við hjá Overtune eru sprotafyrirtæki sem höfðum verið að smíða tónlistarhugbúnað núna í tvö ár. Við erum með app á Appstore sem gerir fólki kleift að púsla saman tónlist án þess að hafa nokkurn tónlistarlegan bakgrunn. Og við höfum verið að smíða nokkur tól sem byggja á gervigreindartækni sem svo leiðir inn í þetta.“

Hjá fyrirtækinu starfa sex en það vex og gengur saman eins og harmónikka eftir verkefnastöðu. En hvernig var að breyta Benedikt Valssyni í Hemma? Hvernig kom það til?

„Við höfðum verið að smíða kerfi til að sjá um raddbreytingar. Við höfum betrumbætt hljómgæði og við fórum að hugsa fyrir tveimur mánuðum að það væri tímabært að sýna landanum hvert þetta er komið. Við gerðum gervigreindarlíkan af Kára Stefánssyni og það lag fór í dreifingu sem svo endaði uppá borði hjá þeim Audda og Steinda. Þeir tóku það fyrir í útvarpsþætti sínum fyrir einum eða tveimur mánuðum. Þeir höfðu í framhaldinu samband við okkur. Við höfum smíðað heilt vopnabúr og gátum unnið þetta á skömmum tíma. Þetta atriði er unnið á þremur vikum og einum tæknistarfsmanni.“

Í draumastöðu að vera með efni RÚV í höndunum

Pétur segir skemmtilegt að nefna að takturinn í laginu sjálfu er framleitt í Overtune-appinu sjálfu. Þetta er merkilega skammur tími?

„Já, sérstaklega með lagið sjálft. Við bjóðum uppá einstaka þjónustu þar sem áskrifendur að Overtune-appinu, fá fullan dreifingarrétt á þeim töktum sem þeir gera, með sínu dreifingarefni. Þetta er mikil nýjung sem snýr að tónlistinni líka.“

Pétur segir að þeir hjá fyrirtækinu hafi nú í tvö ár verið að vinna sérstaklega að djúptækni sem þeir hafi nýtt þegar þeir voru að tækla gervigreindina. Og eins og áður sagði, var ómetanlegt að hafa aðgang að öllum myndefni sem var í vörslu RÚV.

„Við vorum í draumastöðu með aðgang að efni sem við höfðum leyfi til að nýta í þetta. Já, við búum sannarlega á spennandi tímum og ætlum að halda okkur á ystu nöf.“