Hemmi Gunn vekur þing­heim til vitundar um gervi­greind

Þetta kom fram í máli Björns Levís í dagskráliðnum störf þingsins nú fyrir stundu. Hann segir mörg viðfangsefnin en við verðum að gera fleira en eitt í einu.

„Eitt verkefnið birtist landsmönnum í áramótaskaupi síðasta árs þegar Hemmi Gunn birtist á skjánum. Gervigreindartæknin er svo sannarlega komin til að vera. Í grein á Vísi kallar Pétur Eggerz Pétursson hjá Overtune, sem er maðurinn á bak við Hemma Gunn-atriðið í áramótaskaupinu, eftir því að löggjafinn setji upp hanskana því framtíðin sé mætt,“ sagði Björn Leví.

Þingmaðurinn hélt þá áfram og sagði að framtíðinni væri slétt sama um hraðatakmarkanir stjórnmálanna sem drolla með öll verkefni árum saman, henda þeim milli nefnda og starfshópa fram og til baka á meðan hlutirnir eru bara að gerast.

„Í Bretlandi birtist fölsuð hljóðupptaka af formanni Verkamannaflokksins þar sem hann heyrist skammast út í starfsfólk flokksins annars vegar og hins vegar gagnrýna Liverpool-borg — hvort tveggja skáldað. 

Hinum megin Atlantshafsins heyrist rödd Biden hvetja kjósendur í New Hampshire til að taka ekki þátt í forvali Demókrataflokksins — skáldað. 

Tækifærin í tækninni eru gríðarlega spennandi en hætturnar eru það líka,“ sagði Björn Leví.

Þingmaðurinn hefur nú brugðist við kallinu og sent frumvarp um gervigreindarfólk og sjálfvirka gagnagreiningu í meðflutningsferli til allra þingmanna með von um jákvæð viðbrögð.

„Það þarf nefnilega bara að bregðast við. Við eigum ekki að bíða eftir ESB eða starfshópum og nefndum. Við þurfum að gera það skýrt að endurgerð af einstaklingi sem má ætla að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, sé óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn. Við þurfum að bregðast við þessu strax,“ segir Björn Leví.

Frumvarp Björns Levís um gervigreind

154. löggjafarþing 2023–2024. 

Þingskjal 640 — 446. mál. 

Frumvarp til laga um breytingu á höfundalögum, nr. 73/1972 (gerfigreindarfólk og sjálfvirk gagnagreining). 

Flm.: Björn Leví Gunnarsson, … 

1. gr. 

Við 2. gr. bætist ný málsgrein svohljóðandi: Endurgerð af einstaklingi sem ætla má að sé raunveruleg, hvort sem um er að ræða mynd, myndband, hljóðupptöku eða annað efni, er óheimil án samþykkis viðkomandi einstaklings eða afkomenda hans ef viðkomandi er látinn.

2. gr. 

Á eftir 10. gr. a. bætist ný grein, 10. gr. b. svohljóðandi: Auðkenna skal allar endurgerðir sem falla undir 6. mgr. 2. gr. með þeirri aðferð sem var notuð til þess að búa til endurgerðina. Með endurgerð sem fellur undir 6. mgr. 2. gr. skal tilvísun í upprunalegt verk ávallt fylgja birtingu á endurgerðinni. 

3. gr. 

Á eftir 11. gr. a laganna kemur ný grein, 11. gr. b, svohljóðandi: Heimilt er án endurgjalds að gera rafræn eintök af verki sem aflað hefur verið með lögmætum hætti, enda sé tilgangur slíkra eintaka að útbúa sjálfvirkar gagnagreiningar og vinna málfræðilegar og tölfræðilegar upplýsingar. Óheimilt er að nota slík eintök í öðrum tilgangi. 

4. gr.

Lög þessi öðlast þegar gildi. 

Greinargerð.

Frumvarpið var lagt fram á 149. löggjafarþingi (446. mál) en gekk ekki til nefndar. Málið er nú endurflutt og bætt er við grein um gerfigreindarfólk. 

Mjög mikil þróun hefur orðið í framleiðslu alls konar efnis á undanförnum mánuðum með tilkomu öflugra stafrænna tauganeta. Tauganet sem búa til texta, hljóð og myndir sem mjög erfitt er að greina hvort séu framleidd af manneskju eða tölvu. Svokallaðar djúpfalsanir (e. deep fake) eru þegar notaðar í pólitískum tilgangi. Það er því mjög mikilvægt að það sé skýrt í lögum að slíkar endurgerðir séu ekki heimilar nema með leyfis þess sem endurgerðin er af. Einnig er afarnauðsynlegt að allar endurgerðir verði sérstaklega merktar sem slíkar, þannig að enginn vafi leiki á því að um endurgerð sé að ræða. 

Það er í rauninni líklegt að það þurfi að merkja allt efni sem gæti fræðilega verið endurgerð. Þannig að ef mynd, myndband eða hljóð af einhverjum er ekki merkt þá ætti fólk að álykta sem svo að um einhvers konar endurgerð sé að ræða. Ekki er gengið svo langt í þessu frumvarpi, en það er ekki ólíklegt að slík merking gerist að sjálfu sér. Að til dæmis stjórnmálafólk merki sérstaklega þau myndbönd sem birtast af þeim sem upprunavottuð og raunveruleg. 

Athugasemdir við einstakar greinar frumvarpsins. 

um 1. gr.

 Í 2. gr. höfundaréttarlaganna er einkaréttur höfunda skilgreint. Í 1. gr. þessa frumvarps er áréttað að hvers konar endurgerð af einstaklingi sem ætla má að sé raunveruleg sé óheimil án samþykkis viðkomandi einstaklings. Þessi árétting er vegna þróunar í gerfigreind sem getur á tiltölulega einfaldan og aðgengilegan hátt gert fólki kleift að búa til myndir, myndbönd, hljóð af hvaða einstaklingi sem er án þess að hægt sé að gera greinarmun á því hvort um raunverulega mynd, myndband eða hljóðupptöku sé að ræða eða einhvers konar endurgerð. 

um 2. gr. 

Með 2. gr. frumvarpsins er kveðið á um að allar endurgerðir sem falla undir þá skilgreiningu sem sett er í 1. gr. frumvarpsins séu auðkenndar sem endurgerðir og ef um breytingar á upprunalegu verki er að ræða þá skuli birtingu á endurgerð fylgja tilvísun í upprunalegt verk. Greininni er ætlað að ná bæði yfir verk sem gerfigreind getur búið til, sem eru án upprunaverka, og breytinga á upprunalegum verkum, svo sem ljósmyndum. Sem dæmi má nefna tískuljósmyndir sem oft er lögð mikil vinna í að breyta með myndvinnslu eða kvikmyndir með tölvugerðum teikningum.

um 3. gr. 

Framboð rafrænna gagna, þar á meðal vísindagreina, fer ört vaxandi. Áætlað er að fleiri en 3 milljónir ritrýndra fræðigreina séu nú birtar á hverju ári1 . Fyrir vikið er orðið erfitt fyrir rannsakendur að komast sjálfir yfir allt efni á tilteknu rannsóknarsviði. Þess í stað notast þeir í auknum mæli við sjálfvirka gagnagreiningu tölva (e. data mining eða data analysis) til að sækja gagnlegar upplýsingar úr stórum gagnasöfnum. 

Sjálfvirk gagnagreining gerir rannsakendum einnig kleift að finna ýmiss konar fylgni og mynstur sem ella væri erfitt að greina. Sjálfvirk gagnagreining krefst þess almennt að gerð séu afrit af þeim gögnum sem á að skoða. Torsótt væri fyrir rannsakendur að afla í hvert sinn samþykkis fyrir því frá öllum rétthöfum efnis í gagnasafni sem geta hæglega hlaupið á þúsundum. Því er aðkallandi að veita undanþágu frá einkarétti höfunda til eintakagerðar vegna sjálfvirkrar gagnagreiningar í þágu tækniþróunar og vísindarannsókna. 

Miklar framfarir hafa verið á undanförnum árum í máltækni. Ein helsta hindrun sem máltækni stendur frammi fyrir er takmarkaður aðgangur að efni fyrir tölvur til úrvinnslu. Þetta frumvarp leggur til að hægt verði að gera rafræn eintök af verkum sem aflað hefur verið með lögmætum hætti til þess að vinna úr þeim málfræðilegar og tölfræðilegar upplýsingar.