Gervigreindin beisluð Hanna Kristín Skaftadóttir og Helga Sigrún Harðardóttir skrifa 9. júlí 2025 07:01 Gervigreind (AI) er orðin snar þáttur í nútíma atvinnulífi og samfélagi og mun hafa enn meiri áhrif á fyrirtæki og atvinnulíf bæði hér heima og á heimsvísu. Í skýrslu World Economic Forum (WEF) er því spáð að um 170 milljónir nýrra starfa muni skapast á heimsvísu fram til 2030 en um 92 milljónir starfa muni hverfa á sama tíma. Þetta samsvarar hreinni aukningu um 78 milljónir starfa (um 2% af heildarstörfum) ef spár ganga eftir. Slík umbylting kallar á gagngera endurskoðun á vinnumarkaði og menntun; raunar gera atvinnurekendur ráð fyrir að um 39% af helstu hæfniþáttum starfsmanna þurfi að breytast fram til ársins 2030. Þetta útheimtir markvissa endurmenntun og uppbyggingu nýrrar hæfni svo ekki myndist gjá milli þess sem tæknin krefst og þess sem mannauðurinn hefur fram að færa. Með hraðri innreið gervigreindar vaknar svo samhliða því þörf fyrir skýran ramma og samræmdar leikreglur. Stöðlun skiptir lykilmáli til að tryggja samræmi, öryggi og traust í notkun gervigreindarkerfa. Þekking á stöðlum er eitt af því sem þarf að fræða og mennta aðila vinnumarkaðarins um. Brýn þörf er fyrir styrka stjórnun og skorður við hönnun og þróun gervigreindarkerfa og -lausna til að tryggja öryggi okkar og grundvallar réttindi. Evrópusambandið hefur þegar reist fjölda girðinga með gervigreindarlögunum (EU AI Act) sem tóku gildi 2024. Megininntak þeirra er að skýrar reglur, samhæfðir staðlar og varnaglar í kringum gervigreind eru forsenda þess að fyrirtæki og stofnanir geti notið þess besta sem tæknin býður án þess að eitthvað fari úrskeiðis eða valdi hættu. Evrópusambandið hefur nýtt stöðlun talsvert í gegnum tíðina með góðum árangri, til að útfæra tæknilegar kröfur löggjafar og segja til um hvernig hlutir skulu hannaðir, framleiddir, prófaðir og hvernig þeir eiga að virka. Fyrst og fremst hefur það átt við um áþreifanlega hluti eins og leikföng, lækningatæki og byggingarvörur til að tryggja öryggi fólks, heilsu- og umhverfisvernd auk gæða og virkni. Nú er hins vegar búið er að setja í gang umfangsmikla stöðlun sem á að segja til um útfærslur gervigreindarlaganna til að auðvelda hönnuðum og þróunaraðilum að búa til gervigreindarkerfi sem tryggja öryggi okkar og koma í veg fyrir slys, mismunun, falsfréttir og rangar ákvarðanir og tryggja persónuvernd og ábyrgð þeirra sem hanna slík kerfi. Löggjöfin hefur þegar tekið gildi í Evrópu þó gildistöku nokkurra ákvæða hafi verið frestað til 2025 og 2026, Löggjöfin snýst í grunninn um að meta áhættur, forgangsraða þeim og bregðast við þeim með viðeigandi hætti. Áhættu sem metin er óásættanleg þarf að útrýma. Þar er átt við t.d. sjálfvirka líffræðilega auðkenningu og flokkun fólks, andlitsgreiningu á almannafæri og verkfæri sem leitt geta til stjórnunar eða blekkingar viðkvæmra hópa s.s. raddstýrð leikföng barna. Kerfi sem teljast með háa áhættu s.s. greiningarkerfi í heilbrigðisþjónustu, öryggiskerfi í iðnaði og flugi, gervigreind sem notuð er af stjórnvöldum til ákvarðanatöku eða hefur áhrif á lífsviðurværi fólks, þurfa að uppfylla strangar kröfur. Slíkum kerfum þarf að gæða- og áhættustýra og gerð er krafa um mannlega yfirumsjón þar sem hægt er að grípa inn í og stöðva kerfi hvenær sem er. Notendur slíkra kerfa verða líka að skilja þau og mata þau á gögnum sem eru laus við hlutdrægni eða skekkju sem valdið getur mismunun. Þá þarf að merkja sérstaklega og veita upplýsingar um kerfi með takmarkaðri áhættu, s.s. að merkja myndefni og deep-fake efni sem slíkt og fólk þarf að vita þegar það er í samskiptum við spjallmenni en ekki lifandi fólk. Allt ofangreint eru kröfur sem gerðar eru til hönnuða og þróunaraðila gervigreindarkerfa og -lausna í Evrópu og verða innleiddar á Íslandi innan tíðar. Kröfurnar eru settar og útfærðar með samhæfðum stöðlum til að tryggja að framleiðendur og þróunaraðilar, dreifendur gervigreindarkerfa og notendur þeirra fylgi ströngum reglum með einsleitum hætti en reglunum er ætlað að vernda almenning, velferðar- og lýðræðissamfélög. Íslensk fyrirtæki og atvinnulíf munu þurfa að fylgja þessari þróun og aðlaga sig að þeirri stöðlun og gæðamerkingum sem eru framundan. Sömu öryggis- og gæðaviðmið munu þá gilda hér og í öðrum Evrópulöndum. Þetta mun auka öryggi notenda og býður íslenskum fyrirtækjum að keppa á jöfnum grundvelli. Jafnframt getur þetta kallað á gagngerar breytingar á mörgum ferlum og hæfniskröfum hérlendis – til dæmis þarf að mennta starfsfólk til að nota gervigreindartækni á ábyrgan hátt og laga stjórnkerfi fyrirtækja að nýjum veruleika. Ábyrg notkun gervigreindar krefst þess að fyrir hendi séu traustir staðlar og skýrar leikreglur. Jafnframt verður atvinnulífið að laga sig að þessum nýju kröfum og tækifærum sem gervigreindin felur í sér, þar sem bæði samkeppnishæfni og öryggi eru í húfi. Þegar upp er staðið er ljóst að ábyrg notkun gervigreindar krefst bæði öflugrar stöðlunar og gagngerrar aðlögunar atvinnulífsins að nýjum leikreglum. Hanna Kristín Skaftadóttir, fagstjóri viðskiptagreindar, Háskólanum á Bifröst. Helga Sigrún Harðardóttir, framkvæmdastjóri Staðlaráðs Íslands. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Helga Sigrún Harðardóttir Gervigreind Tækni Evrópusambandið Mest lesið Óvirðing við lýðræðislegar hefðir, gegn stjórnarskrá, trúnaðarbrot gagnvart kjósendum Arnar Þór Jónsson Skoðun Lík brennd í Grafarvogi Diljá Mist Einarsdóttir Skoðun Þeir sem verja stórútgerðina – og heimsvaldastefnuna Karl Héðinn Kristjánsson Skoðun Gervigreindin beisluð Hanna Kristín Skaftadóttir,Helga Sigrún Harðardóttir Skoðun Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson Skoðun Orðhengilsháttur og lygar Elín Erna Steinarsdóttir Skoðun Á jaðrinum með Jesú Daníel Ágúst Gautason Skoðun Betri vegur til Þorlákshafnar er samkeppnismál Ólafur Stephensen Skoðun Er handahlaup valdeflandi? Davíð Már Sigurðsson Skoðun Elsku Íslendingar, styðjum saman Grindavík Dagmar Valsdóttir Skoðun Skoðun Skoðun Baráttan um kjör eldra fólks Jónína Björk Óskarsdóttir skrifar Skoðun Menntamál íslenskra grunnskólabarna hafa verið til umfjöllunar – sem er vel. Miklu verra er tilefnið Karen Rúnarsdóttir skrifar Skoðun Elsku Íslendingar, styðjum saman Grindavík Dagmar Valsdóttir skrifar Skoðun Að fortíð skal hyggja þegar framtíð skal byggja Einar G. Harðarson skrifar Skoðun Svigrúm Eydísar á fölskum grunni Kristinn Karl Brynjarsson skrifar Skoðun Betri vegur til Þorlákshafnar er samkeppnismál Ólafur Stephensen skrifar Skoðun Óvirðing við lýðræðislegar hefðir, gegn stjórnarskrá, trúnaðarbrot gagnvart kjósendum Arnar Þór Jónsson skrifar Skoðun Lík brennd í Grafarvogi Diljá Mist Einarsdóttir skrifar Skoðun Er handahlaup valdeflandi? Davíð Már Sigurðsson skrifar Skoðun Á jaðrinum með Jesú Daníel Ágúst Gautason skrifar Skoðun Þeir sem verja stórútgerðina – og heimsvaldastefnuna Karl Héðinn Kristjánsson skrifar Skoðun Gervigreindin beisluð Hanna Kristín Skaftadóttir,Helga Sigrún Harðardóttir skrifar Skoðun Kúnstin að vera ósammála sjálfum sér Heiða Ingimarsdóttir skrifar Skoðun Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson skrifar Skoðun Geislameðferð sem lífsbjörg Ingibjörg Isaksen skrifar Skoðun Þetta eru ekki eðlileg vinnubrögð Bryndís Haraldsdóttir skrifar Skoðun Stöðvum helvíti á jörðu Birna Þórarinsdóttir,Bjarni Gíslason,Gísli Rafn Ólafsson,Sigríður Schram,Stella Samúelsdóttir,Tótla I. Sæmundsdóttir skrifar Skoðun Hversu mikið er nóg? Guðríður Eldey Arnardóttir skrifar Skoðun Til þeirra sem fagna Sigurður Gísli Bond Snorrason skrifar Skoðun Að semja er ekki veikleiki – það er forsenda lýðræðis Elliði Vignisson skrifar Skoðun Tekist á um hvort lýðræðið á Íslandi sé virkt eða hvort hefðaréttur sé á völdum Þórður Snær Júlíusson skrifar Skoðun Sumar og sól – en ekki alltaf sátt í sálinni Ellen Calmon skrifar Skoðun Að flokka hver vinnur og hver tapar Tryggvi Rúnar Brynjarsson skrifar Skoðun Hagur hluthafanna alltaf og undantekningarlaust í forgangi Jón Kaldal skrifar Skoðun Má berja blaðamenn? Sigríður Dögg Auðunsdóttir skrifar Skoðun Nýr rektor og 2025 – tímamót í háskólamálum Ástráður Eysteinsson,Magnús Karl Magnússon,Margrét Helga Ögmundsdóttir,Tinna Laufey Ásgeirsdóttir skrifar Skoðun Vonir um vopnahlé eins og hálmstrá Sveinn Rúnar Hauksson skrifar Skoðun Samfélagið innan samfélagsins Sigríður Svanborgardóttir skrifar Skoðun Til hamingju Íslendingar með nýja Óperu Andri Björn Róbertsson skrifar Skoðun Hvers vegna hatar SFS smábáta? Svarið tengist veiðigjöldum Kjartan Páll Sveinsson skrifar Sjá meira
Gervigreind (AI) er orðin snar þáttur í nútíma atvinnulífi og samfélagi og mun hafa enn meiri áhrif á fyrirtæki og atvinnulíf bæði hér heima og á heimsvísu. Í skýrslu World Economic Forum (WEF) er því spáð að um 170 milljónir nýrra starfa muni skapast á heimsvísu fram til 2030 en um 92 milljónir starfa muni hverfa á sama tíma. Þetta samsvarar hreinni aukningu um 78 milljónir starfa (um 2% af heildarstörfum) ef spár ganga eftir. Slík umbylting kallar á gagngera endurskoðun á vinnumarkaði og menntun; raunar gera atvinnurekendur ráð fyrir að um 39% af helstu hæfniþáttum starfsmanna þurfi að breytast fram til ársins 2030. Þetta útheimtir markvissa endurmenntun og uppbyggingu nýrrar hæfni svo ekki myndist gjá milli þess sem tæknin krefst og þess sem mannauðurinn hefur fram að færa. Með hraðri innreið gervigreindar vaknar svo samhliða því þörf fyrir skýran ramma og samræmdar leikreglur. Stöðlun skiptir lykilmáli til að tryggja samræmi, öryggi og traust í notkun gervigreindarkerfa. Þekking á stöðlum er eitt af því sem þarf að fræða og mennta aðila vinnumarkaðarins um. Brýn þörf er fyrir styrka stjórnun og skorður við hönnun og þróun gervigreindarkerfa og -lausna til að tryggja öryggi okkar og grundvallar réttindi. Evrópusambandið hefur þegar reist fjölda girðinga með gervigreindarlögunum (EU AI Act) sem tóku gildi 2024. Megininntak þeirra er að skýrar reglur, samhæfðir staðlar og varnaglar í kringum gervigreind eru forsenda þess að fyrirtæki og stofnanir geti notið þess besta sem tæknin býður án þess að eitthvað fari úrskeiðis eða valdi hættu. Evrópusambandið hefur nýtt stöðlun talsvert í gegnum tíðina með góðum árangri, til að útfæra tæknilegar kröfur löggjafar og segja til um hvernig hlutir skulu hannaðir, framleiddir, prófaðir og hvernig þeir eiga að virka. Fyrst og fremst hefur það átt við um áþreifanlega hluti eins og leikföng, lækningatæki og byggingarvörur til að tryggja öryggi fólks, heilsu- og umhverfisvernd auk gæða og virkni. Nú er hins vegar búið er að setja í gang umfangsmikla stöðlun sem á að segja til um útfærslur gervigreindarlaganna til að auðvelda hönnuðum og þróunaraðilum að búa til gervigreindarkerfi sem tryggja öryggi okkar og koma í veg fyrir slys, mismunun, falsfréttir og rangar ákvarðanir og tryggja persónuvernd og ábyrgð þeirra sem hanna slík kerfi. Löggjöfin hefur þegar tekið gildi í Evrópu þó gildistöku nokkurra ákvæða hafi verið frestað til 2025 og 2026, Löggjöfin snýst í grunninn um að meta áhættur, forgangsraða þeim og bregðast við þeim með viðeigandi hætti. Áhættu sem metin er óásættanleg þarf að útrýma. Þar er átt við t.d. sjálfvirka líffræðilega auðkenningu og flokkun fólks, andlitsgreiningu á almannafæri og verkfæri sem leitt geta til stjórnunar eða blekkingar viðkvæmra hópa s.s. raddstýrð leikföng barna. Kerfi sem teljast með háa áhættu s.s. greiningarkerfi í heilbrigðisþjónustu, öryggiskerfi í iðnaði og flugi, gervigreind sem notuð er af stjórnvöldum til ákvarðanatöku eða hefur áhrif á lífsviðurværi fólks, þurfa að uppfylla strangar kröfur. Slíkum kerfum þarf að gæða- og áhættustýra og gerð er krafa um mannlega yfirumsjón þar sem hægt er að grípa inn í og stöðva kerfi hvenær sem er. Notendur slíkra kerfa verða líka að skilja þau og mata þau á gögnum sem eru laus við hlutdrægni eða skekkju sem valdið getur mismunun. Þá þarf að merkja sérstaklega og veita upplýsingar um kerfi með takmarkaðri áhættu, s.s. að merkja myndefni og deep-fake efni sem slíkt og fólk þarf að vita þegar það er í samskiptum við spjallmenni en ekki lifandi fólk. Allt ofangreint eru kröfur sem gerðar eru til hönnuða og þróunaraðila gervigreindarkerfa og -lausna í Evrópu og verða innleiddar á Íslandi innan tíðar. Kröfurnar eru settar og útfærðar með samhæfðum stöðlum til að tryggja að framleiðendur og þróunaraðilar, dreifendur gervigreindarkerfa og notendur þeirra fylgi ströngum reglum með einsleitum hætti en reglunum er ætlað að vernda almenning, velferðar- og lýðræðissamfélög. Íslensk fyrirtæki og atvinnulíf munu þurfa að fylgja þessari þróun og aðlaga sig að þeirri stöðlun og gæðamerkingum sem eru framundan. Sömu öryggis- og gæðaviðmið munu þá gilda hér og í öðrum Evrópulöndum. Þetta mun auka öryggi notenda og býður íslenskum fyrirtækjum að keppa á jöfnum grundvelli. Jafnframt getur þetta kallað á gagngerar breytingar á mörgum ferlum og hæfniskröfum hérlendis – til dæmis þarf að mennta starfsfólk til að nota gervigreindartækni á ábyrgan hátt og laga stjórnkerfi fyrirtækja að nýjum veruleika. Ábyrg notkun gervigreindar krefst þess að fyrir hendi séu traustir staðlar og skýrar leikreglur. Jafnframt verður atvinnulífið að laga sig að þessum nýju kröfum og tækifærum sem gervigreindin felur í sér, þar sem bæði samkeppnishæfni og öryggi eru í húfi. Þegar upp er staðið er ljóst að ábyrg notkun gervigreindar krefst bæði öflugrar stöðlunar og gagngerrar aðlögunar atvinnulífsins að nýjum leikreglum. Hanna Kristín Skaftadóttir, fagstjóri viðskiptagreindar, Háskólanum á Bifröst. Helga Sigrún Harðardóttir, framkvæmdastjóri Staðlaráðs Íslands.
Óvirðing við lýðræðislegar hefðir, gegn stjórnarskrá, trúnaðarbrot gagnvart kjósendum Arnar Þór Jónsson Skoðun
Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson Skoðun
Skoðun Menntamál íslenskra grunnskólabarna hafa verið til umfjöllunar – sem er vel. Miklu verra er tilefnið Karen Rúnarsdóttir skrifar
Skoðun Óvirðing við lýðræðislegar hefðir, gegn stjórnarskrá, trúnaðarbrot gagnvart kjósendum Arnar Þór Jónsson skrifar
Skoðun Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson skrifar
Skoðun Stöðvum helvíti á jörðu Birna Þórarinsdóttir,Bjarni Gíslason,Gísli Rafn Ólafsson,Sigríður Schram,Stella Samúelsdóttir,Tótla I. Sæmundsdóttir skrifar
Skoðun Tekist á um hvort lýðræðið á Íslandi sé virkt eða hvort hefðaréttur sé á völdum Þórður Snær Júlíusson skrifar
Skoðun Nýr rektor og 2025 – tímamót í háskólamálum Ástráður Eysteinsson,Magnús Karl Magnússon,Margrét Helga Ögmundsdóttir,Tinna Laufey Ásgeirsdóttir skrifar
Óvirðing við lýðræðislegar hefðir, gegn stjórnarskrá, trúnaðarbrot gagnvart kjósendum Arnar Þór Jónsson Skoðun
Óboðlegt ástand á Landspítala – okkar sjónarhorn Hildur Jónsdóttir,Einar Freyr Ingason,Þórir Bergsson Skoðun