Atvinnulíf

Ekki ó­lík­legt að gervi­greindin mis­muni konum og körlum

Rakel Sveinsdóttir skrifar
Sæunn Gísladóttir, sérfræðingur hjá Rannsóknamiðstöð Háskólans á Akureyri segir enn mikla kynjaskekkju í gögnum sem við erum að styðjast við í hönnun bygginga, mannvirkjagerða, vöruframleiðslu, heilbrigðisþjónustu, kennslu og svo framvegis. Sem aftur þýðir að rýna þarf vel í hvaða gögn gervigreind er að styðjast við því hún geti auðveldlega mismunað konum og körlum án þess að við séum að gera okkur grein fyrir því.  
Sæunn Gísladóttir, sérfræðingur hjá Rannsóknamiðstöð Háskólans á Akureyri segir enn mikla kynjaskekkju í gögnum sem við erum að styðjast við í hönnun bygginga, mannvirkjagerða, vöruframleiðslu, heilbrigðisþjónustu, kennslu og svo framvegis. Sem aftur þýðir að rýna þarf vel í hvaða gögn gervigreind er að styðjast við því hún geti auðveldlega mismunað konum og körlum án þess að við séum að gera okkur grein fyrir því.  

Það kann að koma á óvart hversu mikil skekkja er enn í gögnum sem þó hafa veruleg áhrif á það hvernig vörur, þjónusta, stofnanir, vöruhönnun og fleira kemur við karla annars vegar og konur hins vegar.

Því nú er komið nokkur langur tími þar sem þær staðreyndir hafa verið þekktar að til dæmis hönnun bíla taki mið af líkamsbyggingu karla, sem þýðir aukin slysahætta fyrir konur. Eða að staðlaður hiti í skrifstofurýmum taki mið af þörfum karla, en ekki kvenna og svo framvegis.

En fyrst þessi þekking liggur fyrir, hver er staðan í dag og er eitthvað að breytast?

Sæunn Gísladóttir er sérfræðingur hjá Rannsóknamiðstöð Háskólans á Akureyri. Hún er ein þeirra sem mun halda erindi á UAK ráðstefnunni, sem haldin verður í Hörpu þann 22. apríl. Í tilefni ráðstefnunnar, fjallar Atvinnulífið um jafnréttismálin í gær og í dag.

Yfirskrift erindis Sæunnar er Af hverju skiptir gagnahlutdrægni máli? og í dag ætlum við að heyra aðeins betur um það, hvaða áhrif gagnahlutdrægni hefur ef ekki er unnið markvisst að því að leiðrétta þá skekkju sem fyrir er.

Erum svo oft ómeðvituð um hlutdrægni

Sæunn er þýðandi bókarinnar Ósýnilegar konur eftir Carline Criado Perez en í þeirri bók eru fjölmörg dæmi tiltekin um það hvernig umhverfið tekur meira og minna mið af þörfum karlmanna en ekki þörfum kvenna.

Sem dæmi má setja þetta í samhengi við umræður um opin eða lokuð vinnurými. Í bók Criado Perez tekur hún dæmi um það hvernig rannsóknir hafa sýnt að stúlkur og konur virðast forðast svæði sem eru of opin. Á meðan karlmönnum líður betur með þessi opnu svæði.

Í bók Criado Perez er reyndar ekki talað um vinnurými sem slík, heldur eru dæmi tekin um opin svæði eins og almenningsgarða, leikvangi sem eru ekki með marga innganga (og þar af leiðandi ekki margar útgönguleiðir) eða byggingar eins og spítala sem einkennast af löngum þröngum göngum. Rannsóknir sýna að konum virðist ekki líða eins vel í svona rýmum eins og karlmönnum og forðast þau jafnvel. Með tilliti til þess að hönnun þessara rýma byggja á karllægum gögnum, er þetta skiljanlegt.

Eitt gott dæmi líka er hversu langan tíma það hefur tekið að greina endómetríósu hjá konum. Því læknisfræðin er dæmi um fræði sem meira og minna byggir á hlutdrægum gögnum sem taka meira mið af karlmönnum en konum,“ 

segir Sæunn.

Þessi gagnahlutdrægni virðist því vera alls staðar: Í heilbrigðisgeiranum, í kennslu, í hönnun bygginga og mannvirkja, í vöruhönnun og svo framvegis.

En er þetta ekkert að breytast með tilliti til þess að nú hefur þetta verið vitað nokkuð lengi?

„Sumt er að breytast. Það hefur til dæmis vakið athygli að Volvo sýndi það frumkvæði að nota árekstraprófunardúkkur sem byggja ekki bara á „meðal“ karllíkamanum og vinna að breytingum í framleiðslu samhliða því. En skekkjan virðist enn vera mikil því bók Criado Perez kom út árið 2019 og það er nú ekki mjög langt síðan það var,“ segir Sæunn.

Hún segir lykilatriðið vera að kannanir taki mið af kynjagreiningu strax. Þannig að strax í upphafi sé til dæmis spurt um það hvort svarendur séu karl, kona eða kvár/annað.

„Reyndar telst meira til því ef við tökum þetta dæmi með bílaframleiðendur, þá byggir framleiðsla bíla ekki aðeins á þörfum karlmanna heldur skilgreiningunni hvítur karlmaður í meðalhæð. Þetta þýðir að öryggi bifreiðanna er ekki aðeins minna fyrir konur, heldur líka til dæmis asíska karlmenn sem eru að jafnaði lágvaxnari en evrópskir. Íslenskir karlmenn eru frekar hávaxnir og svo mætti lengi telja.“

Því meira sem gögn hins vegar rýna og rannsóknir taka mið af frá upphafi, því betur getum við treyst að gögnin séu marktæk og lýsandi fyrir marga ólíka hópa.

„Vandamálið er að við erum enn að vinna svo mikið með gögn sem eru arfleifð gamals tíma. Sem þýðir að það er að taka svo langan tíma að þokast í rétta átt og í svo mörgu erum við því enn í sama farinu hvað varðar þekkingu, hönnun, framleiðslu og fleira,“ segir Sæunn.

Hún segir hlutdrægni líka oft svo ómeðvitaða.

Frægt er til dæmis dæmið um Fílharmoníuhljómsveitina í New York. Sem lengst af samanstóð nær eingöngu af karlmönnum. Þar til hljómsveitin ákvað að standa fyrir prufum þar sem umsækjendur sáust ekki, heldur spiluðu á hljóðfæri og ráðningaraðilar gátu aðeins hlustað á.

Í kjölfarið breyttust kynjahlutföllin í að vera til helminga konur og karlmenn meðal nýráðinna.

„Þegar hlutdrægni er svona ómeðvituð, þarf oft að gera eitthvað á einhvern allt annan hátt en áður til þess að þessi hlutdrægni sé ekki til staðar. Viljinn til breytinga þarf samt að vera til staðar og þetta dæmi um Fílharmóníuhljómsveitina er gott dæmi hvað það varðar því þar klárlega hefur verið að minnsta kosti einhver einn sem hefur sagt: Gerum þetta þá eitthvað öðruvísi en við höfum áður gert.“

Það hversu langan tíma það tók að greina endómetríósu hjá konum er dæmi um afleiðingu þess að læknisfræðin er dæmi um fræði sem meira og minna byggir á gögnum sem styðjast við karlmenn en ekki konur. Þá tekur Sæunn dæmi um hvernig gervigreind gæti verið líkleg til að útiloka frekar konur í störf ef gervigreind er notuð til að sía út hæfustu umsækjendur. Sæunn er þýðandi bókarinnar Ósýnilegar konur eftir Carline Criado Perez en í þeirri bók eru fjölmörg dæmi tiltekin um það hvernig umhverfið tekur meira og minna mið af þörfum karlmanna en ekki þörfum kvenna.

Er OpenAI að mismuna kynjum?

Sæunn segir gervigreindina gott dæmi um það sem við þurfum að vera sérstaklega vakandi yfir núna hvað varðar skekkju í gögnum. Því í raun vitum við lítið á hvaða gögnum gervigreindin er að vinna á, til dæmis OpenAI sem allir eru að tala um núna.

Ímyndum okkur að gervigreind sé að fara yfir fullt af ferilskrám til að sigta út nokkra álitlega umsækjendur. Ef það er mikil skekkja í þeim gögnum sem gervigreindin byggir á, gæti það gerst að ferilskrár kvenna yrðu frekar út undan en ferilskrár karla einfaldlega vegna þess að í þeim má oftar finna eyður í starfsframa sem í raun skýrast út af barneignum og fæðingarorlofum. 

Gervigreind sem byggir á mjög karllægum gögnum mun ekki ná að átta sig á þessu, þótt við mannfólkið gætum það. Fyrir vikið gætu færri konur komist að sem umsækjendur en ætti að vera.“

Þótt erindi Sæunnar muni að mestu byggja á gagnahlutdrægni og kynjajafnrétti, segir hún stóru myndina enn flóknari. Horfa þurfi til fleiri minnihlutahópa því almennt sé skortur á upplýsingum um þá.

„En því meira sem við reiðum okkur á gögn, því betur þurfum við að átta okkur á því hvaða gögn eru áræðanleg og sönn og hver ekki. Því betur sem unnið er með gögn í upphafi, því betri eru gögnin. Ég vísa þar til fleiri atriða en eingöngu að kyngreina gögn því við þurfum líka að vera vel upplýst um aðra bakgrunnsþætti, til dæmis uppruna fólks, fötlun og fleira. Ef gögn byggja á einsleitum hópi en ekki fjölbreytileikanum, verða ákvarðanir og niðurstöður til í samræmi við það sem gögnin segja.“


Tengdar fréttir

Eigum að horfa meira til fram­kvæmda­stjóra­skipta og nýrra aðila í stjórn

„Ég kalla eftir samstarfi við háskólasamfélagið eða aðra rannsóknaraðila því hér er mikið til af raungögnum umfram það sem þekkist víða erlendis og því væri hægt að rannsaka það frá ýmsum hliðum hvort einhver munur er á rekstri fyrirtækja eftir því hvort framkvæmdastjóri er karl eða kona,“ segir Dr. Gunnar Gunnarsson, forstöðumaður Greiningar og ráðgjafar hjá Creditinfo.

Hundruð karlmanna forstjórar en sautján ár á milli kvenráðninga

„Sautján ár liðu á milli ráðninga á konu í forstjórastól í skráðu félagi á Íslandi. Á sama tíma hafa karlmenn sem gegnt hafa stöðu forstjóra í skráðum félögum skipta hundruðum,“ segir Ásta Dís Óladóttir dósent við Háskóla Íslands og formaður Jafnvægisvogar FKA en nýlega birti hún, auk Þóru H. Christiansen, Sigrúnar Gunnarsdóttur og Erlu S. Kristjánsdóttur, grein í TVE-Tímariti um viðskipti og efnahagsmál þar sem er rýnt er í skýringar á því hvers vegna þróun á ráðningum kvenstjórnenda í forstjórastöður er jafn hægfara og raun ber vitni.

Þegar Bjarni hættir: Verður auglýst í starf forstjóra/forstýru?

„Ensk starfsheiti endurspegla oftast vel hvert hlutverk starfsins er á meðan þau íslensku eru oft frekar karllæg og tákn um stöðu viðkomandi. Við viljum komast út úr þessu og færa okkur frá stöðutitlum til starfsheita þannig að fólk sé ekki skilgreint eftir því að ,,vera“ starfið sitt, heldur frekar hvað starfið felur í sér,“ segir Ellen Ýr Aðalsteinsdóttir framkvæmdastýra Mannauðs og menningar hjá Orkuveitu Reykjavíkur.






Fleiri fréttir

Sjá meira


×