Lifir lýðræðið gervigreindina af? Halldóra Mogensen skrifar 13. febrúar 2024 08:30 Systkini sitja saman við morgunverðarborðið og skrolla á sitthvoru tækinu á samfélagsmiðlum. Algrím samfélagsmiðlana mata þau með svo ólíkum upplýsingum um heiminn að þau gætu allt eins búið í sitthvoru stjörnukerfinu en ekki á sama heimili. Þetta er raunveruleikinn sem við búum við í dag. Algjörlega ný staða sem manneskjur, samfélög og lýðræði hafa aldrei áður staðið frammi fyrir. Þessi nýi veruleiki er afleiðing frekar einfaldrar tegundar gervigreindar sem forgangsraðar og dreifir efni með það að markmiði að hámarka áhorf, lestur og skrun notenda. Að fanga athygli notenda eins og unnt er í þeim eina tilgangi að selja auglýsingar og hámarka gróða fyrirtækjanna sem eiga og þróa tæknina.Við mannfólkið þróuðumst til að veita því athygli sem hefur mesta þýðingu fyrir okkur. Þegar við reynum að neyða okkur til að gera eitthvað sem við sjáum lítinn tilgang í er mjög erfitt að halda athygli. Þegar við erum að fást við verkefni sem hefur mikla þýðingu fyrir okkur og það fangar athygli okkar, þá dettum við í flæði. Í flæði fjarlægjumst við egóið og sjálfsvitundina og upplifum að vera fullkomlega í núinu. Við erum, frekar en gerum. Því meira flæði sem við upplifum því betur líður okkur. Skjólstæðingar frekar en söluvara Að viðhalda athygli okkar og beina að þeim verkefnum og markmiðum sem raunverulega skapa þýðingu og tilgang í lífi okkur verður sífellt erfiðara í heimi þar sem við erum umkringd truflunum. Við erum umkringd tækni sem er hönnuð með það að markmiði að stela athygli okkar með algrími sem hefur það að helsta markmiði að halda okkur límdum við skjá. Skilvirkasta leiðin til að ná því markmiði er að forgangsraða efni sem vekur upp hneykslistilfinningar, reiði eða spilar einhvern vegin á tilfinningar okkar. Því öfgafyllri tilfinningar sem efnið vekur upp því meiri athygli fær algrímið frá okkur. Því meiri athygli, því hærri tekjur fær fyrirtækið. Þegar við erum í tilfinningalegu uppnámi þá fer minni athygli í gæði umræðunnar og hugsunin verður sundruð og yfirborðskenndari. Fyrirtækin græða en notendur tapa. Þegar við upplifum í gegnum kommentakerfi að við erum umkringd reiðu fólki verðum við árvökul og athygli okkar færist í meira mæli að því að leita að hættum og óvinum frekar en að næra andann, félagsleg tengsl og samfélag í ró og flæði. Þetta grefur undan getu okkar til að koma saman sem samfélag til að bera kennsl á vanda og finna lausnir í sameiningu. Fyrirtækin græða en samfélagið allt tapar. Gervigreindin gæti verið þróuð með það að markmiði að draga úr truflunum og efla getu okkar til að veita því athygli sem eykur tilgang, flæði og vellíðan í lífi okkar. Við gætum stuðlað að hönnun samfélagsmiðla sem raunverulega tengja og auðga líf fólks, miðlar þar sem notendur eru skjólstæðingar frekar en söluvara. Falskur raunveruleiki sem fangelsar okkur Nýjasta gervigreindin, sem við höfum kallað spunagreind en þekkjum flest sem ChatGPT greinir ekki einungis efni heldur skapar það sjálf út frá miklu magni af gögnum. Þó tækifærin séu mörg þá hlýtur þessi þróun að velta upp óteljandi spurningum um hversu truflandi og sundrandi þessi hæfileiki gervigreindarinnar getur orðið í núverandi hvataumhverfi. Ímyndum okkur gervigreind sem veit allt um okkur, um öll okkar áhugamál, alla okkar fordóma, allt sem við hræðumst, og er forrituð til að nýta sér veikleika í okkar hugsun og atferli til þess að selja okkur vörur og þjónustu. Þetta er mögulegt upp að ákveðnu marki í dag en hvað ef gervigreindin getur einnig skapað efni sem styður við og styrkir söguna sem aðilar á bak við tæknina eru að selja okkur. Við þurfum líka að taka inn í myndina falsfréttir, djúpfölsuð myndbönd, myndir og gervimennin sem geta tekið yfir athugasemdakerfi og hafa m.a. áhrif á niðurstöður kosninga. Í dag eiga margir erfitt með að treysta upplýsingum sem bornar eru fram í hinum ýmsu miðlum. Hvað gerist þegar að staðan er orðin þannig að fólk getur almennt bara alls ekki treyst neinum upplýsingum? Hvernig mun nokkur manneskja vita hvort hægt sé að treysta nokkru um stöðu heimsins? Hvernig munum við vita hvort við séum að tala við raunverulega manneskju en ekki gervimenni? Hvernig snúum við okkur í heimi þar sem gervigreindin getur búið til efni sem stýrir athygli okkar og skapar svo falskan raunveruleika sem fangelsar okkur? Gervigreindin er nú þegar komin langt á leið einungis með því að nota algrím og pólitíska hlutdrægni fólks. Hvaða áhrif mun þetta hafa á lýðræðið? Megin forsenda virks lýðræðis er að borgarar séu frjálsir, menntaðir og eigi í raunverulegu samtali með það að markmiði að komast að sífellt bættum skilningi á sameiginlegum gildum og hvert við viljum stefna sem samfélag. Hver er staða lýðræðis í heimi þar sem allar upplýsingar sem við sjáum eru sérsniðnar og við getum ekki treyst því sem við lesum eða vitað hvort manneskjan sem við erum að tala við sé alvöru manneskja eða bara eitthvað gervimenni hannað til að kynnast okkur og leiða okkur inn í hugmyndafræði sem þjónar málstað sem er okkur dulinn? Hvernig lifir lýðræðið af í þannig heimi? Hvernig geta lýðræðiskerfi sem eru hægfara í eðli sínu unnið regluverk um tækni sem er í veldisvexti? Einmitt núna eru örfáir forstjórar ógnarstórra tæknifyrirtækja að ákvarða örlög mannkynsins á meðan að allskyns nefndir og starfshópar víðsvegar um heim ræða hvernig best sé að setja reglur um tækni sem verður búin að taka stökkbreytingum þegar hóparnir skila einhverju af sér. Ef gervigreindin mótar okkur, hver mótar þá gervigreindina? Ef gervigreindinni verður áfram stýrt út frá því viðskiptamódeli eftirlits kapítalismans sem hefur ríkt hingað til, þar sem upplýsingum um notendur er safnað og seldar til að nota gegn okkur mun gervigreindin halda áfram að ýta undir sundrung og skautun. Hún mun geta haft gífurleg áhrif á heimsmynd fólks og skoðanir og á í hættu á að stuðla að hruni þeirra lýðræðislegu kerfa sem við höfum þekkt til þessa. Við höfum val á milli tveggja kröftugra afla, sundrungar eða flæðis. Sundrung gerir okkur minni, grynnri og reiðari á meðan að flæði breikkar okkur, dýpkar og róar. Sundrung sprettur úr hugmyndafræði auðsöfnunar, endalauss vaxtar og neyslu. Flæði verður til í framtíð sem leggur áherslu á tilgang, velsæld og jafnvægi. Sundrung smækkar okkur á meðan að flæði stækkar okkur. Þetta er valið. Hvernig tæknin mun þróast veltur alfarið á því hverjir hvatarnir verða fyrir fyrirtækin sem þróa hana. Ef samfélagsmiðaðir hvatar verða settir ofar gróðahvötum, býður tæknin upp á gríðarlega möguleika fyrir framþróun og velsæld mannkyns. Bent hefur verið á að gervigreindin geti til dæmis aðstoðað við sjúkdómsgreiningar, við leit og björgun eftir náttúruhamfarir, við að sníða kennslu að þörfum hvers og eins, við að stuðla að sjálfbæru samfélagi með því að gera orkukerfin áfallaþolnari, við stjórnun vökva- og úrgangskerfa í landbúnaði eða við umferðastjórn. Möguleikarnir eru óteljandi og gervigreindin gæti í raun og veru verið lykilinn að betra samfélagi fyrir okkur öll. Samfélagi þar sem við hefðum meiri tíma með fjölskyldu og ástvinum, meiri tíma til að sinna ástríðu, upplifa tilgang, mynda verðmæt tengsl og hlúa að samfélaginu og lýðræðinu. Framtíðarnefnd Alþingis stendur núna fyrir málstofum um gervigreind og lýðræði og stendur til að tala við helstu sérfræðinga um áhrif gervigreindar á vinnumarkaðinn, menntakerfið, stjórnmálin, persónuvernd, höfundarrétt og fleira. Næsta málstofa verður þann 16. febrúar kl.10:30 og mun fjalla um alþjóðlega stöðu stefnumótunar um gervigreind. Málstofunum er streymt beint á Alþingisrásinni og vef þingsins þannig að áhorfendur geta tekið þátt og sent inn fyrirspurnir. Ég hvet alla sem hafa áhuga á þróun gervigreindar og framtíð lýðræðisins að fylgjast með og taka þátt í málstofum framtíðarnefndar. Höfundur er þingmaður Pírata og formaður framtíðarnefndar Alþingis. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Halldóra Mogensen Píratar Alþingi Gervigreind Mest lesið Það er list að lifa með krabbameini Hlíf Steingrímsdóttir Skoðun Konur sem stinga hvor aðra í bakið Sigríður Svanborgardóttir Skoðun Græðgin sem hlífir engum Snæbjörn Brynjarsson og Þórólfur Júlían Dagsson Skoðun Orðræða mótar menningu – og menningin mótar okkur öll Jóhanna Bárðardóttir Skoðun Kennitala á blaði Jón Viðar Pálsson Skoðun Leiðtogi sem nær árangri Birkir Jón Jónsson Skoðun Þjónusta og greining á börnum með ADHD Elín H. Hinriksdóttir og Sólveig Ásgrímsdóttiir Skoðun Fjör á fjármálamarkaði Fastir pennar Sameining sem eflir íslenskan landbúnað Egill Gautason Skoðun Alvöru mamma Anna Margrét Hrólfsdóttir Skoðun Skoðun Skoðun Orðræða mótar menningu – og menningin mótar okkur öll Jóhanna Bárðardóttir skrifar Skoðun Eitt spilakort, betri spilamenning – er skaðaminnkandi Ingvar Örn Ingvarsson skrifar Skoðun Sameining sem eflir íslenskan landbúnað Egill Gautason skrifar Skoðun Konur sem stinga hvor aðra í bakið Sigríður Svanborgardóttir skrifar Skoðun Fjölbreytileiki er styrkleiki Guðmundur Ingi Kristinsson skrifar Skoðun Það er list að lifa með krabbameini Hlíf Steingrímsdóttir skrifar Skoðun Um kynjafræði og pólítík Hanna Björg Vilhjálmsdóttir skrifar Skoðun Við fylgjum þér frá getnaði til grafar Benedikt S. Benediktsson skrifar Skoðun Mega einhverf hverfa? Ármann Pálsson,Björg Torfadóttir,Sigrún Ósk,Sigurjón Már,Halldóra Hafsteins,Guðlaug Svala Kristjánsdóttir,Mamiko Dís Ragnarsdóttir skrifar Skoðun Ef þið bara hefðuð séð heiminn út frá mínum augum: Börn & ADHD Stefán Þorri Helgason skrifar Skoðun 112. liðurinn í aðgerðaáætlun í menntamálum? Ingólfur Ásgeir Jóhannesson skrifar Skoðun Konur á örorku Sigríður Ingibjörg Ingadóttir,Steinunn Bragadóttir skrifar Skoðun Drambið okkar Júlíus Valsson skrifar Skoðun Við vitum Guðrún Jónsdóttir skrifar Skoðun Ekki sama hvaðan gott kemur Magnea Gná Jóhannsdóttir skrifar Skoðun Börn í meðferð eiga rétt á fagfólki orð duga ekki lengur! Steindór Þórarinsson skrifar Skoðun Greindarskerðing eða ofurgáfur með gervigreind Björgmundur Örn Guðmundsson skrifar Skoðun Að hafa hemil á nýjum ófjármögnuðum útgjöldum er lykillinn að sjálfbærum rekstri sveitarfélaga Jón Ingi Hákonarson skrifar Skoðun Homo sapiens að öðrum toga: Af hverju ætti ég eiginlega að mæta á PIFF-kvikmyndhátíðina? Ólafur Guðsteinn Kristjánsson skrifar Skoðun Stöndum saman gegn fjölþáttaógnum Bryndís Haraldsdóttir skrifar Skoðun Hagræðing á kostnað fjölbreytni og gæðamenntunar Ida Marguerite Semey skrifar Skoðun Umbúðir en ekkert innihald í Hafnarfirði Einar Geir Þorsteinsson skrifar Skoðun Við viljum tala íslensku, en hvernig Ólafur Guðsteinn Kristjánsson skrifar Skoðun Mansalsmál á Íslandi Kristján Þórður Snæbjarnarson skrifar Skoðun Hættur heimsins virða engin landamæri Tótla I. Sæmundsdóttir skrifar Skoðun Tímamót í sjálfsvígsforvörnum Ingibjörg Isaksen skrifar Skoðun Yfirgangur, yfirlæti og endastöð Strætó Axel Hall skrifar Skoðun Hugsum fíknivanda upp á nýtt - Ný nálgun í meðhöndlun fíknivanda og áhættuhegðunar Svala Jóhannesdóttir,Lilja Sif Þorsteinsdóttir skrifar Skoðun Háskólinn á Bifröst – Öflugur og sjálfstæður fjarnámsskóli Sólveig Hallsteinsdóttir skrifar Skoðun Það eru fleiri fiskar í sjónum og fleiri sjónarmið í hafstjórn Guðbjörg Ásta Ólafsdóttir skrifar Sjá meira
Systkini sitja saman við morgunverðarborðið og skrolla á sitthvoru tækinu á samfélagsmiðlum. Algrím samfélagsmiðlana mata þau með svo ólíkum upplýsingum um heiminn að þau gætu allt eins búið í sitthvoru stjörnukerfinu en ekki á sama heimili. Þetta er raunveruleikinn sem við búum við í dag. Algjörlega ný staða sem manneskjur, samfélög og lýðræði hafa aldrei áður staðið frammi fyrir. Þessi nýi veruleiki er afleiðing frekar einfaldrar tegundar gervigreindar sem forgangsraðar og dreifir efni með það að markmiði að hámarka áhorf, lestur og skrun notenda. Að fanga athygli notenda eins og unnt er í þeim eina tilgangi að selja auglýsingar og hámarka gróða fyrirtækjanna sem eiga og þróa tæknina.Við mannfólkið þróuðumst til að veita því athygli sem hefur mesta þýðingu fyrir okkur. Þegar við reynum að neyða okkur til að gera eitthvað sem við sjáum lítinn tilgang í er mjög erfitt að halda athygli. Þegar við erum að fást við verkefni sem hefur mikla þýðingu fyrir okkur og það fangar athygli okkar, þá dettum við í flæði. Í flæði fjarlægjumst við egóið og sjálfsvitundina og upplifum að vera fullkomlega í núinu. Við erum, frekar en gerum. Því meira flæði sem við upplifum því betur líður okkur. Skjólstæðingar frekar en söluvara Að viðhalda athygli okkar og beina að þeim verkefnum og markmiðum sem raunverulega skapa þýðingu og tilgang í lífi okkur verður sífellt erfiðara í heimi þar sem við erum umkringd truflunum. Við erum umkringd tækni sem er hönnuð með það að markmiði að stela athygli okkar með algrími sem hefur það að helsta markmiði að halda okkur límdum við skjá. Skilvirkasta leiðin til að ná því markmiði er að forgangsraða efni sem vekur upp hneykslistilfinningar, reiði eða spilar einhvern vegin á tilfinningar okkar. Því öfgafyllri tilfinningar sem efnið vekur upp því meiri athygli fær algrímið frá okkur. Því meiri athygli, því hærri tekjur fær fyrirtækið. Þegar við erum í tilfinningalegu uppnámi þá fer minni athygli í gæði umræðunnar og hugsunin verður sundruð og yfirborðskenndari. Fyrirtækin græða en notendur tapa. Þegar við upplifum í gegnum kommentakerfi að við erum umkringd reiðu fólki verðum við árvökul og athygli okkar færist í meira mæli að því að leita að hættum og óvinum frekar en að næra andann, félagsleg tengsl og samfélag í ró og flæði. Þetta grefur undan getu okkar til að koma saman sem samfélag til að bera kennsl á vanda og finna lausnir í sameiningu. Fyrirtækin græða en samfélagið allt tapar. Gervigreindin gæti verið þróuð með það að markmiði að draga úr truflunum og efla getu okkar til að veita því athygli sem eykur tilgang, flæði og vellíðan í lífi okkar. Við gætum stuðlað að hönnun samfélagsmiðla sem raunverulega tengja og auðga líf fólks, miðlar þar sem notendur eru skjólstæðingar frekar en söluvara. Falskur raunveruleiki sem fangelsar okkur Nýjasta gervigreindin, sem við höfum kallað spunagreind en þekkjum flest sem ChatGPT greinir ekki einungis efni heldur skapar það sjálf út frá miklu magni af gögnum. Þó tækifærin séu mörg þá hlýtur þessi þróun að velta upp óteljandi spurningum um hversu truflandi og sundrandi þessi hæfileiki gervigreindarinnar getur orðið í núverandi hvataumhverfi. Ímyndum okkur gervigreind sem veit allt um okkur, um öll okkar áhugamál, alla okkar fordóma, allt sem við hræðumst, og er forrituð til að nýta sér veikleika í okkar hugsun og atferli til þess að selja okkur vörur og þjónustu. Þetta er mögulegt upp að ákveðnu marki í dag en hvað ef gervigreindin getur einnig skapað efni sem styður við og styrkir söguna sem aðilar á bak við tæknina eru að selja okkur. Við þurfum líka að taka inn í myndina falsfréttir, djúpfölsuð myndbönd, myndir og gervimennin sem geta tekið yfir athugasemdakerfi og hafa m.a. áhrif á niðurstöður kosninga. Í dag eiga margir erfitt með að treysta upplýsingum sem bornar eru fram í hinum ýmsu miðlum. Hvað gerist þegar að staðan er orðin þannig að fólk getur almennt bara alls ekki treyst neinum upplýsingum? Hvernig mun nokkur manneskja vita hvort hægt sé að treysta nokkru um stöðu heimsins? Hvernig munum við vita hvort við séum að tala við raunverulega manneskju en ekki gervimenni? Hvernig snúum við okkur í heimi þar sem gervigreindin getur búið til efni sem stýrir athygli okkar og skapar svo falskan raunveruleika sem fangelsar okkur? Gervigreindin er nú þegar komin langt á leið einungis með því að nota algrím og pólitíska hlutdrægni fólks. Hvaða áhrif mun þetta hafa á lýðræðið? Megin forsenda virks lýðræðis er að borgarar séu frjálsir, menntaðir og eigi í raunverulegu samtali með það að markmiði að komast að sífellt bættum skilningi á sameiginlegum gildum og hvert við viljum stefna sem samfélag. Hver er staða lýðræðis í heimi þar sem allar upplýsingar sem við sjáum eru sérsniðnar og við getum ekki treyst því sem við lesum eða vitað hvort manneskjan sem við erum að tala við sé alvöru manneskja eða bara eitthvað gervimenni hannað til að kynnast okkur og leiða okkur inn í hugmyndafræði sem þjónar málstað sem er okkur dulinn? Hvernig lifir lýðræðið af í þannig heimi? Hvernig geta lýðræðiskerfi sem eru hægfara í eðli sínu unnið regluverk um tækni sem er í veldisvexti? Einmitt núna eru örfáir forstjórar ógnarstórra tæknifyrirtækja að ákvarða örlög mannkynsins á meðan að allskyns nefndir og starfshópar víðsvegar um heim ræða hvernig best sé að setja reglur um tækni sem verður búin að taka stökkbreytingum þegar hóparnir skila einhverju af sér. Ef gervigreindin mótar okkur, hver mótar þá gervigreindina? Ef gervigreindinni verður áfram stýrt út frá því viðskiptamódeli eftirlits kapítalismans sem hefur ríkt hingað til, þar sem upplýsingum um notendur er safnað og seldar til að nota gegn okkur mun gervigreindin halda áfram að ýta undir sundrung og skautun. Hún mun geta haft gífurleg áhrif á heimsmynd fólks og skoðanir og á í hættu á að stuðla að hruni þeirra lýðræðislegu kerfa sem við höfum þekkt til þessa. Við höfum val á milli tveggja kröftugra afla, sundrungar eða flæðis. Sundrung gerir okkur minni, grynnri og reiðari á meðan að flæði breikkar okkur, dýpkar og róar. Sundrung sprettur úr hugmyndafræði auðsöfnunar, endalauss vaxtar og neyslu. Flæði verður til í framtíð sem leggur áherslu á tilgang, velsæld og jafnvægi. Sundrung smækkar okkur á meðan að flæði stækkar okkur. Þetta er valið. Hvernig tæknin mun þróast veltur alfarið á því hverjir hvatarnir verða fyrir fyrirtækin sem þróa hana. Ef samfélagsmiðaðir hvatar verða settir ofar gróðahvötum, býður tæknin upp á gríðarlega möguleika fyrir framþróun og velsæld mannkyns. Bent hefur verið á að gervigreindin geti til dæmis aðstoðað við sjúkdómsgreiningar, við leit og björgun eftir náttúruhamfarir, við að sníða kennslu að þörfum hvers og eins, við að stuðla að sjálfbæru samfélagi með því að gera orkukerfin áfallaþolnari, við stjórnun vökva- og úrgangskerfa í landbúnaði eða við umferðastjórn. Möguleikarnir eru óteljandi og gervigreindin gæti í raun og veru verið lykilinn að betra samfélagi fyrir okkur öll. Samfélagi þar sem við hefðum meiri tíma með fjölskyldu og ástvinum, meiri tíma til að sinna ástríðu, upplifa tilgang, mynda verðmæt tengsl og hlúa að samfélaginu og lýðræðinu. Framtíðarnefnd Alþingis stendur núna fyrir málstofum um gervigreind og lýðræði og stendur til að tala við helstu sérfræðinga um áhrif gervigreindar á vinnumarkaðinn, menntakerfið, stjórnmálin, persónuvernd, höfundarrétt og fleira. Næsta málstofa verður þann 16. febrúar kl.10:30 og mun fjalla um alþjóðlega stöðu stefnumótunar um gervigreind. Málstofunum er streymt beint á Alþingisrásinni og vef þingsins þannig að áhorfendur geta tekið þátt og sent inn fyrirspurnir. Ég hvet alla sem hafa áhuga á þróun gervigreindar og framtíð lýðræðisins að fylgjast með og taka þátt í málstofum framtíðarnefndar. Höfundur er þingmaður Pírata og formaður framtíðarnefndar Alþingis.
Skoðun Mega einhverf hverfa? Ármann Pálsson,Björg Torfadóttir,Sigrún Ósk,Sigurjón Már,Halldóra Hafsteins,Guðlaug Svala Kristjánsdóttir,Mamiko Dís Ragnarsdóttir skrifar
Skoðun Að hafa hemil á nýjum ófjármögnuðum útgjöldum er lykillinn að sjálfbærum rekstri sveitarfélaga Jón Ingi Hákonarson skrifar
Skoðun Homo sapiens að öðrum toga: Af hverju ætti ég eiginlega að mæta á PIFF-kvikmyndhátíðina? Ólafur Guðsteinn Kristjánsson skrifar
Skoðun Hugsum fíknivanda upp á nýtt - Ný nálgun í meðhöndlun fíknivanda og áhættuhegðunar Svala Jóhannesdóttir,Lilja Sif Þorsteinsdóttir skrifar
Skoðun Háskólinn á Bifröst – Öflugur og sjálfstæður fjarnámsskóli Sólveig Hallsteinsdóttir skrifar
Skoðun Það eru fleiri fiskar í sjónum og fleiri sjónarmið í hafstjórn Guðbjörg Ásta Ólafsdóttir skrifar