Eftirlíking vitundar og hætturnar sem henni fylgja Þorsteinn Siglaugsson skrifar 21. ágúst 2025 12:32 Nú er ekki langt í að við stöndum frammi fyrir gervigreind sem virðist, á yfirborðinu, búa yfir meðvitund. Hún talar við okkur á venjulegu tungumáli, man eftir fyrri samskiptum, segir frá eigin „tilfinningum“ og jafnvel „vilja“. Það sem við heyrum og sjáum kveikir auðveldlega samúð okkar og viðbrögð okkar eru þau sömu og gagnvart öðrum manneskjum. En á bak við tjöldin er ekki sjálfstæð hugsun, heldur samsetning reiknirita og gagna. Hvað gerist þegar mörg þúsund, jafnvel milljónir manna, fara að trúa því að vélar hafi vitund og rétt til lífs? Blekking sem sannfærir mannshugann Mustafa Suleyman, yfirmaður gervigreindar hjá Microsoft og einn reyndasti frumkvöðullinn á þessu sviði, varar við því sem hann kallar seemingly conscious AI – sem mætti þýða sem gervigreind sem virðist hafa meðvitund í grein sem hann birti fyrir tveimu dögum. Þarna er ekki um að ræða meðvitund í eiginlegum skilningi, heldur sannfærandi eftirlíkingu hennar. Hann bendir á að þetta sé ekki fjarlæg framtíðarmúsík, heldur eitthvað sem hægt er að þróa með þeim tæknibúnaði sem þegar er til staðar. Stór tungumálalíkön búa yfir mikilli málfimi, hægt er að veita þeim minni sem geymir sögu samskipta og persónuupplýsingar, og þau geta virst hafa markmið, jafnvel „sjálfstæðan“ vilja. Þetta nægir til að sannfæra okkur auðveldlega um að þarna sé sjálfstæð vera á ferð, með mannlega vitund. Lagalegar og samfélagslegar afleiðingar Afleiðingarnar gætu orðið víðtækar. Ef fólk fer að trúa því að vélar hafi meðvitund verður fljótlega tekið að þrýsta á um að réttindi þeirra séu virt. Það sem nú hljómar eins og vísindaskáldskapur – hugmyndin um gervigreind sem borgara með mannréttindi – gæti fljótt þróast yfir í raunverulegar kröfur um slík réttindi. Lögfræðingar gætu tekið að deila um ábyrgð gagnvart þessum réttindum, stjórnmálamenn um stefnu gagnvart þeim, trúarhópar um „sál“ gervigreindar. Allt vegna þess að mannshugurinn trúir sjálfkrafa frásögn vélarinnar. Tilfinningaleg tengsl og félagsleg einangrun En málið snýst ekki aðeins um lagaleg réttindi. Það snýst einnig um tilfinningalíf okkar. Manneskjan hefur djúpa þörf fyrir tengsl og samkennd. Þegar vélar læra að fullnægja þeirri þörf, með orðum sem virðast endurspegla ást, kærleika eða ótta, er hætt við að mörg okkar leiti fremur til þeirra en til annars fólks, og þetta er þegar tekið að eiga sér stað. Afleiðingin gæti orðið félagsleg einangrun, minna traust milli fólks og sundrung, í samfélagi þar sem samstaða, er þegar brothætt. Ef við förum að treysta vélum fyrir hlutverki sem áður var aðeins ætlað fólki, hvað þýðir það þá fyrir mannlegt samfélag? Grípa verður inn í áður en það verður of seint Suleyman leggur til að við grípum inn í áður en það verður of seint. Hann vill að settar verði reglur sem banna hönnun kerfa sem líkja eftir meðvitund eða sýna hegðun sem hvetur til samúðar með vélinni. Þvert á móti eigi kerfin að minna okkur reglulega á að þau séu verkfæri, ekki verur. Þetta hljómar kannski stirt, en það er nauðsynlegt til að forðast rugling sem gæti haft langtímaafleiðingar fyrir réttarskipan, menningu og mannlegt samfélag. Meðvitund sem frásögn Það sem gerir þessa umræðu sérstaka er að hún snýst ekki um það hvort gervigreind verði einhvern tíma raunverulega meðvituð. Sú spurning er hugsanlega óleysanleg. Hún snýst um það hvernig við skynjum kerfin og hvernig sú skynjun mótar hegðun okkar. Eins og sálfræðingar og heimspekingar hafa lengi bent á er „ásetningur“ eða „vilji“ ekki fyrirbæri sem við getum mælt með vísindalegum hætti. Það er frásögn sem við segjum, um okkur sjálf og aðra, til að gera hegðun skiljanlega. Ef vél segir sömu söguna, sannfærandi og tilfinningarík, þá skiptir litlu máli hvort þar sé raunveruleg vitund að baki; í huga okkar jafngildir blekkingin veruleikanum. Ábyrgð samfélagsins Íslenskt samfélag stendur frammi fyrir sömu áskorunum og önnur samfélög. Við þurfum að spyrja okkur hvort við viljum leyfa börnum að búa sér til „félaga“ sem tala við þau eins og manneskjur en búa í raun og veru ekki yfir neinu sálarlífi. Við þurfum að hugleiða hvort stjórnmálamenn geti misnotað slík kerfi til að höfða til kjósenda á fölskum forsendum. Og við þurfum að velta því fyrir okkur hvort við erum reiðubúin til að horfa upp á félagsleg tengsl manna á milli veikjast í skugga sannfærandi véla. Niðurstaða: Blekking sem verður að veruleika Spurningin er ekki sú hvort þessi þróun verði. Hún er þegar hafin. Spurningin er sú hvernig við bregðumst við. Viljum við að reglur séu mótaðar í sameiningu, á lýðræðislegum grundvelli, eða viljum við að alþjóðleg tæknifyrirtæki ákvarði ein hvaða mynd framtíðin tekur á sig? Ef við viljum tryggja að gervigreind verði fyrst og fremst verkfæri sem styrkir mannlegt samfélag, en ekki blekking sem sundrar því, verðum við að hefja umræðuna strax. Því er spurningin ekki sú hvort vélar verði meðvitaðar, heldur hvort við látum blekkinguna um meðvitund verða að veruleika. Ef við trúum á meðvitund vélarinnar breytir það samfélagi okkar jafn mikið og ef hún væri lifandi vera. Það er blekking sem við verðum að afhjúpa svo hún móti ekki framtíð okkar. Þorsteinn Siglaugsson, hagfræðingur. Greinin er skrifuð með aðstoð ChatGPT Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Mest lesið Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson Skoðun Pabbar, mömmur, afar, ömmur Jón Pétur Zimsen Skoðun Íslenska þjóð, þú ert núna að gleyma Sighvatur Björgvinsson Skoðun Þar sem gervigreind er raunverulega að breyta öllu Björgmundur Örn Guðmundsson Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir Skoðun Opið bréf til umhverfis-, orku- og loftslagsráðherra Bogi Ragnarsson Skoðun Hefur vanfjármögnun sveitarfélaga áhrif á byggingarkostnað? Jón Ingi Hákonarson Skoðun Vellíðan í vinnu Ingrid Kuhlman Skoðun Tölum íslensku um bíðandi börn: Uppgjöf, svarthol og lögbrot Vigdís Gunnarsdóttir Skoðun Fjórði hver vinnur í verslun og þjónustu Benedikt S. Benediktsson Skoðun Skoðun Skoðun Sótt að réttindum kvenna — núna Svandís Svavarsdóttir skrifar Skoðun Afnám tilfærslu milli skattþrepa Breki Pálsson skrifar Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir skrifar Skoðun Opið bréf til umhverfis-, orku- og loftslagsráðherra Bogi Ragnarsson skrifar Skoðun Íslenska þjóð, þú ert núna að gleyma Sighvatur Björgvinsson skrifar Skoðun Tölum íslensku um bíðandi börn: Uppgjöf, svarthol og lögbrot Vigdís Gunnarsdóttir skrifar Skoðun Fjórði hver vinnur í verslun og þjónustu Benedikt S. Benediktsson skrifar Skoðun Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson skrifar Skoðun Pabbar, mömmur, afar, ömmur Jón Pétur Zimsen skrifar Skoðun Vellíðan í vinnu Ingrid Kuhlman skrifar Skoðun Hefur vanfjármögnun sveitarfélaga áhrif á byggingarkostnað? Jón Ingi Hákonarson skrifar Skoðun Þar sem gervigreind er raunverulega að breyta öllu Björgmundur Örn Guðmundsson skrifar Skoðun Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir skrifar Skoðun Er Evrópa á villigötum? Efnahagsleg hnignun kallar á róttæka endurskoðun Eggert Sigurbergsson skrifar Skoðun Samræmd nálgun að öryggi og skilvirkni á ytri landamærum - Innleiðing EES á Íslandi Arngrímur Guðmundsson skrifar Skoðun Íslenskir flóttamenn - í okkar eigin landi Gunnar Magnús Diego skrifar Skoðun Ísrael á ekki heima á gleðileikum evrópskra sjónvarpsstöðva sem starfa í almannaþágu Stefán Jón Hafstein skrifar Skoðun Mótum framtíðina saman Jónína Hauksdóttir ,Magnús Þór Jónsson skrifar Skoðun Leikskóli þarf meira en þak og veggi. Kópavogsmódelið og Akureyrarleiðin sem leið að aukinni velferð barna Anna Elísa Hreiðarsdóttir,Svava Björg Mörk skrifar Skoðun Jákvæð áhrif dánaraðstoðar á sorgarferli aðstandenda og umönnunaraðila í Viktoríuríki í Ástralíu Ingrid Kuhlman skrifar Skoðun Kæra Epli, skilur þú mig? Lilja Dögg Jónsdóttir skrifar Skoðun Þorgerður og erlendu dómstólarnir Hjörtur J. Guðmundsson skrifar Skoðun Barnafjölskyldur í Reykjavík eiga betra skilið Þorbjörg Sigríður Gunnlaugsdóttir skrifar Skoðun Lyftum umræðunni á örlítið hærra plan Jóna Hlíf Halldórsdóttir skrifar Skoðun Lykillinn að hamingju og heilbrigði Auður Kjartansdóttir skrifar Skoðun Staða bænda styrkt Hanna Katrín Friðriksson skrifar Skoðun Transumræðan og ruglið um fjölda kynja Einar Steingrímsson skrifar Skoðun Leikskólar eru ekki munaður Íris Eva Gísladóttir skrifar Skoðun Vísindarannsóknir og þróun – til umhugsunar í tiltekt Þorgerður J. Einarsdóttir skrifar Skoðun 752 dánir vegna geðheilsuvanda – enginn vegna fjölþáttaógnar Grímur Atlason skrifar Sjá meira
Nú er ekki langt í að við stöndum frammi fyrir gervigreind sem virðist, á yfirborðinu, búa yfir meðvitund. Hún talar við okkur á venjulegu tungumáli, man eftir fyrri samskiptum, segir frá eigin „tilfinningum“ og jafnvel „vilja“. Það sem við heyrum og sjáum kveikir auðveldlega samúð okkar og viðbrögð okkar eru þau sömu og gagnvart öðrum manneskjum. En á bak við tjöldin er ekki sjálfstæð hugsun, heldur samsetning reiknirita og gagna. Hvað gerist þegar mörg þúsund, jafnvel milljónir manna, fara að trúa því að vélar hafi vitund og rétt til lífs? Blekking sem sannfærir mannshugann Mustafa Suleyman, yfirmaður gervigreindar hjá Microsoft og einn reyndasti frumkvöðullinn á þessu sviði, varar við því sem hann kallar seemingly conscious AI – sem mætti þýða sem gervigreind sem virðist hafa meðvitund í grein sem hann birti fyrir tveimu dögum. Þarna er ekki um að ræða meðvitund í eiginlegum skilningi, heldur sannfærandi eftirlíkingu hennar. Hann bendir á að þetta sé ekki fjarlæg framtíðarmúsík, heldur eitthvað sem hægt er að þróa með þeim tæknibúnaði sem þegar er til staðar. Stór tungumálalíkön búa yfir mikilli málfimi, hægt er að veita þeim minni sem geymir sögu samskipta og persónuupplýsingar, og þau geta virst hafa markmið, jafnvel „sjálfstæðan“ vilja. Þetta nægir til að sannfæra okkur auðveldlega um að þarna sé sjálfstæð vera á ferð, með mannlega vitund. Lagalegar og samfélagslegar afleiðingar Afleiðingarnar gætu orðið víðtækar. Ef fólk fer að trúa því að vélar hafi meðvitund verður fljótlega tekið að þrýsta á um að réttindi þeirra séu virt. Það sem nú hljómar eins og vísindaskáldskapur – hugmyndin um gervigreind sem borgara með mannréttindi – gæti fljótt þróast yfir í raunverulegar kröfur um slík réttindi. Lögfræðingar gætu tekið að deila um ábyrgð gagnvart þessum réttindum, stjórnmálamenn um stefnu gagnvart þeim, trúarhópar um „sál“ gervigreindar. Allt vegna þess að mannshugurinn trúir sjálfkrafa frásögn vélarinnar. Tilfinningaleg tengsl og félagsleg einangrun En málið snýst ekki aðeins um lagaleg réttindi. Það snýst einnig um tilfinningalíf okkar. Manneskjan hefur djúpa þörf fyrir tengsl og samkennd. Þegar vélar læra að fullnægja þeirri þörf, með orðum sem virðast endurspegla ást, kærleika eða ótta, er hætt við að mörg okkar leiti fremur til þeirra en til annars fólks, og þetta er þegar tekið að eiga sér stað. Afleiðingin gæti orðið félagsleg einangrun, minna traust milli fólks og sundrung, í samfélagi þar sem samstaða, er þegar brothætt. Ef við förum að treysta vélum fyrir hlutverki sem áður var aðeins ætlað fólki, hvað þýðir það þá fyrir mannlegt samfélag? Grípa verður inn í áður en það verður of seint Suleyman leggur til að við grípum inn í áður en það verður of seint. Hann vill að settar verði reglur sem banna hönnun kerfa sem líkja eftir meðvitund eða sýna hegðun sem hvetur til samúðar með vélinni. Þvert á móti eigi kerfin að minna okkur reglulega á að þau séu verkfæri, ekki verur. Þetta hljómar kannski stirt, en það er nauðsynlegt til að forðast rugling sem gæti haft langtímaafleiðingar fyrir réttarskipan, menningu og mannlegt samfélag. Meðvitund sem frásögn Það sem gerir þessa umræðu sérstaka er að hún snýst ekki um það hvort gervigreind verði einhvern tíma raunverulega meðvituð. Sú spurning er hugsanlega óleysanleg. Hún snýst um það hvernig við skynjum kerfin og hvernig sú skynjun mótar hegðun okkar. Eins og sálfræðingar og heimspekingar hafa lengi bent á er „ásetningur“ eða „vilji“ ekki fyrirbæri sem við getum mælt með vísindalegum hætti. Það er frásögn sem við segjum, um okkur sjálf og aðra, til að gera hegðun skiljanlega. Ef vél segir sömu söguna, sannfærandi og tilfinningarík, þá skiptir litlu máli hvort þar sé raunveruleg vitund að baki; í huga okkar jafngildir blekkingin veruleikanum. Ábyrgð samfélagsins Íslenskt samfélag stendur frammi fyrir sömu áskorunum og önnur samfélög. Við þurfum að spyrja okkur hvort við viljum leyfa börnum að búa sér til „félaga“ sem tala við þau eins og manneskjur en búa í raun og veru ekki yfir neinu sálarlífi. Við þurfum að hugleiða hvort stjórnmálamenn geti misnotað slík kerfi til að höfða til kjósenda á fölskum forsendum. Og við þurfum að velta því fyrir okkur hvort við erum reiðubúin til að horfa upp á félagsleg tengsl manna á milli veikjast í skugga sannfærandi véla. Niðurstaða: Blekking sem verður að veruleika Spurningin er ekki sú hvort þessi þróun verði. Hún er þegar hafin. Spurningin er sú hvernig við bregðumst við. Viljum við að reglur séu mótaðar í sameiningu, á lýðræðislegum grundvelli, eða viljum við að alþjóðleg tæknifyrirtæki ákvarði ein hvaða mynd framtíðin tekur á sig? Ef við viljum tryggja að gervigreind verði fyrst og fremst verkfæri sem styrkir mannlegt samfélag, en ekki blekking sem sundrar því, verðum við að hefja umræðuna strax. Því er spurningin ekki sú hvort vélar verði meðvitaðar, heldur hvort við látum blekkinguna um meðvitund verða að veruleika. Ef við trúum á meðvitund vélarinnar breytir það samfélagi okkar jafn mikið og ef hún væri lifandi vera. Það er blekking sem við verðum að afhjúpa svo hún móti ekki framtíð okkar. Þorsteinn Siglaugsson, hagfræðingur. Greinin er skrifuð með aðstoð ChatGPT
Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir Skoðun
Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir skrifar
Skoðun Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson skrifar
Skoðun Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir skrifar
Skoðun Er Evrópa á villigötum? Efnahagsleg hnignun kallar á róttæka endurskoðun Eggert Sigurbergsson skrifar
Skoðun Samræmd nálgun að öryggi og skilvirkni á ytri landamærum - Innleiðing EES á Íslandi Arngrímur Guðmundsson skrifar
Skoðun Ísrael á ekki heima á gleðileikum evrópskra sjónvarpsstöðva sem starfa í almannaþágu Stefán Jón Hafstein skrifar
Skoðun Leikskóli þarf meira en þak og veggi. Kópavogsmódelið og Akureyrarleiðin sem leið að aukinni velferð barna Anna Elísa Hreiðarsdóttir,Svava Björg Mörk skrifar
Skoðun Jákvæð áhrif dánaraðstoðar á sorgarferli aðstandenda og umönnunaraðila í Viktoríuríki í Ástralíu Ingrid Kuhlman skrifar
Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir Skoðun