Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Hjalti Snær sá sem fannst látinn Innlent Grunaður árásarmaður í Úlfarsárdal handtekinn Innlent Haraldur Jóhannsson er látinn Innlent Bað lögreglustjóra að „veita framvegis réttar upplýsingar“ Innlent Þrettán skemmtiferðaskip og Ísland uppselt Innlent Ber fyrir sig minnisleysi á verknaðarstundu Innlent Leigubílstjóri fór í svaðilför á Teslunni upp í Þórsmörk og sneri heill heim Innlent Hæstiréttur gefur grænt ljós á búvörulögin Innlent Dvöl á Hrauninu fram undan eftir kókaínsmygl Innlent Synir El Chapo sagðir hafa myndað afdrífaríkt bandalag Erlent Fleiri fréttir Handtóku unga öfgahægrimenn sem hugðu á hryðjuverk Úkraínskur fyrrverandi embættismaður skotinn til bana í Madrid Norðmenn þurfa að taka tillit til loftslagsáhrifa olíuvinnslunar Dreifing hjálpargagna enn ekki hafin Senda farandfólk frá Asíu til Suður-Súdan Synir El Chapo sagðir hafa myndað afdrífaríkt bandalag Ætlar að eyða mun minna í pólitíkina Hætta viðræðum við Ísrael og boða aðgerðir Evrópuríki leggja refsiaðgerðir á „skuggaflota“ Rússa Fjarlægja höfundarmerkingu einnar frægustu fréttaljósmyndar sögunnar Leiðtogar Bretlands, Frakklands og Kanada hóta aðgerðum gegn Ísrael Sagði „Diddy“ hafa hótað að láta hana hverfa Suðureyjargöng náðu ekki í gegnum Lögþingið Borga fyrir skotfæri til Úkraínu með frystum eigum Rússa „Frábært“ símtal en án niðurstöðu Forsætisráðherra Spánar vill Ísrael í bann frá Eurovision Banna „óæskilega“ starfsemi Amnesty International í Rússlandi Stefnir í baráttu á milli frjálslyndis og íhalds í Póllandi Árangur í viðræðum Bretlands við Evrópusambandið Ísraelsk stjórnvöld segjast ætla að hleypa hjálpargögnum á Gasa Spænska ríkissjónvarpið vill að símakosningin verði yfirfarin Nicusor Dan nýr forseti Rúmeníu Trump sorgmæddur yfir greiningu Biden Joe Biden með krabbamein Íslenskur farþegi í bílslysi þar sem barn lést Rúmenar ganga aftur að kjörborðinu Leó orðinn páfi Tveir létust þegar skip á leið til Íslands sigldi á Brooklyn-brúna Ætlar að tala við Pútín um að „binda enda á blóðbaðið“ Fimm látnir eftir þyrluslys í Finnlandi Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Hjalti Snær sá sem fannst látinn Innlent Grunaður árásarmaður í Úlfarsárdal handtekinn Innlent Haraldur Jóhannsson er látinn Innlent Bað lögreglustjóra að „veita framvegis réttar upplýsingar“ Innlent Þrettán skemmtiferðaskip og Ísland uppselt Innlent Ber fyrir sig minnisleysi á verknaðarstundu Innlent Leigubílstjóri fór í svaðilför á Teslunni upp í Þórsmörk og sneri heill heim Innlent Hæstiréttur gefur grænt ljós á búvörulögin Innlent Dvöl á Hrauninu fram undan eftir kókaínsmygl Innlent Synir El Chapo sagðir hafa myndað afdrífaríkt bandalag Erlent Fleiri fréttir Handtóku unga öfgahægrimenn sem hugðu á hryðjuverk Úkraínskur fyrrverandi embættismaður skotinn til bana í Madrid Norðmenn þurfa að taka tillit til loftslagsáhrifa olíuvinnslunar Dreifing hjálpargagna enn ekki hafin Senda farandfólk frá Asíu til Suður-Súdan Synir El Chapo sagðir hafa myndað afdrífaríkt bandalag Ætlar að eyða mun minna í pólitíkina Hætta viðræðum við Ísrael og boða aðgerðir Evrópuríki leggja refsiaðgerðir á „skuggaflota“ Rússa Fjarlægja höfundarmerkingu einnar frægustu fréttaljósmyndar sögunnar Leiðtogar Bretlands, Frakklands og Kanada hóta aðgerðum gegn Ísrael Sagði „Diddy“ hafa hótað að láta hana hverfa Suðureyjargöng náðu ekki í gegnum Lögþingið Borga fyrir skotfæri til Úkraínu með frystum eigum Rússa „Frábært“ símtal en án niðurstöðu Forsætisráðherra Spánar vill Ísrael í bann frá Eurovision Banna „óæskilega“ starfsemi Amnesty International í Rússlandi Stefnir í baráttu á milli frjálslyndis og íhalds í Póllandi Árangur í viðræðum Bretlands við Evrópusambandið Ísraelsk stjórnvöld segjast ætla að hleypa hjálpargögnum á Gasa Spænska ríkissjónvarpið vill að símakosningin verði yfirfarin Nicusor Dan nýr forseti Rúmeníu Trump sorgmæddur yfir greiningu Biden Joe Biden með krabbamein Íslenskur farþegi í bílslysi þar sem barn lést Rúmenar ganga aftur að kjörborðinu Leó orðinn páfi Tveir létust þegar skip á leið til Íslands sigldi á Brooklyn-brúna Ætlar að tala við Pútín um að „binda enda á blóðbaðið“ Fimm látnir eftir þyrluslys í Finnlandi Sjá meira