Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Táningsstúlkan sem lést var að teyma íslenskan hest Erlent Hælisleitandi fór huldu höfði í þrjú ár og fleygði sér svo niður stiga Innlent Fjölskyldan franska sendi ættingjum erfðaskrá frá Íslandi Innlent Diddy sakfelldur í tveimur af fimm ákæruliðum Erlent Segja gengið á birgðirnar og hætta við vopnasendingar til Úkraínu Erlent Játaði fjárdrátt og endurgreiðir samkvæmt samkomulagi Innlent Pilturinn áfrýjar ekki þyngsta mögulega dómi Innlent Hiti á þingi: „Hættið þessu bara“ Innlent Bubbi gerir sögulegan samning um eigin líkindi til allrar framtíðar Innlent „Erum við að kenna börnunum okkar að vinna?“ Innlent Fleiri fréttir Jimmy Swaggart allur Evrópuríkjum leyft að nota kolefnisjöfnun erlendis í fyrsta skipti Diddy sakfelldur í tveimur af fimm ákæruliðum Boðar arftaka Dalai Lama Paramount lúffar fyrir Trump og greiðir bætur vegna Kamölu Táningsstúlkan sem lést var að teyma íslenskan hest Maðurinn sem fann upp mew-ið er látinn Handtóku stjórnendur sjúkrahússins vegna ætlaðra barnsdrápa Trans konur fá ekki að keppa og Thomas svipt metunum Segja gengið á birgðirnar og hætta við vopnasendingar til Úkraínu Ísraelsmenn hafi gengist við skilyrðum vopnahlés Kviðdómur komst að niðurstöðu í fjórum fimm ákæruliða Diddy „Stóra fallega frumvarpið“ í gegn á einu atkvæði Öldungur dæmdur fyrir meira en hálfrar aldar gamalt morð Forsætisráðherra Taílands vikið úr embætti Fjarlægja loftslagsskýrslur og ætla að hætta að fjármagna rannsóknir Óeirðir í Tyrklandi vegna umdeildrar skopmyndar Rauðar viðvaranir víða í Evrópu vegna hitans Segja niðurskurð á þróunaraðstoð hafa skelfilegar afleiðingar Óvissa uppi um „stóra og fallega“ frumvarpið og Musk hótar hefndum Unglingsstúlka lést þegar hestur dró hana eftir jörðinni „Stóra og fallega“ frumvarp repúblikana á tæpasta vaði Skæð hitabylgja velgir Evrópubúum undir uggum Aftur kjörin formaður þrátt fyrir fjárdráttinn sem felldi hana Skaut á slökkviliðsmenn úr launsátri Hefur í hótunum við New York vegna „kommúnistans“ Mamdani Krefjast svara um mögulegar frekari árásir Þúsundir Norðmanna fengu fyrir mistök tilkynningu um að hafa unnið milljónir Hitamet slegið á Spáni um helgina Sæta lögreglurannsókn vegna níðsöngva um ísraelska herinn Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Táningsstúlkan sem lést var að teyma íslenskan hest Erlent Hælisleitandi fór huldu höfði í þrjú ár og fleygði sér svo niður stiga Innlent Fjölskyldan franska sendi ættingjum erfðaskrá frá Íslandi Innlent Diddy sakfelldur í tveimur af fimm ákæruliðum Erlent Segja gengið á birgðirnar og hætta við vopnasendingar til Úkraínu Erlent Játaði fjárdrátt og endurgreiðir samkvæmt samkomulagi Innlent Pilturinn áfrýjar ekki þyngsta mögulega dómi Innlent Hiti á þingi: „Hættið þessu bara“ Innlent Bubbi gerir sögulegan samning um eigin líkindi til allrar framtíðar Innlent „Erum við að kenna börnunum okkar að vinna?“ Innlent Fleiri fréttir Jimmy Swaggart allur Evrópuríkjum leyft að nota kolefnisjöfnun erlendis í fyrsta skipti Diddy sakfelldur í tveimur af fimm ákæruliðum Boðar arftaka Dalai Lama Paramount lúffar fyrir Trump og greiðir bætur vegna Kamölu Táningsstúlkan sem lést var að teyma íslenskan hest Maðurinn sem fann upp mew-ið er látinn Handtóku stjórnendur sjúkrahússins vegna ætlaðra barnsdrápa Trans konur fá ekki að keppa og Thomas svipt metunum Segja gengið á birgðirnar og hætta við vopnasendingar til Úkraínu Ísraelsmenn hafi gengist við skilyrðum vopnahlés Kviðdómur komst að niðurstöðu í fjórum fimm ákæruliða Diddy „Stóra fallega frumvarpið“ í gegn á einu atkvæði Öldungur dæmdur fyrir meira en hálfrar aldar gamalt morð Forsætisráðherra Taílands vikið úr embætti Fjarlægja loftslagsskýrslur og ætla að hætta að fjármagna rannsóknir Óeirðir í Tyrklandi vegna umdeildrar skopmyndar Rauðar viðvaranir víða í Evrópu vegna hitans Segja niðurskurð á þróunaraðstoð hafa skelfilegar afleiðingar Óvissa uppi um „stóra og fallega“ frumvarpið og Musk hótar hefndum Unglingsstúlka lést þegar hestur dró hana eftir jörðinni „Stóra og fallega“ frumvarp repúblikana á tæpasta vaði Skæð hitabylgja velgir Evrópubúum undir uggum Aftur kjörin formaður þrátt fyrir fjárdráttinn sem felldi hana Skaut á slökkviliðsmenn úr launsátri Hefur í hótunum við New York vegna „kommúnistans“ Mamdani Krefjast svara um mögulegar frekari árásir Þúsundir Norðmanna fengu fyrir mistök tilkynningu um að hafa unnið milljónir Hitamet slegið á Spáni um helgina Sæta lögreglurannsókn vegna níðsöngva um ísraelska herinn Sjá meira