Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Ástand á stúdentagörðum: Ítrekuð innbrot, mat stolið, dýnur í kjallara og hland á gólfi Innlent Lögregla hafi hlaupið á sig á Siglufirði: „Þetta eru einstök prúðmenni“ Innlent „Mér hefur aldrei verið sýnd jafn mikil vanvirðing“ Innlent „Það kemur að því að við lendum í veseni“ Innlent Yfirgefið hreysi víkur fyrir hundrað íbúðum Innlent „Geta verið dauðsföll, þú veist ekkert hvað er í þessu“ Innlent Konan er fundin Innlent „Selir“ skutu óvopnaða borgara í leyniaðgerð í Norður-Kóreu Erlent Fólk deili lyfseðlum og „míkródósi“: „Við getum ekki réttlætt þá meðferð“ Innlent Hefur sætt umsáturseinelti í 14 ár: „Þetta hefur bara rústað lífi mínu“ Innlent Fleiri fréttir Webb smellti af nýburamyndum Harðlega gagnrýndur af bæði Demókrötum og Repúblikönum Fundu ofgnótt ferskvatns undir sjávarbotninum í Atlantshafi Segir af sér sem ráðherra og varaformaður Verkamannaflokksins „Selir“ skutu óvopnaða borgara í leyniaðgerð í Norður-Kóreu Hertogaynjan af Kent er látin Konungssinninn Anutin Charnvirakul nýr forsætisráðherra Taílands Bretar, Kanadamenn, Suður-Kóreubúar og Þjóðverji meðal látinna í Lissabon Sér ekki tilgang í öryggistryggingum þar sem Rússum sé treystandi Skoða að banna trans fólki að eiga skotvopn Svíar saka Rússa um auknar truflanir í staðsetningarbúnaði Gekkst undir aðgerð vegna húðkrabbameins Kynnir stríðsmálaráðuneytið til leiks Gerðu loftárás á vinnusvæði danskra hjálparsamtaka Yfir tvö þúsund látnir eftir jarðskjálftann Segir 26 ríki vilja senda hermenn til Úkraínu Sá sem ók á skrúðgöngu Liverpool-manna lýsti yfir sakleysi Mátti ekki stöðva fjárveitingar til Harvard Tískugoðsögnin Giorgio Armani er fallin frá Búa sig undir komu hermanna og útsendara ICE Evrópuleiðtogar funda um öryggistryggingar fyrir Úkraínu Spinna samsæriskenningar vegna óvenjumargra andláta frambjóðenda Biðja hæstarétt um flýtimeðferð vegna tolla Höfundur Father Ted handtekinn fyrir að hvetja til ofbeldis gegn trans fólki Allir íbúar munu geta höfðað mál vegna þungunarrofslyfja Vinna að lista yfir vini og samstarfsmenn Epstein Mjótt á munum í Noregi og líkur á flókinni stjórnarmyndun Mótmæla hugmyndum um innlimun nær alls Vesturbakkans Þjóðarsorg lýst yfir í Portgúal Pútín og Xi ræddu ódauðleika í gegnum líffæragjöf Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Ástand á stúdentagörðum: Ítrekuð innbrot, mat stolið, dýnur í kjallara og hland á gólfi Innlent Lögregla hafi hlaupið á sig á Siglufirði: „Þetta eru einstök prúðmenni“ Innlent „Mér hefur aldrei verið sýnd jafn mikil vanvirðing“ Innlent „Það kemur að því að við lendum í veseni“ Innlent Yfirgefið hreysi víkur fyrir hundrað íbúðum Innlent „Geta verið dauðsföll, þú veist ekkert hvað er í þessu“ Innlent Konan er fundin Innlent „Selir“ skutu óvopnaða borgara í leyniaðgerð í Norður-Kóreu Erlent Fólk deili lyfseðlum og „míkródósi“: „Við getum ekki réttlætt þá meðferð“ Innlent Hefur sætt umsáturseinelti í 14 ár: „Þetta hefur bara rústað lífi mínu“ Innlent Fleiri fréttir Webb smellti af nýburamyndum Harðlega gagnrýndur af bæði Demókrötum og Repúblikönum Fundu ofgnótt ferskvatns undir sjávarbotninum í Atlantshafi Segir af sér sem ráðherra og varaformaður Verkamannaflokksins „Selir“ skutu óvopnaða borgara í leyniaðgerð í Norður-Kóreu Hertogaynjan af Kent er látin Konungssinninn Anutin Charnvirakul nýr forsætisráðherra Taílands Bretar, Kanadamenn, Suður-Kóreubúar og Þjóðverji meðal látinna í Lissabon Sér ekki tilgang í öryggistryggingum þar sem Rússum sé treystandi Skoða að banna trans fólki að eiga skotvopn Svíar saka Rússa um auknar truflanir í staðsetningarbúnaði Gekkst undir aðgerð vegna húðkrabbameins Kynnir stríðsmálaráðuneytið til leiks Gerðu loftárás á vinnusvæði danskra hjálparsamtaka Yfir tvö þúsund látnir eftir jarðskjálftann Segir 26 ríki vilja senda hermenn til Úkraínu Sá sem ók á skrúðgöngu Liverpool-manna lýsti yfir sakleysi Mátti ekki stöðva fjárveitingar til Harvard Tískugoðsögnin Giorgio Armani er fallin frá Búa sig undir komu hermanna og útsendara ICE Evrópuleiðtogar funda um öryggistryggingar fyrir Úkraínu Spinna samsæriskenningar vegna óvenjumargra andláta frambjóðenda Biðja hæstarétt um flýtimeðferð vegna tolla Höfundur Father Ted handtekinn fyrir að hvetja til ofbeldis gegn trans fólki Allir íbúar munu geta höfðað mál vegna þungunarrofslyfja Vinna að lista yfir vini og samstarfsmenn Epstein Mjótt á munum í Noregi og líkur á flókinni stjórnarmyndun Mótmæla hugmyndum um innlimun nær alls Vesturbakkans Þjóðarsorg lýst yfir í Portgúal Pútín og Xi ræddu ódauðleika í gegnum líffæragjöf Sjá meira