Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Gera loftárásir á háhýsi og vara við yfirvofandi innrás Erlent Verið ættleiddur af Íslendingum Innlent Opinbera bréf Trumps til Epsteins Erlent Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Erlent Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Erlent Reyksprengju kastað inn á pall í Hafnarfirði Innlent Rýnt í stöðuna í Úkraínu: Pútín sagður ætla að „taka til“ eftir kosningarnar Erlent Bylgja Dís er látin Innlent Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Erlent Uppfæra ekki fríverslunarsamning og banna tvo ráðherra Innlent Fleiri fréttir Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Gera loftárásir á háhýsi og vara við yfirvofandi innrás Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Opinbera bréf Trumps til Epsteins Vinstriblokkin með meirihluta í Noregi Þurfa að finna fimmta forsætisráðherrann á tveimur árum Biðlaði til stjórnarandstöðunnar á pólitískum dánarbeði sínum Mál úgandsks stríðsherra gæti haft þýðingu fyrir Pútín og Netanjahú Skutu mótmælendur til bana við þinghúsið í Nepal Sex látnir í skotárás Palestínumanna í Jerúsalem Fjórar ungar vinkonur fórust í eldsvoða í Noregi Boðað til mótmæla vegna vopnasýningar í Lundúnum Sveppamorðinginn í lífstíðarfangelsi í Ástralíu Treystir á afdráttarlaus viðbrögð bandamanna við árás helgarinnar Bera kennsl á mann fimmtíu árum eftir að hann lét sig hverfa Líklega snúin staða sama hvernig fer í Noregi Tölvuleikjaspilandi táningur tekinn í dýrlingatölu Finnski þjóðsöngurinn gleðilegastur af þjóðsöngvum Norðurlandanna Vilja skylda samskiptaforrit til að skanna einkaskilaboð fólks Rafmagnsflugvél reynd í áætlunarflugi í Noregi „Markmiðið er að innlima Úkraínu í áhrifasvæði Rússlands“ Forsætisráðherra Japan segir af sér Bandaríkjamenn handtóku yfir þrjú hundruð Suður-Kóreumenn Aðsetur ríkisstjórnarinnar logar eftir árásir næturinnar Hótar að beita stríðsmálaráðuneytinu: „Chipocalypse Now“ Webb smellti af nýburamyndum Harðlega gagnrýndur af bæði Demókrötum og Repúblikönum Fundu ofgnótt ferskvatns undir sjávarbotninum í Atlantshafi Segir af sér sem ráðherra og varaformaður Verkamannaflokksins Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Gera loftárásir á háhýsi og vara við yfirvofandi innrás Erlent Verið ættleiddur af Íslendingum Innlent Opinbera bréf Trumps til Epsteins Erlent Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Erlent Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Erlent Reyksprengju kastað inn á pall í Hafnarfirði Innlent Rýnt í stöðuna í Úkraínu: Pútín sagður ætla að „taka til“ eftir kosningarnar Erlent Bylgja Dís er látin Innlent Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Erlent Uppfæra ekki fríverslunarsamning og banna tvo ráðherra Innlent Fleiri fréttir Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Gera loftárásir á háhýsi og vara við yfirvofandi innrás Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Opinbera bréf Trumps til Epsteins Vinstriblokkin með meirihluta í Noregi Þurfa að finna fimmta forsætisráðherrann á tveimur árum Biðlaði til stjórnarandstöðunnar á pólitískum dánarbeði sínum Mál úgandsks stríðsherra gæti haft þýðingu fyrir Pútín og Netanjahú Skutu mótmælendur til bana við þinghúsið í Nepal Sex látnir í skotárás Palestínumanna í Jerúsalem Fjórar ungar vinkonur fórust í eldsvoða í Noregi Boðað til mótmæla vegna vopnasýningar í Lundúnum Sveppamorðinginn í lífstíðarfangelsi í Ástralíu Treystir á afdráttarlaus viðbrögð bandamanna við árás helgarinnar Bera kennsl á mann fimmtíu árum eftir að hann lét sig hverfa Líklega snúin staða sama hvernig fer í Noregi Tölvuleikjaspilandi táningur tekinn í dýrlingatölu Finnski þjóðsöngurinn gleðilegastur af þjóðsöngvum Norðurlandanna Vilja skylda samskiptaforrit til að skanna einkaskilaboð fólks Rafmagnsflugvél reynd í áætlunarflugi í Noregi „Markmiðið er að innlima Úkraínu í áhrifasvæði Rússlands“ Forsætisráðherra Japan segir af sér Bandaríkjamenn handtóku yfir þrjú hundruð Suður-Kóreumenn Aðsetur ríkisstjórnarinnar logar eftir árásir næturinnar Hótar að beita stríðsmálaráðuneytinu: „Chipocalypse Now“ Webb smellti af nýburamyndum Harðlega gagnrýndur af bæði Demókrötum og Repúblikönum Fundu ofgnótt ferskvatns undir sjávarbotninum í Atlantshafi Segir af sér sem ráðherra og varaformaður Verkamannaflokksins Sjá meira