Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Gat ekki lengur lesið en sagði engum frá því Innlent „Ég má ekki heita Hrísey en ég má heita Rodriguez“ Innlent „Þau eru að herja á börnin okkar“ Innlent Lofthelgi aftur lokað í Álaborg vegna drónaflugs Erlent Skvísur séu almennt frekar næringarsnauðar og börnin geti orðið matvönd Innlent James Comey ákærður vegna Rússarannsóknar Erlent Minna fólk á að hafa vistir til þriggja daga á heimilinu Innlent Lægð sem valdi meiri usla Innlent Dæmigert hundaflaut að spyrja hvort kynin séu tvö Innlent Breytingar í vændum á skrifstofu forseta Innlent Fleiri fréttir Lofthelgi aftur lokað í Álaborg vegna drónaflugs James Comey ákærður vegna Rússarannsóknar Segir NATO og ESB hafa lýst yfir stríði við Rússland Boðar alla herforingjana á fordæmalausan skyndifund Enn lítið vitað um leyniskyttuna og tilefni árásarinnar í Dallas Hóta Demókrötum með umfangsmiklum uppsögnum Fimm ára fangelsi fyrir að taka við fúlgum fjár frá Gaddafi Keppast við að ákæra Comey Trump krefst rannsóknar á „þríþættu skemmdarverki“ hjá SÞ Drónaflug í Danmörku: „Fjölþáttaógnin er að raungerast“ Leikskóli heimtar tugi þúsunda fyrir „listaverk“ barnanna Ætlar sér að koma böndum á sjónvarpsstöðvar Macron telur Trump ekki fylgjandi innlimun Vesturbakkans Sést til dróna við fjóra flugvelli í Danmörku Flugvellinum í Álaborg lokað vegna drónaflugs Segja árásina hafa beinst gegn ICE Pútín auki einfaldlega stríðsreksturinn verði hann ekki stöðvaður Sprenging í Osló talin tengjast sænsku glæpagengi Þrír skotnir af leyniskyttu við byggingu ICE í Dallas Biðjast afsökunar á „svörtum kafla“ í sögu Danmerkur og Grænlands Kenna Trump-liðum um bæði rúllustigann og textavélina Ekki staðfest hvort það hafi verið drónar sem röskuðu flugumferð í Osló Ekki pappírstígur heldur alvöru björn Vinsælum þáttarstjórnanda sagt upp vegna ásakana um brot gegn unglingsstúlku Drónamálið enn óupplýst: „Við erum heimskir nýgræðingar“ Kimmel snéri aftur, Trump til mikillar óánægju Rússland sé „pappírs tígur“ og Úkraínumenn geti unnið landið aftur Ákærði hálfur Íslendingur: Játaði morðið á Instagram tveimur vikum eftir það Sprenging í Osló og stórt svæði girt af Ryan Routh sekur um að reyna að myrða Trump Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Gat ekki lengur lesið en sagði engum frá því Innlent „Ég má ekki heita Hrísey en ég má heita Rodriguez“ Innlent „Þau eru að herja á börnin okkar“ Innlent Lofthelgi aftur lokað í Álaborg vegna drónaflugs Erlent Skvísur séu almennt frekar næringarsnauðar og börnin geti orðið matvönd Innlent James Comey ákærður vegna Rússarannsóknar Erlent Minna fólk á að hafa vistir til þriggja daga á heimilinu Innlent Lægð sem valdi meiri usla Innlent Dæmigert hundaflaut að spyrja hvort kynin séu tvö Innlent Breytingar í vændum á skrifstofu forseta Innlent Fleiri fréttir Lofthelgi aftur lokað í Álaborg vegna drónaflugs James Comey ákærður vegna Rússarannsóknar Segir NATO og ESB hafa lýst yfir stríði við Rússland Boðar alla herforingjana á fordæmalausan skyndifund Enn lítið vitað um leyniskyttuna og tilefni árásarinnar í Dallas Hóta Demókrötum með umfangsmiklum uppsögnum Fimm ára fangelsi fyrir að taka við fúlgum fjár frá Gaddafi Keppast við að ákæra Comey Trump krefst rannsóknar á „þríþættu skemmdarverki“ hjá SÞ Drónaflug í Danmörku: „Fjölþáttaógnin er að raungerast“ Leikskóli heimtar tugi þúsunda fyrir „listaverk“ barnanna Ætlar sér að koma böndum á sjónvarpsstöðvar Macron telur Trump ekki fylgjandi innlimun Vesturbakkans Sést til dróna við fjóra flugvelli í Danmörku Flugvellinum í Álaborg lokað vegna drónaflugs Segja árásina hafa beinst gegn ICE Pútín auki einfaldlega stríðsreksturinn verði hann ekki stöðvaður Sprenging í Osló talin tengjast sænsku glæpagengi Þrír skotnir af leyniskyttu við byggingu ICE í Dallas Biðjast afsökunar á „svörtum kafla“ í sögu Danmerkur og Grænlands Kenna Trump-liðum um bæði rúllustigann og textavélina Ekki staðfest hvort það hafi verið drónar sem röskuðu flugumferð í Osló Ekki pappírstígur heldur alvöru björn Vinsælum þáttarstjórnanda sagt upp vegna ásakana um brot gegn unglingsstúlku Drónamálið enn óupplýst: „Við erum heimskir nýgræðingar“ Kimmel snéri aftur, Trump til mikillar óánægju Rússland sé „pappírs tígur“ og Úkraínumenn geti unnið landið aftur Ákærði hálfur Íslendingur: Játaði morðið á Instagram tveimur vikum eftir það Sprenging í Osló og stórt svæði girt af Ryan Routh sekur um að reyna að myrða Trump Sjá meira