Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Trump látinn vita að nafn hans væri í Epstein-skjölunum Erlent Kári um njósnatalið: „Óvarlegt af mér og býsna óheiðarlegt“ Innlent „Held að sjávarútvegurinn hafi misst samtalið við þjóðina“ Innlent „Hvað næst? Sparka í okkur? Berja okkur? Stinga einhverju í okkur?“ Innlent Vinnur á fjórum stöðum en eigin íbúð fjarlægur draumur Innlent Handtekinn í Laugardal grunaður um mansal Innlent Slóðinn að gosinu einungis fyrir viðbragðsaðila og jeppa Icelandia Innlent Málinu lokið og Kohberger sleppur við dauðarefsingu Erlent Selenskí sagður stíga skref í átt að alræði Erlent Þingmaður telur að vísa ætti skvettaranum úr landi Innlent Fleiri fréttir Trump látinn vita að nafn hans væri í Epstein-skjölunum Málinu lokið og Kohberger sleppur við dauðarefsingu Hvalavinurinn ekki lengur eftirlýstur Ríki mega kæra hvert annað fyrir loftslagsbreytingar Epstein mætti í brúðkaup Trumps Selenskí sagður stíga skref í átt að alræði Norskur maður ákærður fyrir njósnir í þágu Rússa og Írana Abrahamska dulspekitrúin sem heyr tilvistarstríð Setjast enn og aftur við samningaborðið en væntingar eru litlar Biden hraunar yfir Clooney: „Hann má fokka sér“ Segjast hafa fengið rangar líkamsleifar Efnt til mótmæla í Úkraínu vegna umdeildrar lagabreytingar Hundrað hjálparsamtök segja hungursneyð breiðast út um Gasa-svæðið Obama svarar ásökunum Trump og Gabbard um valdaránstilraun Ozzy Osbourne allur Hitinn víða yfir 50 stig og vatnsforðinn að þorna upp Brú skóf þakið af tveggja hæða rútu Ísraelar segja yfirlýsingu 28 ríkja úr takti við raunveruleikann Ríkisstjórn Bandaríkjanna og Harvard takast á fyrir dómstólum Nítján látnir eftir að herflugvél brotlenti á skólabyggingu Rússar opnir fyrir friðarviðræðum en hyggist ekki slá af kröfum sínum Hátt í sjötíu drepnir í biðröð eftir mat Ökumaðurinn skotinn af vitnum á vettvangi Flóðbylgjuhætta eftir stærðarinnar skjálfta í Rússlandi Ísraelar stunda skipulagt niðurrif á heilu bæjunum í trássi við alþjóðalög Selenskí boðar til nýrra friðarviðræðna Á fjórða tug ferðamanna látnir eftir að bát hvolfdi Tæplega þrjátíu slasaðir eftir að bíl var ekið í mannfjölda í Hollywood Ísrael og Sýrland hafi samið um vopnahlé Óska eftir því að vitnisburður um Epstein verði opinberaður Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Trump látinn vita að nafn hans væri í Epstein-skjölunum Erlent Kári um njósnatalið: „Óvarlegt af mér og býsna óheiðarlegt“ Innlent „Held að sjávarútvegurinn hafi misst samtalið við þjóðina“ Innlent „Hvað næst? Sparka í okkur? Berja okkur? Stinga einhverju í okkur?“ Innlent Vinnur á fjórum stöðum en eigin íbúð fjarlægur draumur Innlent Handtekinn í Laugardal grunaður um mansal Innlent Slóðinn að gosinu einungis fyrir viðbragðsaðila og jeppa Icelandia Innlent Málinu lokið og Kohberger sleppur við dauðarefsingu Erlent Selenskí sagður stíga skref í átt að alræði Erlent Þingmaður telur að vísa ætti skvettaranum úr landi Innlent Fleiri fréttir Trump látinn vita að nafn hans væri í Epstein-skjölunum Málinu lokið og Kohberger sleppur við dauðarefsingu Hvalavinurinn ekki lengur eftirlýstur Ríki mega kæra hvert annað fyrir loftslagsbreytingar Epstein mætti í brúðkaup Trumps Selenskí sagður stíga skref í átt að alræði Norskur maður ákærður fyrir njósnir í þágu Rússa og Írana Abrahamska dulspekitrúin sem heyr tilvistarstríð Setjast enn og aftur við samningaborðið en væntingar eru litlar Biden hraunar yfir Clooney: „Hann má fokka sér“ Segjast hafa fengið rangar líkamsleifar Efnt til mótmæla í Úkraínu vegna umdeildrar lagabreytingar Hundrað hjálparsamtök segja hungursneyð breiðast út um Gasa-svæðið Obama svarar ásökunum Trump og Gabbard um valdaránstilraun Ozzy Osbourne allur Hitinn víða yfir 50 stig og vatnsforðinn að þorna upp Brú skóf þakið af tveggja hæða rútu Ísraelar segja yfirlýsingu 28 ríkja úr takti við raunveruleikann Ríkisstjórn Bandaríkjanna og Harvard takast á fyrir dómstólum Nítján látnir eftir að herflugvél brotlenti á skólabyggingu Rússar opnir fyrir friðarviðræðum en hyggist ekki slá af kröfum sínum Hátt í sjötíu drepnir í biðröð eftir mat Ökumaðurinn skotinn af vitnum á vettvangi Flóðbylgjuhætta eftir stærðarinnar skjálfta í Rússlandi Ísraelar stunda skipulagt niðurrif á heilu bæjunum í trássi við alþjóðalög Selenskí boðar til nýrra friðarviðræðna Á fjórða tug ferðamanna látnir eftir að bát hvolfdi Tæplega þrjátíu slasaðir eftir að bíl var ekið í mannfjölda í Hollywood Ísrael og Sýrland hafi samið um vopnahlé Óska eftir því að vitnisburður um Epstein verði opinberaður Sjá meira