Forsvarsmenn OpenAI kalla eftir Alþjóðagervigreindarstofnun Hólmfríður Gísladóttir skrifar 24. maí 2023 07:12 Margir sjá fyrir sér að ofurgreind gæti tortímt mannkyninu en ógnirnar eru í raun mun fleiri og lúmskari. Stofnendur og stjórnendur OpenAI, sem eru að þróa gervigreindarforritið ChatGPT, kalla eftir því að komið verði á laggirnar stofnun á borð við Alþjóðakjarnorkumálastofnunina til að vernda mannkynið frá því að þróa „ofurgáfaða“ gervigreind sem gæti tortímt mannkyninu. Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian. Gervigreind Tækni Vísindi Mest lesið Bandaríkin beittu neitunarvaldinu gegn kröfu um vopnahlé Erlent Banna kennslubækur eftir konur í háskólum landsins Erlent Raunvirði íbúða lækkar á ný Innlent „Það er erfitt að berjast fyrir eigin réttindum þegar maður er veikur“ Innlent Mótmælir breyttu fyrirkomulagi í nemendaráðskosningum Innlent „Hver ætlar að fylgjast með því að hann komi ekki til baka?“ Innlent Grunaður um að fara inn á heimili fjölskyldu og brjóta þar á barni Innlent Hundruð milljóna vanti: „Þetta er hreint misrétti“ Innlent Fór inn á heimili, klæddi sig úr fötunum og sofnaði í stól Innlent Ók á vegavinnumann og flúði vettvang Innlent Fleiri fréttir Banna kennslubækur eftir konur í háskólum landsins Bandaríkin beittu neitunarvaldinu gegn kröfu um vopnahlé Segir Pútín hafa valdið sér „miklum vonbrigðum“ Sviptu hulunni af skósveinum GRU sem sendu sprengjur í flugvélar Eltihrellir sat fyrir lögregluþjónum og skaut þrjá til bana Segir Fallon og Meyers næsta: „Gerið þetta NBC!!!“ Hans Enoksen er látinn Telja að manngerð hlýnun hafi valdið 16.500 viðbótardauðsföllum í sumar 80.000 lögreglumenn í viðbragðsstöðu vegna boðaðra mótmæla í dag Menningarmálaráðherrann ósáttur og vill skrúfa fyrir fjármagn til ísraelsku kvikmyndaverðlaunanna Munu leggja fram vísindalegar sannanir fyrir því að Brigitte sé líffræðilega kona Fundu Guð í App store Nýr kókaínkóngur í Mexíkó Segir Kennedy hafa rekið sig fyrir að standa við vísindaleg heilindi Fjarlægðu skýrslu um pólitískt ofbeldi hægri öfgamanna Vatnaskil í dönskum varnarmálum: Ætla að kaupa langdræg vopn í fyrsta sinn Rýnt í ákærurnar: „Ég fékk nóg af hatri hans“ Segir að Navalní hafi verið myrtur í fangelsinu Bein útsending: Rauða dreglinum rúllað út fyrir Trump Evrópa sein með nýtt loftslagsmarkmið vegna óeiningar Opna tímabundna flóttaleið Ráðast í frekari rannsókn á andláti kvennanna sem létust í Laos Trump fær konunglegar móttökur í Bretlandi „Markmið ríkisstjórnar Ísraels er augljóst þegar við höldum áfram að verða vitni að tortímingu Palestínumanna“ Fara fram á dauðarefsingu yfir Robinson Nálægt því að draga úr flæðinu vegna drónaárása Hafa engar skýringar á margföldum gammablossa Enn ein ásiglingin við rifið umdeilda Hryðjuverkaákærum vísað frá Samþykkja að framselja Úkraínumann vegna Nord Stream-skemmdarverkanna Sjá meira
Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian.
Gervigreind Tækni Vísindi Mest lesið Bandaríkin beittu neitunarvaldinu gegn kröfu um vopnahlé Erlent Banna kennslubækur eftir konur í háskólum landsins Erlent Raunvirði íbúða lækkar á ný Innlent „Það er erfitt að berjast fyrir eigin réttindum þegar maður er veikur“ Innlent Mótmælir breyttu fyrirkomulagi í nemendaráðskosningum Innlent „Hver ætlar að fylgjast með því að hann komi ekki til baka?“ Innlent Grunaður um að fara inn á heimili fjölskyldu og brjóta þar á barni Innlent Hundruð milljóna vanti: „Þetta er hreint misrétti“ Innlent Fór inn á heimili, klæddi sig úr fötunum og sofnaði í stól Innlent Ók á vegavinnumann og flúði vettvang Innlent Fleiri fréttir Banna kennslubækur eftir konur í háskólum landsins Bandaríkin beittu neitunarvaldinu gegn kröfu um vopnahlé Segir Pútín hafa valdið sér „miklum vonbrigðum“ Sviptu hulunni af skósveinum GRU sem sendu sprengjur í flugvélar Eltihrellir sat fyrir lögregluþjónum og skaut þrjá til bana Segir Fallon og Meyers næsta: „Gerið þetta NBC!!!“ Hans Enoksen er látinn Telja að manngerð hlýnun hafi valdið 16.500 viðbótardauðsföllum í sumar 80.000 lögreglumenn í viðbragðsstöðu vegna boðaðra mótmæla í dag Menningarmálaráðherrann ósáttur og vill skrúfa fyrir fjármagn til ísraelsku kvikmyndaverðlaunanna Munu leggja fram vísindalegar sannanir fyrir því að Brigitte sé líffræðilega kona Fundu Guð í App store Nýr kókaínkóngur í Mexíkó Segir Kennedy hafa rekið sig fyrir að standa við vísindaleg heilindi Fjarlægðu skýrslu um pólitískt ofbeldi hægri öfgamanna Vatnaskil í dönskum varnarmálum: Ætla að kaupa langdræg vopn í fyrsta sinn Rýnt í ákærurnar: „Ég fékk nóg af hatri hans“ Segir að Navalní hafi verið myrtur í fangelsinu Bein útsending: Rauða dreglinum rúllað út fyrir Trump Evrópa sein með nýtt loftslagsmarkmið vegna óeiningar Opna tímabundna flóttaleið Ráðast í frekari rannsókn á andláti kvennanna sem létust í Laos Trump fær konunglegar móttökur í Bretlandi „Markmið ríkisstjórnar Ísraels er augljóst þegar við höldum áfram að verða vitni að tortímingu Palestínumanna“ Fara fram á dauðarefsingu yfir Robinson Nálægt því að draga úr flæðinu vegna drónaárása Hafa engar skýringar á margföldum gammablossa Enn ein ásiglingin við rifið umdeilda Hryðjuverkaákærum vísað frá Samþykkja að framselja Úkraínumann vegna Nord Stream-skemmdarverkanna Sjá meira
Menningarmálaráðherrann ósáttur og vill skrúfa fyrir fjármagn til ísraelsku kvikmyndaverðlaunanna
„Markmið ríkisstjórnar Ísraels er augljóst þegar við höldum áfram að verða vitni að tortímingu Palestínumanna“