Forsvarsmenn OpenAI kalla eftir Alþjóðagervigreindarstofnun Hólmfríður Gísladóttir skrifar 24. maí 2023 07:12 Margir sjá fyrir sér að ofurgreind gæti tortímt mannkyninu en ógnirnar eru í raun mun fleiri og lúmskari. Stofnendur og stjórnendur OpenAI, sem eru að þróa gervigreindarforritið ChatGPT, kalla eftir því að komið verði á laggirnar stofnun á borð við Alþjóðakjarnorkumálastofnunina til að vernda mannkynið frá því að þróa „ofurgáfaða“ gervigreind sem gæti tortímt mannkyninu. Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian. Gervigreind Tækni Vísindi Mest lesið Leið yfir nýja ráðherrann á fyrsta fundi Erlent Ísraelar gera loftárásir á Katar Erlent Fámenn mótmæli við þingsetningu: „Afætur! Aumingjar! Rasistar!“ Innlent Gera loftárásir á háhýsi og vara við yfirvofandi innrás Erlent Ráðstöfun séreignarsparnaðar inn á húsnæðislán bara tímabundin Innlent Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Erlent Kínversk ferðaskrifstofa fær ekki áheyrn hjá Hæstarétti Innlent Útsending komin í lag Innlent Opinbera bréf Trumps til Epsteins Erlent Ruddust inn til manns og mölbrutu í honum tennurnar Innlent Fleiri fréttir Standa fast á því að undirskriftin sé ekki Trumps Skipar strax nýjan forsætisráðherra Segja leiðtoga Hamas hafa lifað árásina af Kveikt í þinghúsinu og forsætisráðherrann hrökklast frá Leið yfir nýja ráðherrann á fyrsta fundi Á þriðja tug lífeyrisþega látinn eftir spengjuárás Rússa Ísraelar gera loftárásir á Katar Støre á vandasamt verk fyrir höndum eftir kosningasigur Svíar munu banna farsíma í grunnskólum frá næsta hausti Kosningaúrslit í Noregi: Störe fagnar sigri en Solberg mögulega á förum Mótmæla enn og þrír ráðherrar segja af sér Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Gera loftárásir á háhýsi og vara við yfirvofandi innrás Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Opinbera bréf Trumps til Epsteins Vinstriblokkin með meirihluta í Noregi Þurfa að finna fimmta forsætisráðherrann á tveimur árum Biðlaði til stjórnarandstöðunnar á pólitískum dánarbeði sínum Mál úgandsks stríðsherra gæti haft þýðingu fyrir Pútín og Netanjahú Skutu mótmælendur til bana við þinghúsið í Nepal Sex látnir í skotárás Palestínumanna í Jerúsalem Fjórar ungar vinkonur fórust í eldsvoða í Noregi Boðað til mótmæla vegna vopnasýningar í Lundúnum Sveppamorðinginn í lífstíðarfangelsi í Ástralíu Treystir á afdráttarlaus viðbrögð bandamanna við árás helgarinnar Bera kennsl á mann fimmtíu árum eftir að hann lét sig hverfa Líklega snúin staða sama hvernig fer í Noregi Tölvuleikjaspilandi táningur tekinn í dýrlingatölu Finnski þjóðsöngurinn gleðilegastur af þjóðsöngvum Norðurlandanna Sjá meira
Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian.
Gervigreind Tækni Vísindi Mest lesið Leið yfir nýja ráðherrann á fyrsta fundi Erlent Ísraelar gera loftárásir á Katar Erlent Fámenn mótmæli við þingsetningu: „Afætur! Aumingjar! Rasistar!“ Innlent Gera loftárásir á háhýsi og vara við yfirvofandi innrás Erlent Ráðstöfun séreignarsparnaðar inn á húsnæðislán bara tímabundin Innlent Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Erlent Kínversk ferðaskrifstofa fær ekki áheyrn hjá Hæstarétti Innlent Útsending komin í lag Innlent Opinbera bréf Trumps til Epsteins Erlent Ruddust inn til manns og mölbrutu í honum tennurnar Innlent Fleiri fréttir Standa fast á því að undirskriftin sé ekki Trumps Skipar strax nýjan forsætisráðherra Segja leiðtoga Hamas hafa lifað árásina af Kveikt í þinghúsinu og forsætisráðherrann hrökklast frá Leið yfir nýja ráðherrann á fyrsta fundi Á þriðja tug lífeyrisþega látinn eftir spengjuárás Rússa Ísraelar gera loftárásir á Katar Støre á vandasamt verk fyrir höndum eftir kosningasigur Svíar munu banna farsíma í grunnskólum frá næsta hausti Kosningaúrslit í Noregi: Störe fagnar sigri en Solberg mögulega á förum Mótmæla enn og þrír ráðherrar segja af sér Gefa grænt ljós á handtökur á grundvelli kynþáttar og málnotkunar Gera loftárásir á háhýsi og vara við yfirvofandi innrás Alþjóðakerfinu ekki viðbjargandi og þörf á aðlögun Segir danska kerfið þurfa að líta á Grænlendinga sem jafningja Opinbera bréf Trumps til Epsteins Vinstriblokkin með meirihluta í Noregi Þurfa að finna fimmta forsætisráðherrann á tveimur árum Biðlaði til stjórnarandstöðunnar á pólitískum dánarbeði sínum Mál úgandsks stríðsherra gæti haft þýðingu fyrir Pútín og Netanjahú Skutu mótmælendur til bana við þinghúsið í Nepal Sex látnir í skotárás Palestínumanna í Jerúsalem Fjórar ungar vinkonur fórust í eldsvoða í Noregi Boðað til mótmæla vegna vopnasýningar í Lundúnum Sveppamorðinginn í lífstíðarfangelsi í Ástralíu Treystir á afdráttarlaus viðbrögð bandamanna við árás helgarinnar Bera kennsl á mann fimmtíu árum eftir að hann lét sig hverfa Líklega snúin staða sama hvernig fer í Noregi Tölvuleikjaspilandi táningur tekinn í dýrlingatölu Finnski þjóðsöngurinn gleðilegastur af þjóðsöngvum Norðurlandanna Sjá meira