Óttuðust að ný gervigreind gæti ógnað mannkyninu Oddur Ævar Gunnarsson skrifar 23. nóvember 2023 22:08 Starfsmennirnir eru sagðir hafa skrifað stjórnendum fyrirtækisins bréf. EPA-EFE/WU HAO Starfsmenn bandaríska tæknifyrirtækisins OpenAI sem sérhæft hefur sig í gervigreind, eru sagðir hafa viðrað áhyggjur sínar af nýrri gervigreind sem fyrirtækið var að vinna að áður en Sam Altman, forstjóri þess var látinn fjúka. Þetta kemur fram í umfjöllun Guardian um málið. Þar segir að ný útgáfa gervigreindarinnar, sem ber heitið Q*, hafi valdið sumum starfsmönnum svo miklum áhyggjum að þeir hafi skrifað stjórnendum fyrirtækisins bréf. Segir breski miðillinn að þetta hafi gerst áður en Altman var vikið úr starfi forstjóra. Eins og fram hefur komið var Altman ráðinn aftur sem forstjóri fyrirtækisins tveimur dögum síðar. Starfsmenn og fjárfestar mótmæltu brottrekstrinum og verður stjórnarmeðlimum skipt út fyrir nýja til að greiða fyrir endurkomu hans. Q* gervigreindin er sögð hafa getað leyst einfaldar stærðfræðiþrautir sem hún hafði ekki séð áður. Var hraði þróunar hennar svo mikill að starfsmenn hafi fyllst áhyggjum af því að gervigreindin gæti ógnað mannkyninu. Fram kemur í frétt Guardian að gervigreind hafi hingað til ekki haft getuna til að leysa slíkar þrautir. Haft er eftir Andrew Rogoyski, sérfræðingi á sviði gervigreindar við háskólann í Surrey, að reynist þetta rétt sé um að ræða miklar framfarir. Áður hafa fjölmargir sérfræðingar lýst yfir áhyggjum af þróun fyrirtækja líkt og OpenAI á gervigreind. Þeir hafa varað við því að þróun hennar sé of hröð en OpenAI framleiðir þekktustu gervigreind í heimi um þessar mundir, ChatGPT. Gervigreind Bandaríkin Mest lesið Sigga Lund lenti illa í „Vefstól Svanhildar“ og varar aðra við Neytendur Verðbólgan hjaðnar þvert á spár Viðskipti innlent Segir stefna í að Vélfag verði lagt niður vegna þvingananna Viðskipti innlent Óvænt en breytir þó ekki spám Viðskipti innlent Reiknuðu með halla en enduðu í hundruð milljóna króna plús Viðskipti innlent Fjórir ráðnir nýir fagstjórar hjá Kvikmyndaskólanum Viðskipti innlent „Áfengið þarf að vera erlendis þegar þú pantar það“ Viðskipti innlent Rekstur Árborgar jákvæður og bæjarstjóri fagnar Viðskipti innlent Fiskar komnir í fyrstu 25 metra eldistankana Viðskipti innlent Ráðin markaðsstjóri Prís Viðskipti innlent Fleiri fréttir Frakkar þurfi mögulega að leita aðstoðar Alþjóðagjaldeyrissjóðsins Risinn sem var of stór til að falla er fallinn Facebook gagnrýnt fyrir að leyfa gervigreind að reyna við börn Vilja ekkert með áfengi nágranna sinna hafa Íslensku KFC-feðgarnir í Danmörku gjaldþrota Kynntu nýja útgáfu ChatGPT: „Þetta er eins og að tala við sérfræðing“ Stærsti olíu- og gasfundur olíurisa í 25 ár Tíu prósenta tollur á færeyskar vörur Leist ekki á hagtölur og rak yfirmann stofnunarinnar Hagnaðist um 2,2 billjónir króna Gengi Novo Nordisk steypist niður Samkomulagið það besta mögulega í erfiðum aðstæðum Stærsti olíufundur Evrópu í áratug í Póllandi Hampiðjan kaupir ástralskan kaðlaframleiðanda Japanskir bílaframleiðendur í skýjunum eftir tollasamkomulag Hagnaðurinn af Labubu sagður hafa aukist um 350 prósent Hótar þrjátíu prósenta tolli á ESB Hótar Kanadamönnum hærri tollgjöldum Forstjóri X hættir óvænt Kynna nýtt kerfi gegn „gervigreindarsópum“ SAS í sókn og kaupir 55 brasilískar vélar Sjá meira
Þetta kemur fram í umfjöllun Guardian um málið. Þar segir að ný útgáfa gervigreindarinnar, sem ber heitið Q*, hafi valdið sumum starfsmönnum svo miklum áhyggjum að þeir hafi skrifað stjórnendum fyrirtækisins bréf. Segir breski miðillinn að þetta hafi gerst áður en Altman var vikið úr starfi forstjóra. Eins og fram hefur komið var Altman ráðinn aftur sem forstjóri fyrirtækisins tveimur dögum síðar. Starfsmenn og fjárfestar mótmæltu brottrekstrinum og verður stjórnarmeðlimum skipt út fyrir nýja til að greiða fyrir endurkomu hans. Q* gervigreindin er sögð hafa getað leyst einfaldar stærðfræðiþrautir sem hún hafði ekki séð áður. Var hraði þróunar hennar svo mikill að starfsmenn hafi fyllst áhyggjum af því að gervigreindin gæti ógnað mannkyninu. Fram kemur í frétt Guardian að gervigreind hafi hingað til ekki haft getuna til að leysa slíkar þrautir. Haft er eftir Andrew Rogoyski, sérfræðingi á sviði gervigreindar við háskólann í Surrey, að reynist þetta rétt sé um að ræða miklar framfarir. Áður hafa fjölmargir sérfræðingar lýst yfir áhyggjum af þróun fyrirtækja líkt og OpenAI á gervigreind. Þeir hafa varað við því að þróun hennar sé of hröð en OpenAI framleiðir þekktustu gervigreind í heimi um þessar mundir, ChatGPT.
Gervigreind Bandaríkin Mest lesið Sigga Lund lenti illa í „Vefstól Svanhildar“ og varar aðra við Neytendur Verðbólgan hjaðnar þvert á spár Viðskipti innlent Segir stefna í að Vélfag verði lagt niður vegna þvingananna Viðskipti innlent Óvænt en breytir þó ekki spám Viðskipti innlent Reiknuðu með halla en enduðu í hundruð milljóna króna plús Viðskipti innlent Fjórir ráðnir nýir fagstjórar hjá Kvikmyndaskólanum Viðskipti innlent „Áfengið þarf að vera erlendis þegar þú pantar það“ Viðskipti innlent Rekstur Árborgar jákvæður og bæjarstjóri fagnar Viðskipti innlent Fiskar komnir í fyrstu 25 metra eldistankana Viðskipti innlent Ráðin markaðsstjóri Prís Viðskipti innlent Fleiri fréttir Frakkar þurfi mögulega að leita aðstoðar Alþjóðagjaldeyrissjóðsins Risinn sem var of stór til að falla er fallinn Facebook gagnrýnt fyrir að leyfa gervigreind að reyna við börn Vilja ekkert með áfengi nágranna sinna hafa Íslensku KFC-feðgarnir í Danmörku gjaldþrota Kynntu nýja útgáfu ChatGPT: „Þetta er eins og að tala við sérfræðing“ Stærsti olíu- og gasfundur olíurisa í 25 ár Tíu prósenta tollur á færeyskar vörur Leist ekki á hagtölur og rak yfirmann stofnunarinnar Hagnaðist um 2,2 billjónir króna Gengi Novo Nordisk steypist niður Samkomulagið það besta mögulega í erfiðum aðstæðum Stærsti olíufundur Evrópu í áratug í Póllandi Hampiðjan kaupir ástralskan kaðlaframleiðanda Japanskir bílaframleiðendur í skýjunum eftir tollasamkomulag Hagnaðurinn af Labubu sagður hafa aukist um 350 prósent Hótar þrjátíu prósenta tolli á ESB Hótar Kanadamönnum hærri tollgjöldum Forstjóri X hættir óvænt Kynna nýtt kerfi gegn „gervigreindarsópum“ SAS í sókn og kaupir 55 brasilískar vélar Sjá meira