Hætti hjá Google til að vara við hættu af gervigreind Kjartan Kjartansson skrifar 2. maí 2023 11:55 Spjallyrki sem stór tæknifyrirtæki hafa afhjúpað nýlega þykja sláandi góð í að framleiða texta. Sumir óttast nú uppgang gervigreindar og telja hana jafnvel tilvistarlega ógn við mannkynið. Vísir/Getty Frumkvöðull í gervigreind segist hafa sagt starfi sínu hjá tæknirisanum Google lausu til þess að geta tjáð sig óheft um þær hættur sem hann telur að fylgi tækninni. Hann segist hafa gert sér grein fyrir að tölvur gætu orðið greindari en menn mun fyrr en hann taldi. Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton. Bandaríkin Tækni Gervigreind Google Mest lesið Hinn almenni borgari þurfi ekki að dæla í sig steinefnum Neytendur Blár Opal seldist á fimmtán þúsund Neytendur Leiðtogakulnun: Þegar yfirmaðurinn er alveg búinn á því Atvinnulíf MAST varar við ólöglegu innihaldsefni í fæðubótarefni Neytendur Danir höndla ekki kóresku pakkanúðlurnar Viðskipti erlent Ekki lengur hægt að sjá hvað aðrir „læka“ Viðskipti erlent „Sársaukafullt að sjá“ IKEA vasa dýrari í Góða hirðinum Neytendur Festi fær að kaupa Lyfju Neytendur Níu manns sagt upp hjá Veitum Atvinnulíf Lætur mál gegn OpenAI niður falla Viðskipti erlent Fleiri fréttir Ekki lengur hægt að sjá hvað aðrir „læka“ Lætur mál gegn OpenAI niður falla Danir höndla ekki kóresku pakkanúðlurnar ChatGPT og endurbætt Siri væntanlegar nýjungar Apple Lækkuðu stýrivexti í Evrópu í fyrsta sinn síðan 2019 Írskur matsölustaður hafði betur í vörumerkjadeilum við McDonalds Bein útsending: Fjórða flugferð Starship Prufa að neyða notendur til að horfa á auglýsingar Vangaveltur um að vinkona Ásdísar hafi verið myrt og hent í sjóinn Vilja rannsaka meint samráð með OPEC Nýjum alþjóðaflugvelli á Grænlandi seinkar enn Dagar Workplace eru taldir Rauf sátt vegna Max-málsins og gæti átt yfir höfði sér refsimál Apple biðst afsökunar á auglýsingu fyrir nýjan iPad Rannsaka hvort Tesla hafi blekkt neytendur og fjárfesta Taka bóluefni AstraZeneca úr sölu vegna dvínandi eftirspurnar Tekjur Apple drógust saman enn eina ferðina Stofnandi Binance dæmdur fyrir peningaþvætti Sjá meira
Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton.
Bandaríkin Tækni Gervigreind Google Mest lesið Hinn almenni borgari þurfi ekki að dæla í sig steinefnum Neytendur Blár Opal seldist á fimmtán þúsund Neytendur Leiðtogakulnun: Þegar yfirmaðurinn er alveg búinn á því Atvinnulíf MAST varar við ólöglegu innihaldsefni í fæðubótarefni Neytendur Danir höndla ekki kóresku pakkanúðlurnar Viðskipti erlent Ekki lengur hægt að sjá hvað aðrir „læka“ Viðskipti erlent „Sársaukafullt að sjá“ IKEA vasa dýrari í Góða hirðinum Neytendur Festi fær að kaupa Lyfju Neytendur Níu manns sagt upp hjá Veitum Atvinnulíf Lætur mál gegn OpenAI niður falla Viðskipti erlent Fleiri fréttir Ekki lengur hægt að sjá hvað aðrir „læka“ Lætur mál gegn OpenAI niður falla Danir höndla ekki kóresku pakkanúðlurnar ChatGPT og endurbætt Siri væntanlegar nýjungar Apple Lækkuðu stýrivexti í Evrópu í fyrsta sinn síðan 2019 Írskur matsölustaður hafði betur í vörumerkjadeilum við McDonalds Bein útsending: Fjórða flugferð Starship Prufa að neyða notendur til að horfa á auglýsingar Vangaveltur um að vinkona Ásdísar hafi verið myrt og hent í sjóinn Vilja rannsaka meint samráð með OPEC Nýjum alþjóðaflugvelli á Grænlandi seinkar enn Dagar Workplace eru taldir Rauf sátt vegna Max-málsins og gæti átt yfir höfði sér refsimál Apple biðst afsökunar á auglýsingu fyrir nýjan iPad Rannsaka hvort Tesla hafi blekkt neytendur og fjárfesta Taka bóluefni AstraZeneca úr sölu vegna dvínandi eftirspurnar Tekjur Apple drógust saman enn eina ferðina Stofnandi Binance dæmdur fyrir peningaþvætti Sjá meira