Ofurgreind ekki enn á sjóndeildarhringnum en þörf á eftirliti Hólmfríður Gísladóttir skrifar 24. október 2023 13:00 Hassabis segir aðkallandi að horfa til alþjóðlegrar stefnumörkunar og eftirlits með þróun gervigreindar. epa/Wu Hong Demis Hassabis, framkvæmdastjóri Google DeepMind, segir „guðlega“ gervigreind ekki á sjóndeildarhringnum enn sem komið er en að vinna við stefnumörkun og eftirlit með þróun gervigreindar verði að hefjast „í gær“. Stjórnvöld á Bretlandseyjum hafa boðað til ráðstefnu um áskoranir vegna hraðrar framþróunar gervigreindar þar sem Hassabis verður meðal frummælenda. Hann er frumkvöðull á þessu sviði, stofnaði DeepMind árið 2010 og seldi fyrirtækið til Google árið 2014. Frá þeim tíma hefur hann farið fyrir þróun gervigreindar hjá tæknirisanum. Hassabis segist ekki vera meðal þeirra sem óttast eða eru afar neikvæðir í garð gervigreindar en hann segir ríki heims hins vegar þurfa að hefjast tafarlaust við að draga úr og koma í veg fyrir hættur af völdum tækninnar, sem menn gætu meðal annars misnotað til að þróa lífefnavopn. „Við verðum að taka hættuna af völdum gervigreindar jafn alvarlega og aðrar alþjóðlegar áskoranir, eins og loftslagsbreytingar,“ segir Hassabi. „Það tók alþjóðasamfélagið of langan tíma til að koma með samræmar aðgerðir hvað þær varðar og við búum nú við afleiðingar þess. Við megum ekki við sömu töfum hvað varðar gervigreindina,“ segir hann. Milliríkjanefnd eða alþjóðastofnun Það var teymi Hassabi sem þróaði AlphaFold, forritið sem hefur spáð fyrir um byggingu allra prótína líkamans. Hann segir gervigreind gætu orðið ein mikilvægastu tækniframþróun sögunnar en að stefnumótunar sé þörf og þar megi horfa til alþjóðlegra stofnana á borð við Milliríkjanefnd Sameinuðu þjóðanna um loftslagsmál (IPCC). Stofnun á borð við Alþjóðakjarnorkumálastofnunina myndi svo taka við, sem hefði eftirlit með framþróun tækninnar. Excited to share #AlphaMissense our new AI system that can classify whether genetic mutations (missense variants) are benign or harmful - a critical step toward uncovering causes of many diseases, from cystic fibrosis to cancer. In @ScienceMagazine today https://t.co/pIsskIe1cP— Demis Hassabis (@demishassabis) September 19, 2023 Hassabis segir gervigreindina geta stuðlað að ótrúlegum framförum, til dæmis á vettvangi heilbrigðisvísinda, og segist ekki myndu starfa á þessu sviði ef hann teldi það ekki geta orðið til góðs. Hins vegar var hann einnig meðal framámanna sem undirrituðu opið bréf í maí um mögulegar ógnir gervigreindar. Menn hafa viðrað áhyggjur af því að mannkyninu gæti bókstaflega stafað tilvistarleg ógn af tækninni, að forrit gæti hreinlega orðið gáfaðra en manneskjan og losnað undan stjórn hans. „Gæti hún stolið eigin kóða, bætt eigin kóða? Gæti hún afritað sig án leyfis? Það væri óæskileg hegðun því ef þú vilt slökkva á henni viltu ekki að hún geymi afrit af sér annars staðar,“ segir Hassabis. „Það er alls konar svona hegðun sem væri óæskileg hjá öflugu kerfi.“ Prófanir eru ein þeirra lausna sem Hassabis leggur til og svo mögulega lagasetning. En rannsókna sé þörf. Gervigreind Tækni Google Athugið. Vísir hvetur lesendur til að skiptast á skoðunum. Allar athugasemdir eru á ábyrgð þeirra er þær rita. Lesendur skulu halda sig við málefnalega og hófstillta umræðu og áskilur Vísir sér rétt til að fjarlægja ummæli og/eða umræðu sem fer út fyrir þau mörk. Vísir mun loka á aðgang þeirra sem tjá sig ekki undir eigin nafni eða gerast ítrekað brotlegir við ofangreindar umgengnisreglur. Mest lesið Ók blindfullur við Grímsvötn og hótaði að drepa alla Innlent Langt í að þeir nái sér að fullu Innlent Vopnuð rán tíðari en fólk gerir sér grein fyrir Innlent Óttast að saga slökkviliða á Íslandi glatist Innlent Tveir látnir eftir að bíll hafnaði í sjónum við Stokkhólm Erlent Á ofsahraða undir áhrifum fíkniefna Innlent Karlremba sé komin í tísku Innlent Fengu aðstoð sérsveitar og Gæslunnar við handtöku við Grímsvötn Innlent Arnar Þór vantaði sex meðmæli upp á Innlent Efnahagsstefnan sé að ýta fólki í verðtryggð lán Innlent Fleiri fréttir Tveir látnir eftir að bíll hafnaði í sjónum við Stokkhólm Fjölmenn mótmæli vegna ofbeldisbylgju í Ástralíu Vasaúr ríkasta manns Titanic seldist á 210 milljónir Þúsundir hvöttu Sánchez til að segja ekki af sér Skoða að færa Mónu Lísu í eigið herbergi Harvey Weinstein lagður inn á spítala Þingmaður hleypti af skoti fyrir utan skemmtistað Rýma dómshús vegna sprengjuhótunar Dómstóll fyrirskipar handtöku landbúnaðarráðherra Selenskís Ákvörðun áfrýjunardómstólsins áfall og stórt skref aftur á bak Trump líklegur til að græða á úrskurði Hæstaréttar Dómi Harvey Weinstein snúið við Tekur fyrir að hafa verið „hermaður Hitlers“ Maður á sextugsaldri sagður hafa stungið grunnskóladreng Sánchez íhugar að segja af sér vegna meintrar spillingar Spaðar Rauðu myllunnar hrundu til jarðar í nótt Skipulögðu árásir í Þýskalandi og víðar í nafni ISKP Fyrstu hergögnin eiga að berast til Úkraínu á næstu klukkustundum Segir ekki af sér þrátt fyrir njósnir aðstoðarmannsins Aðstoðarvarnarmálaráðherra ákærður fyrir mútuþægni Upptök eldsins í gömlu kauphöllinni enn ókunn Settur út af sakramentinu fyrir að stýra minningarstund um Navalní Handtóku barnunga öfgamenn eftir stunguárás í Sydney Ekki ólöglegt fyrir konur að brjóta gegn körlum Grunuð um að hafa banað tveimur börnum Vitni greinir frá ráðabruggi og lögmaður Trump fær viðvörun Öldungadeildin samþykkti 95 milljarða dala aðstoð við Úkraínu, Ísrael og Taívan Reyna að sigla um geiminn á geislum sólarinnar Lýsa yfir áhyggjum af fregnum af fjöldagröfum á Gasa Fá aftur gögn frá tæplega hálfrar aldar gömlu geimfari Sjá meira
Stjórnvöld á Bretlandseyjum hafa boðað til ráðstefnu um áskoranir vegna hraðrar framþróunar gervigreindar þar sem Hassabis verður meðal frummælenda. Hann er frumkvöðull á þessu sviði, stofnaði DeepMind árið 2010 og seldi fyrirtækið til Google árið 2014. Frá þeim tíma hefur hann farið fyrir þróun gervigreindar hjá tæknirisanum. Hassabis segist ekki vera meðal þeirra sem óttast eða eru afar neikvæðir í garð gervigreindar en hann segir ríki heims hins vegar þurfa að hefjast tafarlaust við að draga úr og koma í veg fyrir hættur af völdum tækninnar, sem menn gætu meðal annars misnotað til að þróa lífefnavopn. „Við verðum að taka hættuna af völdum gervigreindar jafn alvarlega og aðrar alþjóðlegar áskoranir, eins og loftslagsbreytingar,“ segir Hassabi. „Það tók alþjóðasamfélagið of langan tíma til að koma með samræmar aðgerðir hvað þær varðar og við búum nú við afleiðingar þess. Við megum ekki við sömu töfum hvað varðar gervigreindina,“ segir hann. Milliríkjanefnd eða alþjóðastofnun Það var teymi Hassabi sem þróaði AlphaFold, forritið sem hefur spáð fyrir um byggingu allra prótína líkamans. Hann segir gervigreind gætu orðið ein mikilvægastu tækniframþróun sögunnar en að stefnumótunar sé þörf og þar megi horfa til alþjóðlegra stofnana á borð við Milliríkjanefnd Sameinuðu þjóðanna um loftslagsmál (IPCC). Stofnun á borð við Alþjóðakjarnorkumálastofnunina myndi svo taka við, sem hefði eftirlit með framþróun tækninnar. Excited to share #AlphaMissense our new AI system that can classify whether genetic mutations (missense variants) are benign or harmful - a critical step toward uncovering causes of many diseases, from cystic fibrosis to cancer. In @ScienceMagazine today https://t.co/pIsskIe1cP— Demis Hassabis (@demishassabis) September 19, 2023 Hassabis segir gervigreindina geta stuðlað að ótrúlegum framförum, til dæmis á vettvangi heilbrigðisvísinda, og segist ekki myndu starfa á þessu sviði ef hann teldi það ekki geta orðið til góðs. Hins vegar var hann einnig meðal framámanna sem undirrituðu opið bréf í maí um mögulegar ógnir gervigreindar. Menn hafa viðrað áhyggjur af því að mannkyninu gæti bókstaflega stafað tilvistarleg ógn af tækninni, að forrit gæti hreinlega orðið gáfaðra en manneskjan og losnað undan stjórn hans. „Gæti hún stolið eigin kóða, bætt eigin kóða? Gæti hún afritað sig án leyfis? Það væri óæskileg hegðun því ef þú vilt slökkva á henni viltu ekki að hún geymi afrit af sér annars staðar,“ segir Hassabis. „Það er alls konar svona hegðun sem væri óæskileg hjá öflugu kerfi.“ Prófanir eru ein þeirra lausna sem Hassabis leggur til og svo mögulega lagasetning. En rannsókna sé þörf.
Gervigreind Tækni Google Athugið. Vísir hvetur lesendur til að skiptast á skoðunum. Allar athugasemdir eru á ábyrgð þeirra er þær rita. Lesendur skulu halda sig við málefnalega og hófstillta umræðu og áskilur Vísir sér rétt til að fjarlægja ummæli og/eða umræðu sem fer út fyrir þau mörk. Vísir mun loka á aðgang þeirra sem tjá sig ekki undir eigin nafni eða gerast ítrekað brotlegir við ofangreindar umgengnisreglur. Mest lesið Ók blindfullur við Grímsvötn og hótaði að drepa alla Innlent Langt í að þeir nái sér að fullu Innlent Vopnuð rán tíðari en fólk gerir sér grein fyrir Innlent Óttast að saga slökkviliða á Íslandi glatist Innlent Tveir látnir eftir að bíll hafnaði í sjónum við Stokkhólm Erlent Á ofsahraða undir áhrifum fíkniefna Innlent Karlremba sé komin í tísku Innlent Fengu aðstoð sérsveitar og Gæslunnar við handtöku við Grímsvötn Innlent Arnar Þór vantaði sex meðmæli upp á Innlent Efnahagsstefnan sé að ýta fólki í verðtryggð lán Innlent Fleiri fréttir Tveir látnir eftir að bíll hafnaði í sjónum við Stokkhólm Fjölmenn mótmæli vegna ofbeldisbylgju í Ástralíu Vasaúr ríkasta manns Titanic seldist á 210 milljónir Þúsundir hvöttu Sánchez til að segja ekki af sér Skoða að færa Mónu Lísu í eigið herbergi Harvey Weinstein lagður inn á spítala Þingmaður hleypti af skoti fyrir utan skemmtistað Rýma dómshús vegna sprengjuhótunar Dómstóll fyrirskipar handtöku landbúnaðarráðherra Selenskís Ákvörðun áfrýjunardómstólsins áfall og stórt skref aftur á bak Trump líklegur til að græða á úrskurði Hæstaréttar Dómi Harvey Weinstein snúið við Tekur fyrir að hafa verið „hermaður Hitlers“ Maður á sextugsaldri sagður hafa stungið grunnskóladreng Sánchez íhugar að segja af sér vegna meintrar spillingar Spaðar Rauðu myllunnar hrundu til jarðar í nótt Skipulögðu árásir í Þýskalandi og víðar í nafni ISKP Fyrstu hergögnin eiga að berast til Úkraínu á næstu klukkustundum Segir ekki af sér þrátt fyrir njósnir aðstoðarmannsins Aðstoðarvarnarmálaráðherra ákærður fyrir mútuþægni Upptök eldsins í gömlu kauphöllinni enn ókunn Settur út af sakramentinu fyrir að stýra minningarstund um Navalní Handtóku barnunga öfgamenn eftir stunguárás í Sydney Ekki ólöglegt fyrir konur að brjóta gegn körlum Grunuð um að hafa banað tveimur börnum Vitni greinir frá ráðabruggi og lögmaður Trump fær viðvörun Öldungadeildin samþykkti 95 milljarða dala aðstoð við Úkraínu, Ísrael og Taívan Reyna að sigla um geiminn á geislum sólarinnar Lýsa yfir áhyggjum af fregnum af fjöldagröfum á Gasa Fá aftur gögn frá tæplega hálfrar aldar gömlu geimfari Sjá meira