Ofurgreind ekki enn á sjóndeildarhringnum en þörf á eftirliti Hólmfríður Gísladóttir skrifar 24. október 2023 13:00 Hassabis segir aðkallandi að horfa til alþjóðlegrar stefnumörkunar og eftirlits með þróun gervigreindar. epa/Wu Hong Demis Hassabis, framkvæmdastjóri Google DeepMind, segir „guðlega“ gervigreind ekki á sjóndeildarhringnum enn sem komið er en að vinna við stefnumörkun og eftirlit með þróun gervigreindar verði að hefjast „í gær“. Stjórnvöld á Bretlandseyjum hafa boðað til ráðstefnu um áskoranir vegna hraðrar framþróunar gervigreindar þar sem Hassabis verður meðal frummælenda. Hann er frumkvöðull á þessu sviði, stofnaði DeepMind árið 2010 og seldi fyrirtækið til Google árið 2014. Frá þeim tíma hefur hann farið fyrir þróun gervigreindar hjá tæknirisanum. Hassabis segist ekki vera meðal þeirra sem óttast eða eru afar neikvæðir í garð gervigreindar en hann segir ríki heims hins vegar þurfa að hefjast tafarlaust við að draga úr og koma í veg fyrir hættur af völdum tækninnar, sem menn gætu meðal annars misnotað til að þróa lífefnavopn. „Við verðum að taka hættuna af völdum gervigreindar jafn alvarlega og aðrar alþjóðlegar áskoranir, eins og loftslagsbreytingar,“ segir Hassabi. „Það tók alþjóðasamfélagið of langan tíma til að koma með samræmar aðgerðir hvað þær varðar og við búum nú við afleiðingar þess. Við megum ekki við sömu töfum hvað varðar gervigreindina,“ segir hann. Milliríkjanefnd eða alþjóðastofnun Það var teymi Hassabi sem þróaði AlphaFold, forritið sem hefur spáð fyrir um byggingu allra prótína líkamans. Hann segir gervigreind gætu orðið ein mikilvægastu tækniframþróun sögunnar en að stefnumótunar sé þörf og þar megi horfa til alþjóðlegra stofnana á borð við Milliríkjanefnd Sameinuðu þjóðanna um loftslagsmál (IPCC). Stofnun á borð við Alþjóðakjarnorkumálastofnunina myndi svo taka við, sem hefði eftirlit með framþróun tækninnar. Excited to share #AlphaMissense our new AI system that can classify whether genetic mutations (missense variants) are benign or harmful - a critical step toward uncovering causes of many diseases, from cystic fibrosis to cancer. In @ScienceMagazine today https://t.co/pIsskIe1cP— Demis Hassabis (@demishassabis) September 19, 2023 Hassabis segir gervigreindina geta stuðlað að ótrúlegum framförum, til dæmis á vettvangi heilbrigðisvísinda, og segist ekki myndu starfa á þessu sviði ef hann teldi það ekki geta orðið til góðs. Hins vegar var hann einnig meðal framámanna sem undirrituðu opið bréf í maí um mögulegar ógnir gervigreindar. Menn hafa viðrað áhyggjur af því að mannkyninu gæti bókstaflega stafað tilvistarleg ógn af tækninni, að forrit gæti hreinlega orðið gáfaðra en manneskjan og losnað undan stjórn hans. „Gæti hún stolið eigin kóða, bætt eigin kóða? Gæti hún afritað sig án leyfis? Það væri óæskileg hegðun því ef þú vilt slökkva á henni viltu ekki að hún geymi afrit af sér annars staðar,“ segir Hassabis. „Það er alls konar svona hegðun sem væri óæskileg hjá öflugu kerfi.“ Prófanir eru ein þeirra lausna sem Hassabis leggur til og svo mögulega lagasetning. En rannsókna sé þörf. Gervigreind Tækni Google Mest lesið Telur sig hafa orðið vitni að aðdraganda drápsins Innlent Fangaverðir á sjúkrahús eftir hópárás fanga Innlent Óvænt ávarp forsætisráðherra: „Við munum verja lýðveldið Ísland“ Innlent Trump hrósaði forsetanum fyrir færni í eigin móðurmáli Erlent „Þjóðin þarf að fá að vita hvernig þau hafa hagað sér á bak við tjöldin“ Innlent Sauð upp úr þegar Bryndís sagði Hildi fylgja vinnureglum Innlent Kemur kjarnorkuvetur á eftir kjarnorkuákvæðinu? Innlent „Það er orrustan um Ísland“ Innlent „Alvarleg yfirlýsing frá formanni flokks“ Innlent Þykir leitt að hafa valdið uppnámi Innlent Fleiri fréttir Fannst lifandi inni í kistu tveimur dögum eftir að leit hófst Stúlkur látnar afklæðast til að athuga með blæðingar Kvarta yfir því að reykur frá Kanada sé að skemma sumarið Bandaríkjamenn refsa sendifulltrúa SÞ í málefnum Palestínumanna Tveir létust í loftárásum Rússa á Kænugarð í nótt Trump hrósaði forsetanum fyrir færni í eigin móðurmáli Bindur vonir við „einn inn, einn út“ áætlun í innflytjendamálum Vill hefna vinar síns Bolsonaro með 50 prósenta tollum á Brasilíu Þrír látnir og sextán saknað eftir árás á fraktskip Sigldi á ísjaka á fleygiferð og komst naumlega af Ljóstruðu upp um heimilisfang sænska forsætisráðherrans á Strava Þurfa ekki lengur að fara úr skónum í öryggiseftirlitinu Rússar gera umfangsmikla drónaárás á yfir 700 skotmörk Eyddu færslum spjallmennisins sem lofuðu Adolf Hitler 109 látnir og yfir 160 saknað Er Trump að gefast upp á Pútín? Aðeins eitt mál enn óleyst í vopnahlésviðræðum Öllu flugi til og frá næststærstu borg Frakklands aflýst Náðu myndum af gesti frá annarri stjörnu Harma dauða ráðherrans en tjá sig ekki um hann Sakfelldir fyrir að kveikja í iðnaðarhúsnæði fyrir Wagner-málaliða Hafnar gagnrýni á samskipti við lyfjarisa í faraldrinum Bresk stjórnvöld hyggja á aðgerðir gegn trúnaðarsamningum Ekki fleiri greinst með mislinga í Bandaríkjunum í 33 ár Vill safna íbúum Gasa í lokaðar búðir og flytja síðan á brott Bandamenn fá hótunarbréf um 25 til 40 prósent toll „Þeir verða að geta varið sig“: Hættir við að hætta vopnasendingum Yfir hundrað látnir í Texas Ellefu dagar milli nýrra jarðganga í Færeyjum Samgönguráðherrann lést daginn sem Pútín rak hann Sjá meira
Stjórnvöld á Bretlandseyjum hafa boðað til ráðstefnu um áskoranir vegna hraðrar framþróunar gervigreindar þar sem Hassabis verður meðal frummælenda. Hann er frumkvöðull á þessu sviði, stofnaði DeepMind árið 2010 og seldi fyrirtækið til Google árið 2014. Frá þeim tíma hefur hann farið fyrir þróun gervigreindar hjá tæknirisanum. Hassabis segist ekki vera meðal þeirra sem óttast eða eru afar neikvæðir í garð gervigreindar en hann segir ríki heims hins vegar þurfa að hefjast tafarlaust við að draga úr og koma í veg fyrir hættur af völdum tækninnar, sem menn gætu meðal annars misnotað til að þróa lífefnavopn. „Við verðum að taka hættuna af völdum gervigreindar jafn alvarlega og aðrar alþjóðlegar áskoranir, eins og loftslagsbreytingar,“ segir Hassabi. „Það tók alþjóðasamfélagið of langan tíma til að koma með samræmar aðgerðir hvað þær varðar og við búum nú við afleiðingar þess. Við megum ekki við sömu töfum hvað varðar gervigreindina,“ segir hann. Milliríkjanefnd eða alþjóðastofnun Það var teymi Hassabi sem þróaði AlphaFold, forritið sem hefur spáð fyrir um byggingu allra prótína líkamans. Hann segir gervigreind gætu orðið ein mikilvægastu tækniframþróun sögunnar en að stefnumótunar sé þörf og þar megi horfa til alþjóðlegra stofnana á borð við Milliríkjanefnd Sameinuðu þjóðanna um loftslagsmál (IPCC). Stofnun á borð við Alþjóðakjarnorkumálastofnunina myndi svo taka við, sem hefði eftirlit með framþróun tækninnar. Excited to share #AlphaMissense our new AI system that can classify whether genetic mutations (missense variants) are benign or harmful - a critical step toward uncovering causes of many diseases, from cystic fibrosis to cancer. In @ScienceMagazine today https://t.co/pIsskIe1cP— Demis Hassabis (@demishassabis) September 19, 2023 Hassabis segir gervigreindina geta stuðlað að ótrúlegum framförum, til dæmis á vettvangi heilbrigðisvísinda, og segist ekki myndu starfa á þessu sviði ef hann teldi það ekki geta orðið til góðs. Hins vegar var hann einnig meðal framámanna sem undirrituðu opið bréf í maí um mögulegar ógnir gervigreindar. Menn hafa viðrað áhyggjur af því að mannkyninu gæti bókstaflega stafað tilvistarleg ógn af tækninni, að forrit gæti hreinlega orðið gáfaðra en manneskjan og losnað undan stjórn hans. „Gæti hún stolið eigin kóða, bætt eigin kóða? Gæti hún afritað sig án leyfis? Það væri óæskileg hegðun því ef þú vilt slökkva á henni viltu ekki að hún geymi afrit af sér annars staðar,“ segir Hassabis. „Það er alls konar svona hegðun sem væri óæskileg hjá öflugu kerfi.“ Prófanir eru ein þeirra lausna sem Hassabis leggur til og svo mögulega lagasetning. En rannsókna sé þörf.
Gervigreind Tækni Google Mest lesið Telur sig hafa orðið vitni að aðdraganda drápsins Innlent Fangaverðir á sjúkrahús eftir hópárás fanga Innlent Óvænt ávarp forsætisráðherra: „Við munum verja lýðveldið Ísland“ Innlent Trump hrósaði forsetanum fyrir færni í eigin móðurmáli Erlent „Þjóðin þarf að fá að vita hvernig þau hafa hagað sér á bak við tjöldin“ Innlent Sauð upp úr þegar Bryndís sagði Hildi fylgja vinnureglum Innlent Kemur kjarnorkuvetur á eftir kjarnorkuákvæðinu? Innlent „Það er orrustan um Ísland“ Innlent „Alvarleg yfirlýsing frá formanni flokks“ Innlent Þykir leitt að hafa valdið uppnámi Innlent Fleiri fréttir Fannst lifandi inni í kistu tveimur dögum eftir að leit hófst Stúlkur látnar afklæðast til að athuga með blæðingar Kvarta yfir því að reykur frá Kanada sé að skemma sumarið Bandaríkjamenn refsa sendifulltrúa SÞ í málefnum Palestínumanna Tveir létust í loftárásum Rússa á Kænugarð í nótt Trump hrósaði forsetanum fyrir færni í eigin móðurmáli Bindur vonir við „einn inn, einn út“ áætlun í innflytjendamálum Vill hefna vinar síns Bolsonaro með 50 prósenta tollum á Brasilíu Þrír látnir og sextán saknað eftir árás á fraktskip Sigldi á ísjaka á fleygiferð og komst naumlega af Ljóstruðu upp um heimilisfang sænska forsætisráðherrans á Strava Þurfa ekki lengur að fara úr skónum í öryggiseftirlitinu Rússar gera umfangsmikla drónaárás á yfir 700 skotmörk Eyddu færslum spjallmennisins sem lofuðu Adolf Hitler 109 látnir og yfir 160 saknað Er Trump að gefast upp á Pútín? Aðeins eitt mál enn óleyst í vopnahlésviðræðum Öllu flugi til og frá næststærstu borg Frakklands aflýst Náðu myndum af gesti frá annarri stjörnu Harma dauða ráðherrans en tjá sig ekki um hann Sakfelldir fyrir að kveikja í iðnaðarhúsnæði fyrir Wagner-málaliða Hafnar gagnrýni á samskipti við lyfjarisa í faraldrinum Bresk stjórnvöld hyggja á aðgerðir gegn trúnaðarsamningum Ekki fleiri greinst með mislinga í Bandaríkjunum í 33 ár Vill safna íbúum Gasa í lokaðar búðir og flytja síðan á brott Bandamenn fá hótunarbréf um 25 til 40 prósent toll „Þeir verða að geta varið sig“: Hættir við að hætta vopnasendingum Yfir hundrað látnir í Texas Ellefu dagar milli nýrra jarðganga í Færeyjum Samgönguráðherrann lést daginn sem Pútín rak hann Sjá meira