Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Opið bréf til fullorðna fólksins Úlfhildur Elísa Hróbjartsdóttir Skoðun Vill Sjálfstæðisflokkurinn láta taka sig alvarlega? Dagbjört Hákonardóttir Skoðun Þjórsá í hættu – Hvammsvirkjun og rof á náttúrulegu ástandi árinnar Gunnar Þór Jónsson Skoðun Hví borgar útgerðin – ekki malarnáman? Guðmundur Edgarsson Skoðun Hverjir eiga Ísland? Jón Baldvin Hannibalsson Skoðun Í nafni „sanngirni“ brenndi ríkisstjórn 230 milljörðum – lífeyrir landsmanna fór á bálið Elliði Vignisson Skoðun Ég hef ofurtrú á manneskjunni í forvörnum og öryggi á bæjarhátíðunum Arnrún María Magnúsdóttir Skoðun Ertu nú alveg viss um að hafa læst hurðinni? Sanna Magdalena Mörtudóttir Skoðun Tóbakslausar nikótínvörur - Tímabært að horfast í augu við staðreyndir Bjarni Freyr Guðmundsson Skoðun Vantraust Flokks fólksins á Viðreisn Hjörtur J. Guðmundsson Skoðun Skoðun Skoðun Opið bréf til fullorðna fólksins Úlfhildur Elísa Hróbjartsdóttir skrifar Skoðun Vill Sjálfstæðisflokkurinn láta taka sig alvarlega? Dagbjört Hákonardóttir skrifar Skoðun Þjórsá í hættu – Hvammsvirkjun og rof á náttúrulegu ástandi árinnar Gunnar Þór Jónsson skrifar Skoðun Undirbúum börnin fyrir skólann með hjálp gervigreindar Sigvaldi Einarsson skrifar Skoðun Enginn skilinn eftir á götunni Dagmar Valsdóttir skrifar Skoðun Ég hef ofurtrú á manneskjunni í forvörnum og öryggi á bæjarhátíðunum Arnrún María Magnúsdóttir skrifar Skoðun Stúdentar eiga ekki að borga fyrir vanfjármögnun háskólanna Ármann Leifsson,María Björk Stefánsdóttir skrifar Skoðun Hví borgar útgerðin – ekki malarnáman? Guðmundur Edgarsson skrifar Skoðun Vantraust Flokks fólksins á Viðreisn Hjörtur J. Guðmundsson skrifar Skoðun 48 daga blekking: Loforð sem leiðir til lögbrota? Svanur Guðmundsson skrifar Skoðun Frá vinnuþræli til ríkisborgara: Ég er innflytjandi sem þið getið ekki losnað við Ian McDonald skrifar Skoðun Málþóf á kostnað ungs fólks Lísa Margrét Gunnarsdóttir skrifar Skoðun Tóbakslausar nikótínvörur - Tímabært að horfast í augu við staðreyndir Bjarni Freyr Guðmundsson skrifar Skoðun Ómeðvituð vörn í orðræðu – þegar vald ver sjálft sig Þórdís Hólm Filipsdóttir skrifar Skoðun Við krefjumst sanngirni og aðgerð strax Dagmar Valsdóttir skrifar Skoðun Verið öll hjartanlega velkomin á Unglingalandsmót á Egilsstöðum Jónína Brynjólfsdóttir skrifar Skoðun Úrsúla og öryggismálin - Stöndum gegn vígvæðingu Guttormur Þorsteinsson skrifar Skoðun Verðmætatap auðlindagjaldanna – Hverra og hvernig? Haukur V. Alfreðsson skrifar Skoðun Ertu nú alveg viss um að hafa læst hurðinni? Sanna Magdalena Mörtudóttir skrifar Skoðun Sanngirni að brenna 230 milljarða króna? Björn Leví Gunnarsson skrifar Skoðun Strandveiðar eru ekki sóun Örn Pálsson skrifar Skoðun „Ísland mun taka þátt í þvingunaraðgerðum gegn Ísrael náist samstaða fleiri ríkja“ Einar Ólafsson skrifar Skoðun SFS skuldar Sigurjón Þórðarson skrifar Skoðun Hvar er hjálpin sem okkur var lofað? Dagmar Valsdóttir skrifar Skoðun Áform um fleiri strandveiðidaga: Áhættusöm ákvörðun Svanur Guðmundsson skrifar Skoðun Í nafni „sanngirni“ brenndi ríkisstjórn 230 milljörðum – lífeyrir landsmanna fór á bálið Elliði Vignisson skrifar Skoðun Flugnám - Fjórði hluti: Hlutverk Reykjavíkurflugvallar í flugnámi Matthías Arngrímsson skrifar Skoðun Slítum stjórnmálasambandi við Ísrael! Ólafur Ingólfsson skrifar Skoðun Aukið við sóun með einhverjum ráðum Heiðrún Lind Marteinsdóttir skrifar Skoðun Kæru valkyrjur, hatrið sigraði líklega í þetta skiptið Arnar Laxdal skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Í nafni „sanngirni“ brenndi ríkisstjórn 230 milljörðum – lífeyrir landsmanna fór á bálið Elliði Vignisson Skoðun
Ég hef ofurtrú á manneskjunni í forvörnum og öryggi á bæjarhátíðunum Arnrún María Magnúsdóttir Skoðun
Tóbakslausar nikótínvörur - Tímabært að horfast í augu við staðreyndir Bjarni Freyr Guðmundsson Skoðun
Skoðun Þjórsá í hættu – Hvammsvirkjun og rof á náttúrulegu ástandi árinnar Gunnar Þór Jónsson skrifar
Skoðun Ég hef ofurtrú á manneskjunni í forvörnum og öryggi á bæjarhátíðunum Arnrún María Magnúsdóttir skrifar
Skoðun Stúdentar eiga ekki að borga fyrir vanfjármögnun háskólanna Ármann Leifsson,María Björk Stefánsdóttir skrifar
Skoðun Frá vinnuþræli til ríkisborgara: Ég er innflytjandi sem þið getið ekki losnað við Ian McDonald skrifar
Skoðun Tóbakslausar nikótínvörur - Tímabært að horfast í augu við staðreyndir Bjarni Freyr Guðmundsson skrifar
Skoðun Verið öll hjartanlega velkomin á Unglingalandsmót á Egilsstöðum Jónína Brynjólfsdóttir skrifar
Skoðun „Ísland mun taka þátt í þvingunaraðgerðum gegn Ísrael náist samstaða fleiri ríkja“ Einar Ólafsson skrifar
Skoðun Í nafni „sanngirni“ brenndi ríkisstjórn 230 milljörðum – lífeyrir landsmanna fór á bálið Elliði Vignisson skrifar
Skoðun Flugnám - Fjórði hluti: Hlutverk Reykjavíkurflugvallar í flugnámi Matthías Arngrímsson skrifar
Í nafni „sanngirni“ brenndi ríkisstjórn 230 milljörðum – lífeyrir landsmanna fór á bálið Elliði Vignisson Skoðun
Ég hef ofurtrú á manneskjunni í forvörnum og öryggi á bæjarhátíðunum Arnrún María Magnúsdóttir Skoðun
Tóbakslausar nikótínvörur - Tímabært að horfast í augu við staðreyndir Bjarni Freyr Guðmundsson Skoðun