Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Ursula Von der Leyen styður stríðsglæpamenn - Ísland á ekki að þegja Helen Ólafsdóttir Skoðun Aftur á byrjunarreit Hörður Arnarson Skoðun Norðurlandamet í fúski! Kristinn Karl Brynjarsson Skoðun Flugnám -Þriðji hluti: Samtvinnað (Integrated) eða áfangaskipt (Modular) ATPL flugnám Matthías Arngrímsson Skoðun „Að skrifa söguna“ Var of mikið undir hjá kvennalandsliðinu? Viðar Halldórsson Skoðun Fröken þjóðarmorð: Þér er ekki boðið! Linda Ósk Árnadóttir,Yousef Ingi Tamimi Skoðun Netöryggi til framtíðar Unnur Kristín Sveinbjarnardóttir Skoðun Ursula von der Leyen styður þjóðarmorð! Hjálmtýr Heiðdal Skoðun Gervigreind í skólum: Tækifæri til byltingar eða hætta á nýjum ójöfnuði? Sigvaldi Einarsson Skoðun Tvöföld bið eftir geislameðferð er of löng Katrín Sigurðardóttir Skoðun Skoðun Skoðun Þversögn Íslands í Palestínumálinu: Um fullveldi, samsekt og réttarríkið Gína Júlía Waltersdóttir skrifar Skoðun Tvöföld bið eftir geislameðferð er of löng Katrín Sigurðardóttir skrifar Skoðun Fröken þjóðarmorð: Þér er ekki boðið! Linda Ósk Árnadóttir,Yousef Ingi Tamimi skrifar Skoðun Linsa Lífsins Matthildur Björnsdóttir skrifar Skoðun „Að skrifa söguna“ Var of mikið undir hjá kvennalandsliðinu? Viðar Halldórsson skrifar Skoðun Gervigreind í skólum: Tækifæri til byltingar eða hætta á nýjum ójöfnuði? Sigvaldi Einarsson skrifar Skoðun Netöryggi til framtíðar Unnur Kristín Sveinbjarnardóttir skrifar Skoðun Aftur á byrjunarreit Hörður Arnarson skrifar Skoðun Norðurlandamet í fúski! Kristinn Karl Brynjarsson skrifar Skoðun Flugnám -Þriðji hluti: Samtvinnað (Integrated) eða áfangaskipt (Modular) ATPL flugnám Matthías Arngrímsson skrifar Skoðun Ursula Von der Leyen styður stríðsglæpamenn - Ísland á ekki að þegja Helen Ólafsdóttir skrifar Skoðun Ursula von der Leyen styður þjóðarmorð! Hjálmtýr Heiðdal skrifar Skoðun Hvert er markmið fulltrúalýðræðis? Hlynur Orri Stefánsson,Vilhjálmur Árnason skrifar Skoðun Ég vona að þú gleymir mér ekki Hlynur Már Vilhjálmsson skrifar Skoðun Hvaða einkunn fékkst þú á bílprófinu? Grétar Birgisson skrifar Skoðun Að koma út í lífið með verri forgjöf, hvernig tilfinning er það? Davíð Bergmann skrifar Skoðun Tjaldið fellt í leikhúsi fáránleikans Vésteinn Ólason skrifar Skoðun Heilbrigðisreglugerð WHO: Hagsmunir eða heimska? Júlíus Valsson skrifar Skoðun Málþófs klúður Sægreifa-flokkanna Jón Þór Ólafsson skrifar Skoðun Græna vöruhúsið setur svartan blett á íslenskt samfélag Davíð Aron Routley skrifar Skoðun Dæmt um efni, Hörður Árni Finnsson,Elvar Örn Friðriksson,Snæbjörn Guðmundsson skrifar Skoðun Flugnám - Annar hluti: Afskiptaleysi stjórnvalda Matthías Arngrímsson skrifar Skoðun Sóvésk sápuópera Franklín Ernir Kristjánsson skrifar Skoðun Á hvaða vegferð er ríkisstjórn Kristrúnar Frostadóttur gagnvart sjávarútvegssveitarfélögunum? Anton Guðmundsson skrifar Skoðun Dæmir sig sjálft Jón Pétur Zimsen skrifar Skoðun Mega blaðamenn ljúga? Páll Steingrímsson skrifar Skoðun Ákall um nægjusemi í heimi neyslubrjálæðis Hólmfríður Jennýjar Árnadóttir skrifar Skoðun Hvað hefur áunnist á 140 dögum? Heiða Björg Hilmisdóttir,Dóra Björt Guðjónsdóttir,Sanna Magdalena Mörtudóttir,Helga Þórðardóttir,Líf Magneudóttir skrifar Skoðun Samstarf er lykill að framtíðinni Magnús Þór Jónsson skrifar Skoðun Kjarnorkuákvæði? Dagur B. Eggertsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Flugnám -Þriðji hluti: Samtvinnað (Integrated) eða áfangaskipt (Modular) ATPL flugnám Matthías Arngrímsson Skoðun
Gervigreind í skólum: Tækifæri til byltingar eða hætta á nýjum ójöfnuði? Sigvaldi Einarsson Skoðun
Skoðun Þversögn Íslands í Palestínumálinu: Um fullveldi, samsekt og réttarríkið Gína Júlía Waltersdóttir skrifar
Skoðun Gervigreind í skólum: Tækifæri til byltingar eða hætta á nýjum ójöfnuði? Sigvaldi Einarsson skrifar
Skoðun Flugnám -Þriðji hluti: Samtvinnað (Integrated) eða áfangaskipt (Modular) ATPL flugnám Matthías Arngrímsson skrifar
Skoðun Ursula Von der Leyen styður stríðsglæpamenn - Ísland á ekki að þegja Helen Ólafsdóttir skrifar
Skoðun Á hvaða vegferð er ríkisstjórn Kristrúnar Frostadóttur gagnvart sjávarútvegssveitarfélögunum? Anton Guðmundsson skrifar
Skoðun Hvað hefur áunnist á 140 dögum? Heiða Björg Hilmisdóttir,Dóra Björt Guðjónsdóttir,Sanna Magdalena Mörtudóttir,Helga Þórðardóttir,Líf Magneudóttir skrifar
Flugnám -Þriðji hluti: Samtvinnað (Integrated) eða áfangaskipt (Modular) ATPL flugnám Matthías Arngrímsson Skoðun
Gervigreind í skólum: Tækifæri til byltingar eða hætta á nýjum ójöfnuði? Sigvaldi Einarsson Skoðun