Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Má endalaust vera níðingur!! Arna Magnea Danks Skoðun „Fór í útkall“ Þorgerður Katrín Gunnarsdóttir Skoðun Takk Vigdís! Takk Guðni! Takk Halla! — Takk þjóð! Hjörtur Hjartarson Skoðun Krefjandi tímar í veitingageiranum Einar Bárðarson Skoðun Opið bréf til Jóhanns Páls Jóhannssonar umhverfis-, orku- og loftlagsráðherra Kolbrún Georgsdóttir Skoðun Um pólitík óttans, öryggisvæðingu fólksflótta og hina ICElensku varðhaldsstöð Sema Erla Serdaroglu Skoðun Tillaga um hærri vörugjöld á mótorhjól er skref aftur á bak Unnar Már Magnússon Skoðun Silfurfat Samfylkingarinnar Helgi Áss Grétarsson Skoðun Dagur náms- og starfsráðgjafar 2025: Faglegur stuðningur sem skiptir máli – fyrir einstaklinga og samfélagið Jónína Kárdal,Svandís Sturludóttir Skoðun ,,Mig langar svo bara að geta kennt þessum 25 börnum“ Sigrún Ólöf Ingólfsdóttir Skoðun Skoðun Skoðun Gegn áætluðu kílómetragjaldi stjórnvalda á bifhjól Matthías Arngrímsson skrifar Skoðun Tillaga um hærri vörugjöld á mótorhjól er skref aftur á bak Unnar Már Magnússon skrifar Skoðun Hvernig hugsar þú um hreint vatn? Lovísa Árnadóttir skrifar Skoðun Takk Vigdís! Takk Guðni! Takk Halla! — Takk þjóð! Hjörtur Hjartarson skrifar Skoðun Blóðmerar - skeytingarleysi hinna þriggja valda Árni Stefán Árnason skrifar Skoðun Krefjandi tímar í veitingageiranum Einar Bárðarson skrifar Skoðun Má endalaust vera níðingur!! Arna Magnea Danks skrifar Skoðun Um pólitík óttans, öryggisvæðingu fólksflótta og hina ICElensku varðhaldsstöð Sema Erla Serdaroglu skrifar Skoðun Silfurfat Samfylkingarinnar Helgi Áss Grétarsson skrifar Skoðun Opið bréf til Jóhanns Páls Jóhannssonar umhverfis-, orku- og loftlagsráðherra Kolbrún Georgsdóttir skrifar Skoðun Fjármálabylting: Gervigreind og táknvæðing fyrir almenning Björgmundur Örn Guðmundsson skrifar Skoðun Véfréttir og villuljós Þorsteinn Siglaugsson skrifar Skoðun „Fór í útkall“ Þorgerður Katrín Gunnarsdóttir skrifar Skoðun Dagur náms- og starfsráðgjafar 2025: Faglegur stuðningur sem skiptir máli – fyrir einstaklinga og samfélagið Jónína Kárdal,Svandís Sturludóttir skrifar Skoðun Fjölþátta ógnarstjórn Högni Elfar Gylfason skrifar Skoðun Verjum mikilvæga starfsemi Ljóssins Guðbjörg Jónsdóttir,Helga Tryggvadóttir,Sigurdís Haraldsdóttir skrifar Skoðun ,,Mig langar svo bara að geta kennt þessum 25 börnum“ Sigrún Ólöf Ingólfsdóttir skrifar Skoðun Mér kvíðir slæm íslenska ungmenna Elín Karlsdóttir skrifar Skoðun Íþróttahreyfingin stefnir í gjaldþrot!! Helgi Sigurður Haraldsson skrifar Skoðun Læknaeiðurinn og dánaraðstoð: Hvað þýðir „að valda ekki skaða“? Ingrid Kuhlman skrifar Skoðun Takk Sigurður Ingi Helgi Héðinsson skrifar Skoðun Krónan býr sig ekki til sjálf Hjörtur J. Guðmundsson skrifar Skoðun Stöndum saman fyrir íslenskan flugrekstur Bogi Nils Bogason skrifar Skoðun ,,Gallaður" hundur - söluhluturinn hundur - um úrskurð Kærunefndar vöru- og þjónustukaupa Árni Stefán Árnason skrifar Skoðun Fyrst heimsfaraldur, svo náttúruhamfarir, þá gjaldþrot og nú verkföll! Sigríður Margrét Oddsdóttir skrifar Skoðun Baráttan heldur áfram! Hjálmtýr Heiðdal skrifar Skoðun Hvers virði er líf barns? Jón Pétur Zimsen skrifar Skoðun Hvernig hljómar tilboðið einn fyrir þrjá? Davíð Már Sigurðsson skrifar Skoðun Fyrrverandi lögreglumaður heyrir enn röddina Sigurður Árni Reynisson skrifar Skoðun Bætum lífsgæði þeirra sem lifa með krabbameini Sigríður Gunnarsdóttir skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Opið bréf til Jóhanns Páls Jóhannssonar umhverfis-, orku- og loftlagsráðherra Kolbrún Georgsdóttir Skoðun
Um pólitík óttans, öryggisvæðingu fólksflótta og hina ICElensku varðhaldsstöð Sema Erla Serdaroglu Skoðun
Dagur náms- og starfsráðgjafar 2025: Faglegur stuðningur sem skiptir máli – fyrir einstaklinga og samfélagið Jónína Kárdal,Svandís Sturludóttir Skoðun
Skoðun Um pólitík óttans, öryggisvæðingu fólksflótta og hina ICElensku varðhaldsstöð Sema Erla Serdaroglu skrifar
Skoðun Opið bréf til Jóhanns Páls Jóhannssonar umhverfis-, orku- og loftlagsráðherra Kolbrún Georgsdóttir skrifar
Skoðun Fjármálabylting: Gervigreind og táknvæðing fyrir almenning Björgmundur Örn Guðmundsson skrifar
Skoðun Dagur náms- og starfsráðgjafar 2025: Faglegur stuðningur sem skiptir máli – fyrir einstaklinga og samfélagið Jónína Kárdal,Svandís Sturludóttir skrifar
Skoðun Verjum mikilvæga starfsemi Ljóssins Guðbjörg Jónsdóttir,Helga Tryggvadóttir,Sigurdís Haraldsdóttir skrifar
Skoðun ,,Gallaður" hundur - söluhluturinn hundur - um úrskurð Kærunefndar vöru- og þjónustukaupa Árni Stefán Árnason skrifar
Skoðun Fyrst heimsfaraldur, svo náttúruhamfarir, þá gjaldþrot og nú verkföll! Sigríður Margrét Oddsdóttir skrifar
Opið bréf til Jóhanns Páls Jóhannssonar umhverfis-, orku- og loftlagsráðherra Kolbrún Georgsdóttir Skoðun
Um pólitík óttans, öryggisvæðingu fólksflótta og hina ICElensku varðhaldsstöð Sema Erla Serdaroglu Skoðun
Dagur náms- og starfsráðgjafar 2025: Faglegur stuðningur sem skiptir máli – fyrir einstaklinga og samfélagið Jónína Kárdal,Svandís Sturludóttir Skoðun