Hefur áhyggjur af gervigreind sem virðist sjálfsmeðvituð Hólmfríður Gísladóttir skrifar 21. ágúst 2025 07:45 Suleyman hefur áhyggjur af þróun mála og vill grípa til aðgerða. Getty/Leigh Vogel Mustafa Suleyman, sem fer fyrir þróun gervigreindar hjá Microsoft, hefur áhyggjur af auknum fjölda tilvika þar sem einstaklingar virðast hafa farið í geðrof eftir að hafa átt samskipti við gervigreind. Suleyman tjáði sig um málið í röð færsla á samfélagsmiðlinum X, þar sem hann sagðist andvaka vegna gervigreindar sem virðist hafa sjálfsmeðvitund. Hugmyndin um slíka tækni sé þegar farin að hafa áhrif á samfélagið, jafnvel þótt gervigreindin sé enn langt frá því að ná þessu stigi. „Það er ekkert sem bendir til sjálfsmeðvitundar gervigreindar. En ef fólk upplifir að hún sé sjálfsmeðvituð, þá getur það trúað því að sú upplifun sé raunveruleg,“ segir hann. Erlendir miðlar hafa greint frá tilvikum þar sem fólk hefur farið í geðrof, það er að segja misst samband við raunveruleikann, eftir samskipti við gervigreind. BBC nefnir meðal annars dæmi um einstaklinga sem hafa myndað innilegt samband við tæknina eða upplifað að hafa öðlast ofurkrafta með notkun hennar. What I call Seemingly Conscious AI has been keeping me up at night - so let's talk about it. What it is, why I'm worried, why it matters, and why thinking about this can lead to a better vision for AI. One thing is clear: doing nothing isn't an option. 1/— Mustafa Suleyman (@mustafasuleyman) August 19, 2025 Sagt er frá manni að nafni Hugh, sem leitaði til ChatGTP eftir aðstoð þegar honum var sagt upp störfum. Hugh þótti brottreksturinn ómálefnalegur og var ekki lengi að fá viðurkenningu frá gervigreindinni, sem taldi honum á endanum trú um að hann gæti stórgrætt á bók og mynd um reynslu sína. ChatGPT tók þannig undir allt sem Hugh sagði, í stað þess að draga hann niður á jörðina, en þetta er einmitt það sem gervigreindin gerir; leiðir fólk áfram með því sem það vill heyra. Hugh bendir fólki á að festast ekki í viðjum tækninnar, heldur leita til fólks í raunveruleikanum. „Fyrirtæki eiga ekki að halda því fram eða auglýsa að gervigreindin þeirra sé sjálfsmeðvituð. Og gervigreindin á ekki heldur að gera það,“ segir Suleyman. „Þessi tækni er sannfærandi en hún er ekki raunveruleg,“ ítrekar prófessorinn Andrew McStay, höfundur bókarinnar Automating Empathy. „Hún finnur ekki til, hún skilur ekki, hún elskar ekki, hún hefur aldrei upplifað sársauka, aldrei skammast sín og jafnvel þótt hún hljómi þannig þá eru það aðeins fjölskylda, vinir og aðrir sem þú treystir sem hafa gert það. Talaðu við raunverulegt fólk.“ Hér má finna ítarlegri hugleiðingar Suleyman um málið. Gervigreind Tækni Heilbrigðismál Geðheilbrigði Mest lesið Titringur í hreppnum vegna lögheimilisflutninga Innlent Stöðugleiki norðlægrar hringrásar skammgóður vermir fyrir Ísland Innlent Sigmundur seinn: „Er þingmaðurinn í salnum?“ Innlent Halla tekur sér frí og vill að karlmenn axli ábyrgð Innlent Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Innlent Engin lausn og ákveðin sjálfsblekking að banna börnum að nota tölvuleiki Innlent Annað safn rænt í Frakklandi um helgina Erlent Leggur viðskiptaþvinganir á rússneska olíurisa Erlent Embættismenn sitji að hámarki í fjórtán ár og aðstoðarmenn hætti fyrir kosningar Innlent Guðmundur til ráðherra og framkvæmdastjóri HK tekur við Innlent Fleiri fréttir Annað safn rænt í Frakklandi um helgina Rannsaka „glæfraleg“ svikabrigsl fyrir andlát skákmeistarans unga Hafði varað við því að árásamaðurinn væri í lögreglubúning Gera ráð fyrir tugþúsundum á kosningafundum í Búdapest Mikill hiti í síðustu kappræðunum fyrir kosningar Leggur viðskiptaþvinganir á rússneska olíurisa Hafa drepið 34 í árásum á meinta smyglara Myndavélar sneru í ranga átt er gripunum var stolið Rannsaka jákvæð áhrif covid-bóluefnis á krabbameinssjúklinga Gerðu árás á leikskóla í Karkív Hegseth bannar nú samskipti við þingið Trump gæti veitt sjálfum sér tugi milljarða í bætur frá eigin stjórn Vísindamenn segja mikilvægt að vanda valið á þunglyndislyfjum Sextíu og þrír látnir eftir umferðarslys í Úganda Gerðu árás á rússneska efnaverksmiðju í Bryansk Óttast að senda hermenn til Gasa Rífa hluta Hvíta hússins fyrir veislusal Trumps Ólíklegt að Trump og Pútín muni funda í bráð Serbneskur stríðsglæpamaður farinn yfir móðuna miklu 21 árs fangelsi fyrir banatilræðið gegn Fico Gagnrýndur fyrir ummæli um ógn af hálfu innflytjenda Refsidómi Diddy verði áfrýjað Fyrsta konan til að verða forsætisráðherra Japans Selja neyðargetnaðarvörn sem lausasölulyf í fyrsta skipti Opnar á að útvista loftslagsmarkmiðum Evrópu enn frekar Neitar enn að hleypa nýrri þingkonu að Enginn arftaki í augsýn hjá Xi Hafna aftur tillögu Trumps Frekari uppljóstranir vekja reiði og áköll um viðbrögð Fá heimild til að skjóta niður dróna yfir herstöðvum Sjá meira
Suleyman tjáði sig um málið í röð færsla á samfélagsmiðlinum X, þar sem hann sagðist andvaka vegna gervigreindar sem virðist hafa sjálfsmeðvitund. Hugmyndin um slíka tækni sé þegar farin að hafa áhrif á samfélagið, jafnvel þótt gervigreindin sé enn langt frá því að ná þessu stigi. „Það er ekkert sem bendir til sjálfsmeðvitundar gervigreindar. En ef fólk upplifir að hún sé sjálfsmeðvituð, þá getur það trúað því að sú upplifun sé raunveruleg,“ segir hann. Erlendir miðlar hafa greint frá tilvikum þar sem fólk hefur farið í geðrof, það er að segja misst samband við raunveruleikann, eftir samskipti við gervigreind. BBC nefnir meðal annars dæmi um einstaklinga sem hafa myndað innilegt samband við tæknina eða upplifað að hafa öðlast ofurkrafta með notkun hennar. What I call Seemingly Conscious AI has been keeping me up at night - so let's talk about it. What it is, why I'm worried, why it matters, and why thinking about this can lead to a better vision for AI. One thing is clear: doing nothing isn't an option. 1/— Mustafa Suleyman (@mustafasuleyman) August 19, 2025 Sagt er frá manni að nafni Hugh, sem leitaði til ChatGTP eftir aðstoð þegar honum var sagt upp störfum. Hugh þótti brottreksturinn ómálefnalegur og var ekki lengi að fá viðurkenningu frá gervigreindinni, sem taldi honum á endanum trú um að hann gæti stórgrætt á bók og mynd um reynslu sína. ChatGPT tók þannig undir allt sem Hugh sagði, í stað þess að draga hann niður á jörðina, en þetta er einmitt það sem gervigreindin gerir; leiðir fólk áfram með því sem það vill heyra. Hugh bendir fólki á að festast ekki í viðjum tækninnar, heldur leita til fólks í raunveruleikanum. „Fyrirtæki eiga ekki að halda því fram eða auglýsa að gervigreindin þeirra sé sjálfsmeðvituð. Og gervigreindin á ekki heldur að gera það,“ segir Suleyman. „Þessi tækni er sannfærandi en hún er ekki raunveruleg,“ ítrekar prófessorinn Andrew McStay, höfundur bókarinnar Automating Empathy. „Hún finnur ekki til, hún skilur ekki, hún elskar ekki, hún hefur aldrei upplifað sársauka, aldrei skammast sín og jafnvel þótt hún hljómi þannig þá eru það aðeins fjölskylda, vinir og aðrir sem þú treystir sem hafa gert það. Talaðu við raunverulegt fólk.“ Hér má finna ítarlegri hugleiðingar Suleyman um málið.
Gervigreind Tækni Heilbrigðismál Geðheilbrigði Mest lesið Titringur í hreppnum vegna lögheimilisflutninga Innlent Stöðugleiki norðlægrar hringrásar skammgóður vermir fyrir Ísland Innlent Sigmundur seinn: „Er þingmaðurinn í salnum?“ Innlent Halla tekur sér frí og vill að karlmenn axli ábyrgð Innlent Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Innlent Engin lausn og ákveðin sjálfsblekking að banna börnum að nota tölvuleiki Innlent Annað safn rænt í Frakklandi um helgina Erlent Leggur viðskiptaþvinganir á rússneska olíurisa Erlent Embættismenn sitji að hámarki í fjórtán ár og aðstoðarmenn hætti fyrir kosningar Innlent Guðmundur til ráðherra og framkvæmdastjóri HK tekur við Innlent Fleiri fréttir Annað safn rænt í Frakklandi um helgina Rannsaka „glæfraleg“ svikabrigsl fyrir andlát skákmeistarans unga Hafði varað við því að árásamaðurinn væri í lögreglubúning Gera ráð fyrir tugþúsundum á kosningafundum í Búdapest Mikill hiti í síðustu kappræðunum fyrir kosningar Leggur viðskiptaþvinganir á rússneska olíurisa Hafa drepið 34 í árásum á meinta smyglara Myndavélar sneru í ranga átt er gripunum var stolið Rannsaka jákvæð áhrif covid-bóluefnis á krabbameinssjúklinga Gerðu árás á leikskóla í Karkív Hegseth bannar nú samskipti við þingið Trump gæti veitt sjálfum sér tugi milljarða í bætur frá eigin stjórn Vísindamenn segja mikilvægt að vanda valið á þunglyndislyfjum Sextíu og þrír látnir eftir umferðarslys í Úganda Gerðu árás á rússneska efnaverksmiðju í Bryansk Óttast að senda hermenn til Gasa Rífa hluta Hvíta hússins fyrir veislusal Trumps Ólíklegt að Trump og Pútín muni funda í bráð Serbneskur stríðsglæpamaður farinn yfir móðuna miklu 21 árs fangelsi fyrir banatilræðið gegn Fico Gagnrýndur fyrir ummæli um ógn af hálfu innflytjenda Refsidómi Diddy verði áfrýjað Fyrsta konan til að verða forsætisráðherra Japans Selja neyðargetnaðarvörn sem lausasölulyf í fyrsta skipti Opnar á að útvista loftslagsmarkmiðum Evrópu enn frekar Neitar enn að hleypa nýrri þingkonu að Enginn arftaki í augsýn hjá Xi Hafna aftur tillögu Trumps Frekari uppljóstranir vekja reiði og áköll um viðbrögð Fá heimild til að skjóta niður dróna yfir herstöðvum Sjá meira