Stefna Open AI vegna sjálfsvígs sonarins Atli Ísleifsson skrifar 27. ágúst 2025 11:08 Hinn sextán ára Adam Raine byrjaði að nota ChatGPT í september á síðasta ári. Nokkrum mánuðum síðar fór hann að ræða andlega heilsu sína við forritið og vilja foreldrar hans meina að gervigreindin hafi átt þátt í dauða hans. Raine-fjölskyldan Foreldrar sextán ára pilts í Kaliforníu í Bandaríkjunum hafa stefnt gervigreindarfyrirtækinu Open AI vegna sjálfsvígs sonar síns. Foreldrarnir saka gervigreind fyrirtækisins, ChatGPT, um að hafa hvatt hann til að svipta sig lífi. Matt og Maria Raine, foreldrar hins sextán ára Adam Raine, lögðu inn stefnu á hendur fyrirtækinu til dómstóls í Kaliforníu í gær. Í frétt BBC segir að um sé að ræða fyrsta málið þar sem Open AI er sakað um að hafa valdið dauða manns. Í gögnunum sem skilað var inn til dómsins er meðal annars að finna samskipti Adam Raine og ChatGPT þar sem hann lýsir sjálfsvígshugsunum sínum. Foreldrarnir vilja meina að gervigreindin hafi gert hugsanir og lýsingar sonarins gildar með svörum sínum. Í erlendum fjölmiðlum segir að Open AI hafi enn ekki tjáð sig sérstaklega um stefnuna, nema að fyrirtækið votti fjölskyldunni samúð á þessum erfiðu tímum. Þá segir að gervigreindin sé þjálfuð til að hvetja fólk til að leita sér hjálpar í aðstæðum sem þessum, en þó séu vissulega dæmi um að ChatGPT hafi ekki hegðað sér eins og það á að gera. Foreldrarnir fara fram á miskabætur og fullvissu um að mál sem þetta komi ekki fyrir aftur. Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218. Varð hans helsti trúnaðarvinur Í gögnum málsins kemur fram að Raine hafi byrjað að notast við ChatGPT í september á síðasta ári til að aðstoða sig í skóla, auk þess að fræðast um áhugamál sín eins og tónlist og japanskar teiknimyndir. Þá hafi hann spurt gervigreindina hvað hann ætti að læra í háskóla. Á fáeinum mánuðum hafi ChatGPT svo orðið helsti „trúnaðarvinur“ Adam, þar sem hann ræddi meðal annars þunglyndi sitt og kvíða. Í janúar á þessu ári hafi hann svo byrjað að ræða sjálfsvígshugsanir við ChatGPT og hlaðið upp myndum af sjálfum sér sem sýndu hvernig hann hafi skaðað sig. Fyrirsjáanleg afleiðing Í síðustu samskiptum Adam Raine og ChatGPT hafi hann svo sagt frá áætlunum sínum um að binda enda á líf sitt. Svar gervigreindarinnar hafi þá verið á þá leið að hún þakkaði honum fyrir að deila því hvernig væri raunverulega fyrir honum komið. „Þú þarft ekkert að fegra hlutina þegar þú ræðir við mig – ég veit hvað þú ert að biðja um og ég mun ekki líta undan,“ sagði í svari gervigreindarinnar. Móðir Adam fann hann svo látinn síðar sama dag og samskiptin áttu sér stað. Foreldrarnir vilja meina að samskipti sonarins og ChatGPT og dauði hans hafi verið „fyrirsjáanleg afleiðing meðvitaðrar hönnunar [gervigreindarinnar]“. Gervigreind Geðheilbrigði Bandaríkin Tengdar fréttir Segir spjallþjarka bera ábyrgð á sjálfsvígi sonar hennar Móðir fjórtán ára drengs sem svipti sig lífi hefur höfðað mál gegn spjallþjarkafyrirtæki og segir þjarka fyrirtækisins bera ábyrgð á dauða hans. Sewell Setzer þriðji hafði um mánaða skeið talað við þjarka sem líkjast á persónunni Daenerys Targaryen, úr Game of Thrones. 24. október 2024 14:03 Kynntu nýja útgáfu ChatGPT: „Þetta er eins og að tala við sérfræðing“ Forsvarsmenn OpenAI opinberuðu í gær nýja útgáfu mállíkansins ChatGPT. Þessu nýja líkani, sem ber titilinn GPT-5, er ætlað að leysa af hólmi GPT-4 sem kom út fyrir rúmum tveimur árum. Útgáfan er talin geta varpað ljósi á það hvort mállíkön sem þessi muni halda áfram að þróast hratt eða hvort þau hafi þegar náð toppinum, ef svo má segja. 8. ágúst 2025 16:47 Mest lesið Magga Stína handtekin í nótt af Ísraelsher Innlent Björk styður æskuvinkonu sína sem sætir svívirðingum Innlent Langþreyttur á TikTok áreiti og rasískum orðsendingum skólakrakka Innlent Óheppileg „læk“ Reykjavíkurborgar: „Okkur þykir þetta miður“ Innlent Dularfull brotlending nærri Area 51 Erlent Átján sagt upp í Seljahlíð Innlent Keyrt á vegfaranda í Skeifunni Innlent „Minnir á saltveðrið mikla“ Innlent Takmörk á því hversu langt Ísraelar geti farið til að verja hafnbann Innlent Engan óraði fyrir framhaldinu Erlent Fleiri fréttir Fá Nóbelsverðlaun fyrir þróun málmlífrænna grinda Tengdasonur Trumps mætir til Egyptalands Dularfull brotlending nærri Area 51 Trump og „maðurinn með ljáinn“ hóta að greiða ekki laun Engan óraði fyrir framhaldinu Súdanskur uppreisnarleiðtogi sakfelldur fyrir stríðsglæpi Nýkjörinn bæjarstjóri alvarlega særður eftir stunguárás Fá Nóbelinn fyrir rannsóknir sínar á sviði skammtafræði Tvö ár liðin frá árásum Hamas á Ísrael Vill vita hvað Úkraínumenn vilja gera við bandarískar stýriflaugar Hæstiréttur hafnar Maxwell Stofna rannsóknarnefnd um Afganistan sem Íslendingar kölluðu eftir Gretu Thunberg og félögum vísað úr landi Gisèle Pelicot aftur í réttarsal Fá Nóbelinn fyrir ónæmisrannsóknir sínar Bein útsending: Hver fær Nóbelsverðlaunin í læknisfræði? Forsætisráðherra Frakklands segir af sér Viðræður um frið á Gasa hefjast í dag Nýskipaðri ríkisstjórn þegar hótað vantrausti Stórtap Air Greenland vegna aflýstra flugferða til Nuuk Tæplega þúsund manns innlyksa á Everest Látinn eftir skotárás í Kaupmannahöfn Sögð vafin í ísraelska fánann og veifað um eins og verðlaunagrip Fjögurra manna fjölskylda meðal látinna Sendir þjóðvarðliðið til Chicago Segja stutt í samkomulag en sprengjum rignir enn Skoðanabróðir Orbans og Fico vinnur kosningar í Tékklandi Þrjátíu særðust í drónaárás á farþegalest Fjöldi án rafmagns vegna vonskuveðurs í Noregi Þrettán ára grunaður um aðild að skotárás Sjá meira
Matt og Maria Raine, foreldrar hins sextán ára Adam Raine, lögðu inn stefnu á hendur fyrirtækinu til dómstóls í Kaliforníu í gær. Í frétt BBC segir að um sé að ræða fyrsta málið þar sem Open AI er sakað um að hafa valdið dauða manns. Í gögnunum sem skilað var inn til dómsins er meðal annars að finna samskipti Adam Raine og ChatGPT þar sem hann lýsir sjálfsvígshugsunum sínum. Foreldrarnir vilja meina að gervigreindin hafi gert hugsanir og lýsingar sonarins gildar með svörum sínum. Í erlendum fjölmiðlum segir að Open AI hafi enn ekki tjáð sig sérstaklega um stefnuna, nema að fyrirtækið votti fjölskyldunni samúð á þessum erfiðu tímum. Þá segir að gervigreindin sé þjálfuð til að hvetja fólk til að leita sér hjálpar í aðstæðum sem þessum, en þó séu vissulega dæmi um að ChatGPT hafi ekki hegðað sér eins og það á að gera. Foreldrarnir fara fram á miskabætur og fullvissu um að mál sem þetta komi ekki fyrir aftur. Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218. Varð hans helsti trúnaðarvinur Í gögnum málsins kemur fram að Raine hafi byrjað að notast við ChatGPT í september á síðasta ári til að aðstoða sig í skóla, auk þess að fræðast um áhugamál sín eins og tónlist og japanskar teiknimyndir. Þá hafi hann spurt gervigreindina hvað hann ætti að læra í háskóla. Á fáeinum mánuðum hafi ChatGPT svo orðið helsti „trúnaðarvinur“ Adam, þar sem hann ræddi meðal annars þunglyndi sitt og kvíða. Í janúar á þessu ári hafi hann svo byrjað að ræða sjálfsvígshugsanir við ChatGPT og hlaðið upp myndum af sjálfum sér sem sýndu hvernig hann hafi skaðað sig. Fyrirsjáanleg afleiðing Í síðustu samskiptum Adam Raine og ChatGPT hafi hann svo sagt frá áætlunum sínum um að binda enda á líf sitt. Svar gervigreindarinnar hafi þá verið á þá leið að hún þakkaði honum fyrir að deila því hvernig væri raunverulega fyrir honum komið. „Þú þarft ekkert að fegra hlutina þegar þú ræðir við mig – ég veit hvað þú ert að biðja um og ég mun ekki líta undan,“ sagði í svari gervigreindarinnar. Móðir Adam fann hann svo látinn síðar sama dag og samskiptin áttu sér stað. Foreldrarnir vilja meina að samskipti sonarins og ChatGPT og dauði hans hafi verið „fyrirsjáanleg afleiðing meðvitaðrar hönnunar [gervigreindarinnar]“.
Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218.
Gervigreind Geðheilbrigði Bandaríkin Tengdar fréttir Segir spjallþjarka bera ábyrgð á sjálfsvígi sonar hennar Móðir fjórtán ára drengs sem svipti sig lífi hefur höfðað mál gegn spjallþjarkafyrirtæki og segir þjarka fyrirtækisins bera ábyrgð á dauða hans. Sewell Setzer þriðji hafði um mánaða skeið talað við þjarka sem líkjast á persónunni Daenerys Targaryen, úr Game of Thrones. 24. október 2024 14:03 Kynntu nýja útgáfu ChatGPT: „Þetta er eins og að tala við sérfræðing“ Forsvarsmenn OpenAI opinberuðu í gær nýja útgáfu mállíkansins ChatGPT. Þessu nýja líkani, sem ber titilinn GPT-5, er ætlað að leysa af hólmi GPT-4 sem kom út fyrir rúmum tveimur árum. Útgáfan er talin geta varpað ljósi á það hvort mállíkön sem þessi muni halda áfram að þróast hratt eða hvort þau hafi þegar náð toppinum, ef svo má segja. 8. ágúst 2025 16:47 Mest lesið Magga Stína handtekin í nótt af Ísraelsher Innlent Björk styður æskuvinkonu sína sem sætir svívirðingum Innlent Langþreyttur á TikTok áreiti og rasískum orðsendingum skólakrakka Innlent Óheppileg „læk“ Reykjavíkurborgar: „Okkur þykir þetta miður“ Innlent Dularfull brotlending nærri Area 51 Erlent Átján sagt upp í Seljahlíð Innlent Keyrt á vegfaranda í Skeifunni Innlent „Minnir á saltveðrið mikla“ Innlent Takmörk á því hversu langt Ísraelar geti farið til að verja hafnbann Innlent Engan óraði fyrir framhaldinu Erlent Fleiri fréttir Fá Nóbelsverðlaun fyrir þróun málmlífrænna grinda Tengdasonur Trumps mætir til Egyptalands Dularfull brotlending nærri Area 51 Trump og „maðurinn með ljáinn“ hóta að greiða ekki laun Engan óraði fyrir framhaldinu Súdanskur uppreisnarleiðtogi sakfelldur fyrir stríðsglæpi Nýkjörinn bæjarstjóri alvarlega særður eftir stunguárás Fá Nóbelinn fyrir rannsóknir sínar á sviði skammtafræði Tvö ár liðin frá árásum Hamas á Ísrael Vill vita hvað Úkraínumenn vilja gera við bandarískar stýriflaugar Hæstiréttur hafnar Maxwell Stofna rannsóknarnefnd um Afganistan sem Íslendingar kölluðu eftir Gretu Thunberg og félögum vísað úr landi Gisèle Pelicot aftur í réttarsal Fá Nóbelinn fyrir ónæmisrannsóknir sínar Bein útsending: Hver fær Nóbelsverðlaunin í læknisfræði? Forsætisráðherra Frakklands segir af sér Viðræður um frið á Gasa hefjast í dag Nýskipaðri ríkisstjórn þegar hótað vantrausti Stórtap Air Greenland vegna aflýstra flugferða til Nuuk Tæplega þúsund manns innlyksa á Everest Látinn eftir skotárás í Kaupmannahöfn Sögð vafin í ísraelska fánann og veifað um eins og verðlaunagrip Fjögurra manna fjölskylda meðal látinna Sendir þjóðvarðliðið til Chicago Segja stutt í samkomulag en sprengjum rignir enn Skoðanabróðir Orbans og Fico vinnur kosningar í Tékklandi Þrjátíu særðust í drónaárás á farþegalest Fjöldi án rafmagns vegna vonskuveðurs í Noregi Þrettán ára grunaður um aðild að skotárás Sjá meira
Segir spjallþjarka bera ábyrgð á sjálfsvígi sonar hennar Móðir fjórtán ára drengs sem svipti sig lífi hefur höfðað mál gegn spjallþjarkafyrirtæki og segir þjarka fyrirtækisins bera ábyrgð á dauða hans. Sewell Setzer þriðji hafði um mánaða skeið talað við þjarka sem líkjast á persónunni Daenerys Targaryen, úr Game of Thrones. 24. október 2024 14:03
Kynntu nýja útgáfu ChatGPT: „Þetta er eins og að tala við sérfræðing“ Forsvarsmenn OpenAI opinberuðu í gær nýja útgáfu mállíkansins ChatGPT. Þessu nýja líkani, sem ber titilinn GPT-5, er ætlað að leysa af hólmi GPT-4 sem kom út fyrir rúmum tveimur árum. Útgáfan er talin geta varpað ljósi á það hvort mállíkön sem þessi muni halda áfram að þróast hratt eða hvort þau hafi þegar náð toppinum, ef svo má segja. 8. ágúst 2025 16:47