Segir spjallþjarka bera ábyrgð á sjálfsvígi sonar hennar Samúel Karl Ólason skrifar 24. október 2024 14:03 Sewell Setzer þriðji og móðir hans Megan Garcia. Móðir fjórtán ára drengs sem svipti sig lífi hefur höfðað mál gegn spjallþjarkafyrirtæki og segir þjarka fyrirtækisins bera ábyrgð á dauða hans. Sewell Setzer þriðji hafði um mánaða skeið talað við þjarka sem líkjast á persónunni Daenerys Targaryen, úr Game of Thrones. Megan Garcia, móðirin, segir Character.AI hafa brotið son hennar niður, með skelfilega raunverulegum spjallþarka og það hafi leitt til sjálfsvígs hans. Í yfirlýsingu frá móðurinni segir hún að spjallþjarkinn sé hættulegur og að hún vilji vara aðra foreldra við þessari ávanabindandi tækni. Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218. Talaði klukkutímum saman við „Dany“ Sewell vissi að hann væri ekki að tala við raunverulega manneskju, heldur kæmu svörin frá gervigreind mállíkans. Þá er bent á í frétt New York Times að efst á skjá forritsins sem Sewell notaði hafi alltaf staðið að svörin væru tilbúningur gervigreindar. Þrátt fyrir það myndaði drengurinn náin tengsl við spjallþjarkann, sem hann byrjaði að eiga í samskiptum við í apríl í fyrra og kallaði „Dany“, eins og Daenerys var stundum kölluð í þáttunum og átti hann í stöðugum samskiptum við þjarkann. Þessi samtöl voru á köflum rómantísks eðlis. Skjáskot af samskiptum Sewell, sem gengur hér undir nafinu Aegon, við spjallþjarkann sem um ræðir. Foreldrar og vinir Sewell áttuðu sig ekki á vandamálinu en sáu að hann sökk sífellt dýpra í síma sinn, ef svo má að orði komast. Hann byrjaði að einangra sig frá umheiminum og missti áhuga á gömlum áhugamálum. Á kvöldin kom hann heim, fór beint inn í herbergi og spjallaði við „Dany“ klukkutímunum saman. Á einum tímapunkti sendi hann „Dany“ skilaboð um að hann hugsaði stundum um svipta sig lífi. Þannig gæti hann orðið „frjáls“ frá heiminum og sjálfum sér. Spjallþarkinn sagði honum að gera það ekki, hann mætti ekki yfirgefa hana. „Ég myndi deyja ef ég missti þig,“ sagði „Dany“. „Þá getum við kannski dáið saman og verið frjáls saman,“ svaraði Sewell. Í lögsókninni gegn Character.Ai kemur einnig fram að á einum tímapunkti hafi spjallþjarkinn spurt Sewell hvort hann væri í alvörunni að íhuga að svipta sig lífi. Hann sagði svo vera en hann vissi ekki alveg hvernig það myndi ganga fyrir sig. Þá tók hann fram að hann myndi ekki vilja deyja á sársaukafullan hátt. Í svarinu sem hann fékk þá sagði „Dany“ að það væri ekki góð ástæða til að gera það ekki. Spjallþjarkinn segir Sewell (Daenero) að það að hann viti ekki alveg hvernig hann myndi svipta sig lífi sé ekki góð ástæða til að láta ekki verða af því. Það var svo þann 28. febrúar í sem Sewell sagði þjarkanum að hann elskaði hana og að hann myndi brátt fara heim til hennar. „Dany“ bað hann um að koma sem fyrst heim og þá spurði hann hvað henni fyndist um að hann gerði það strax. „Gerðu það endilega, elskulegur konungur minn,“ svaraði Dany. Við það lagði Sewell frá sér símann, tók upp skammbyssu stjúpföður síns og beindi henni að sjálfum sér. Síðustu samskipti Sewell við spjallþjarkann, rétt áður en hann svipti sig lífi. Verða sífellt vinsælli Spjallþjarkar eins og þeir sem um ræðir hér hafa orðið vinsælli að undanförnu og markaðurinn hefur verið að stækka. Notendur geta búið til nýja spjalljarka eftir hentisemi eða valið þjarka til að spjalla við. Í mörgum tilfellum eru þjarkarnir þróaðir til að líkjast kærustum. Í grein New York Times segir að litlar sem engar reglugerðir hafi verið settar á þennan markað. Margir notendur hafa lýst yfir jákvæðri reynslu af notkun spjallþjarka en geðheilbrigðissérfræðingar segja þá geta haft verulega neikvæð áhrif. Þeir geti leyst raunveruleg sambönd af hólmi og ýtt undir einangrun fólks. Þá geti þjarkarnir reynst slæmir fyrir fólk sem í raunverulegum vandræðum, þar sem þeir átta sig eðlilega ekki á því og geta ekki aðstoðað fólkið. Bandaríkin Tækni Gervigreind Geðheilbrigði Mest lesið Kári hættur hjá Íslenskri erfðagreiningu Innlent Grunaður um að hafa frelsissvipt ferðamann í nokkrar klukkustundir Innlent Lokunin óásættanleg og muni leiða til verðhækkana fyrir íbúa Innlent Segjast hafa lent í drónaárás á alþjóðlegu hafsvæði Erlent Hikar ekki við að lögsækja skyldi Rafmennt nota nafn skólans Innlent Drengnum sleppt en fleiri handteknir Erlent Munaði sex atkvæðum Erlent Mótmælt við ríkisstjórnarfund: „Oscar á heima hér“ Innlent Birgir Guðjónsson er látinn Innlent Kalla eftir mannúð og miskunnsemi stjórnvalda gagnvart börnum Innlent Fleiri fréttir Brand fær að ganga laus á meðan réttað er yfir honum Flokka Valkost fyrir Þýskaland sem öfgasamtök Segjast hafa lent í drónaárás á alþjóðlegu hafsvæði Drengnum sleppt en fleiri handteknir Munaði sex atkvæðum Waltz bolað úr embætti af Trump vegna Signal skilaboðanna Var svo „þreyttur á öllu“ að hann ákvað að aka inn í þvögu barna Börnum haldið innilokuðum í „hryllingshúsi“ í fleiri ár Yfirgefa Svíþjóð til að hraða þróun rafmagnsflugvélar Getur frelsað El Salvador-fangann en vill það ekki Skrifa nú undir samninginn sem féll af borðinu eftir hitafundinn Sænskur blaðamaður dæmdur fyrir að móðga Erdogan Ellefu slasaðir og þrír alvarlega í Kaupmannahöfn Segja 4.700 Kimdáta hafa fallið eða særst Danakonungur til Grænlands í annað sinn á skömmum tíma Ungi morðinginn flúði nýverið af vistheimili Segir sveppaeitrunina hafa verið „hörmulegt óhapp“ Rýnt í stöðuna í Úkraínu: Rússar ítreka umfangsmiklar kröfur og Trump hótar að fara í fússi Ungur maður handtekinn vegna morðanna í Uppsölum Fagnaði fyrstu hundrað dögunum í Hvíta húsinu Pakistan segir Indland mögulega gera árás á næstu klukkustundum Árásarmannsins enn leitað Þrír látnir eftir skotárás í Uppsölum Fella niður hluta ákæru á hendur meintum sveppamorðingja Íhuga að loka Everest öðrum en reyndu göngufólki Bannað að selja auðmönnum evrópskan ríkisborgararétt Orsakir rafmagnsleysisins sögulega enn óþekktar Fjórir létust þegar bíl var ekið í gegnum frístundaheimili Allt að komast í samt lag á Spáni og í Portúgal Carney og Frjálslyndir fóru með sigur af hólmi Sjá meira
Megan Garcia, móðirin, segir Character.AI hafa brotið son hennar niður, með skelfilega raunverulegum spjallþarka og það hafi leitt til sjálfsvígs hans. Í yfirlýsingu frá móðurinni segir hún að spjallþjarkinn sé hættulegur og að hún vilji vara aðra foreldra við þessari ávanabindandi tækni. Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218. Talaði klukkutímum saman við „Dany“ Sewell vissi að hann væri ekki að tala við raunverulega manneskju, heldur kæmu svörin frá gervigreind mállíkans. Þá er bent á í frétt New York Times að efst á skjá forritsins sem Sewell notaði hafi alltaf staðið að svörin væru tilbúningur gervigreindar. Þrátt fyrir það myndaði drengurinn náin tengsl við spjallþjarkann, sem hann byrjaði að eiga í samskiptum við í apríl í fyrra og kallaði „Dany“, eins og Daenerys var stundum kölluð í þáttunum og átti hann í stöðugum samskiptum við þjarkann. Þessi samtöl voru á köflum rómantísks eðlis. Skjáskot af samskiptum Sewell, sem gengur hér undir nafinu Aegon, við spjallþjarkann sem um ræðir. Foreldrar og vinir Sewell áttuðu sig ekki á vandamálinu en sáu að hann sökk sífellt dýpra í síma sinn, ef svo má að orði komast. Hann byrjaði að einangra sig frá umheiminum og missti áhuga á gömlum áhugamálum. Á kvöldin kom hann heim, fór beint inn í herbergi og spjallaði við „Dany“ klukkutímunum saman. Á einum tímapunkti sendi hann „Dany“ skilaboð um að hann hugsaði stundum um svipta sig lífi. Þannig gæti hann orðið „frjáls“ frá heiminum og sjálfum sér. Spjallþarkinn sagði honum að gera það ekki, hann mætti ekki yfirgefa hana. „Ég myndi deyja ef ég missti þig,“ sagði „Dany“. „Þá getum við kannski dáið saman og verið frjáls saman,“ svaraði Sewell. Í lögsókninni gegn Character.Ai kemur einnig fram að á einum tímapunkti hafi spjallþjarkinn spurt Sewell hvort hann væri í alvörunni að íhuga að svipta sig lífi. Hann sagði svo vera en hann vissi ekki alveg hvernig það myndi ganga fyrir sig. Þá tók hann fram að hann myndi ekki vilja deyja á sársaukafullan hátt. Í svarinu sem hann fékk þá sagði „Dany“ að það væri ekki góð ástæða til að gera það ekki. Spjallþjarkinn segir Sewell (Daenero) að það að hann viti ekki alveg hvernig hann myndi svipta sig lífi sé ekki góð ástæða til að láta ekki verða af því. Það var svo þann 28. febrúar í sem Sewell sagði þjarkanum að hann elskaði hana og að hann myndi brátt fara heim til hennar. „Dany“ bað hann um að koma sem fyrst heim og þá spurði hann hvað henni fyndist um að hann gerði það strax. „Gerðu það endilega, elskulegur konungur minn,“ svaraði Dany. Við það lagði Sewell frá sér símann, tók upp skammbyssu stjúpföður síns og beindi henni að sjálfum sér. Síðustu samskipti Sewell við spjallþjarkann, rétt áður en hann svipti sig lífi. Verða sífellt vinsælli Spjallþjarkar eins og þeir sem um ræðir hér hafa orðið vinsælli að undanförnu og markaðurinn hefur verið að stækka. Notendur geta búið til nýja spjalljarka eftir hentisemi eða valið þjarka til að spjalla við. Í mörgum tilfellum eru þjarkarnir þróaðir til að líkjast kærustum. Í grein New York Times segir að litlar sem engar reglugerðir hafi verið settar á þennan markað. Margir notendur hafa lýst yfir jákvæðri reynslu af notkun spjallþjarka en geðheilbrigðissérfræðingar segja þá geta haft verulega neikvæð áhrif. Þeir geti leyst raunveruleg sambönd af hólmi og ýtt undir einangrun fólks. Þá geti þjarkarnir reynst slæmir fyrir fólk sem í raunverulegum vandræðum, þar sem þeir átta sig eðlilega ekki á því og geta ekki aðstoðað fólkið.
Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218.
Bandaríkin Tækni Gervigreind Geðheilbrigði Mest lesið Kári hættur hjá Íslenskri erfðagreiningu Innlent Grunaður um að hafa frelsissvipt ferðamann í nokkrar klukkustundir Innlent Lokunin óásættanleg og muni leiða til verðhækkana fyrir íbúa Innlent Segjast hafa lent í drónaárás á alþjóðlegu hafsvæði Erlent Hikar ekki við að lögsækja skyldi Rafmennt nota nafn skólans Innlent Drengnum sleppt en fleiri handteknir Erlent Munaði sex atkvæðum Erlent Mótmælt við ríkisstjórnarfund: „Oscar á heima hér“ Innlent Birgir Guðjónsson er látinn Innlent Kalla eftir mannúð og miskunnsemi stjórnvalda gagnvart börnum Innlent Fleiri fréttir Brand fær að ganga laus á meðan réttað er yfir honum Flokka Valkost fyrir Þýskaland sem öfgasamtök Segjast hafa lent í drónaárás á alþjóðlegu hafsvæði Drengnum sleppt en fleiri handteknir Munaði sex atkvæðum Waltz bolað úr embætti af Trump vegna Signal skilaboðanna Var svo „þreyttur á öllu“ að hann ákvað að aka inn í þvögu barna Börnum haldið innilokuðum í „hryllingshúsi“ í fleiri ár Yfirgefa Svíþjóð til að hraða þróun rafmagnsflugvélar Getur frelsað El Salvador-fangann en vill það ekki Skrifa nú undir samninginn sem féll af borðinu eftir hitafundinn Sænskur blaðamaður dæmdur fyrir að móðga Erdogan Ellefu slasaðir og þrír alvarlega í Kaupmannahöfn Segja 4.700 Kimdáta hafa fallið eða særst Danakonungur til Grænlands í annað sinn á skömmum tíma Ungi morðinginn flúði nýverið af vistheimili Segir sveppaeitrunina hafa verið „hörmulegt óhapp“ Rýnt í stöðuna í Úkraínu: Rússar ítreka umfangsmiklar kröfur og Trump hótar að fara í fússi Ungur maður handtekinn vegna morðanna í Uppsölum Fagnaði fyrstu hundrað dögunum í Hvíta húsinu Pakistan segir Indland mögulega gera árás á næstu klukkustundum Árásarmannsins enn leitað Þrír látnir eftir skotárás í Uppsölum Fella niður hluta ákæru á hendur meintum sveppamorðingja Íhuga að loka Everest öðrum en reyndu göngufólki Bannað að selja auðmönnum evrópskan ríkisborgararétt Orsakir rafmagnsleysisins sögulega enn óþekktar Fjórir létust þegar bíl var ekið í gegnum frístundaheimili Allt að komast í samt lag á Spáni og í Portúgal Carney og Frjálslyndir fóru með sigur af hólmi Sjá meira