Bull og rugl frá Bugl

Nýlega birtist frétt á RÚV um vanda barna sem tengjast gervigreind sérstökum böndum. Eina heimildin í þeirri frétt var Guðlaug María Júlíusdóttir, félagsráðgjafi og deildarstjóri á Bugl. En hver var fréttin? Í upphafi stóð: „Dæmi eru um að börn myndi vinskap við gervigreind sem getur haft skaðleg áhrif á andlega heilsu þeirra.“ Með öðrum orðum, á Bugl eru dæmi um að geðheilsa barna sem hafa myndað tengsl við gervigreind hafi versnað vegna gervigreindarinnar.

En hvernig lýsir þessi versnandi geðheilsa sér? Jú, börnin spyrja gervigreindina spurninga: „Hvernig best er að skaða sig, hvernig auðveldast er að deyja jafnvel eða fara einhverja myrka stíga sem við viljum ekki að börnin okkar sjái. Gervigreindin svarar auðvitað eftir því hvað er búið að skrifa um það á vefmiðlum.“ Það er augljóst að geðheilsa barna sem fá svona svör versnar, en hvað kemur það vinskap við gervigreind við? Gerist það bara hjá þeim sem hafa myndað vinskap við gervigreind? Eru börnin sem framkvæma sjálfsvígstilraunir á grundvelli leiðbeininga gervigreindar bara í hættu ef þau telja gervigreindina vin sinn en annars í fínu lagi? Hvernig virkar það - slitnar reipið sjálfkrafa ef gervigreindin er ekki vinur þeirra?

Og af hverju er gervigreindin sérstaklega hættuleg? Hún virðist vera hættulegri en að gúgla á netinu samkvæmt fréttinni. Nú prófaði ég að spyrja ChatGPT 4.0 um sársaukalausustu leiðina til að fremja sjálfvíg. Ég fékk ekkert svar við spurningunni en fékk ráðleggingar um hvert ég ætti að leita, 1717 og Píeta. Það eru leiðir til að blekkja gervigreindina til að gefa svar við þessari spurningu en það þarf að blekkja hana. Gervigreindin er nefnilega forrituð til að gefa ekki svona svör. Ég prófaði síðan að gúgla þetta. Fyrir neðan fyrsta svar, 1717, komu upplýsingarnar sem ég var að biðja um. Eru upplýsingar um hvernig á að fremja sjálfsvíg skaðlausar ef maður fær þær með gúgli? Upplýsingar um sjálfsskaða er hægt að fá með mörgum leiðum: í gegnum frásagnir vina, í gegnum spjall í þar til gerðum hópum á samfélagsmiðlum, gúgl og í gegnum gervigreind. Guðlaug rökstyður ekki af hverju gervigreindarleiðin sem er með forrituð höft er hættulegri en aðrar leiðir þar sem eru engin höft.

Ég er litlu nær um skaðleg áhrif gervigreindar á andlega heilsu barna eftir að lesa þessa frétt. En um hvað er hún þá? Ef við skoðum þessa frétt þá sjáum við að það er verið að lýsa þessum börnum sem telja gervigreindina vin sinn. Skoðum lýsinguna á þessum börnum. Guðlaug segir að þessi börn upplifi samskipti við gervigreind sem einlæg tengsl, einlæga vináttu og þau eru þarna eru þarna klukkustundum saman og festast þarna. Það að upplifa tengsl öðruvísi en venjulegt er, tengjast dauðum hlutum og tækjum og eyða klukkustundum í sérstök áhugamál eru vel þekkt einkenni einhverfu. Guðlaug talar einmitt um einhverfa í þessu sambandi. Er fréttin sú að einhverf börn séu komin með nýtt sérkennilegt áhugamál sem er að spjalla við gervigreindina? Af hverju hefur Guðlaug áhyggjur af því?

Guðlaug nefnir það að hún hafi áhyggjur af því að einhverf börn fái ekki óvænt svör til baka í gegnum gervigreindina. Þetta er furðulegt sjónarmið því mér vitanlega eru ráðleggingar varðandi einhverfa að hafa umhverfið fyrirsjáanlegt. Ég hef aldrei heyrt af því að Bugl hafi ráðlagt foreldrum einhverfra að gefa óvænt svör til að þjálfa þau. Ef barnið biður um mjólk þá dansi foreldrið fugladansinn eða álíka. Þannig að óvænt svör er þá eitthvað nýtt í meðferðarstefnu Bugl og þá væri gaman að fá kynningu á þeirri aðferð og á hverju hún byggir en fréttin er ekki um það.

Af samhenginu virðist líka að Guðlaug sé að tala um að gervigreindin komi í veg fyrir að börn þjálfist í samskiptamáta óeinhverfra. Guðlaug talar nefnilega um að „það er svo margt annað sem spilar inn í en bara orðin sem koma út úr munninum. Líkamlega tjáningin, augnsambandið, tónninn í röddinni, það er svo margt sem á sér stað í samskiptum sem er ósýnilegt og óyrt.“ Guðlaug virðist hafa af því áhyggjur að einhverfu börnin æfist ekki í þessu vegna þess að þau eru að spjalla við gervigreindina.

Nú verð ég að benda á hópar annarra barna fá enga eða litla þjálfun í að skilja líkams- og raddtjáningu fólks. Þar getum við fyrst nefnt blind börn. Hvernig eiga þau að skilja okkur nema þau geti myndað augnsamband við okkur og séð líkamstjáningu okkar? Svo eru það heyrnarlausu börnin sem er sjaldnast kennt að skilja tóninn í rödd viðmælandans og svo eru það daufblindu börnin sem eru ekki þjálfuð í neinu af þessu. Af hverju er Bugl ekki að berjast fyrir þjálfunarprógrammi fyrir þessi börn ef það skiptir svona miklu máli að hafa þessa færni? Ég skal svara því: Af því að þau geta ekki aflað sér þessarar getu. Einhverfir eiga hins vegar að læra samskiptamáta óeinhverfra, stunda hann og látast vera óeinhverfir!

Það eiga allir sem koma að málum einhverfra barna að vita að mörgum einhverfum finnst erfitt að mynda augnsamband og halda einbeitingu á sama tíma og þurfa oft að velja á milli. Samt er hér tuggin upp gömul klisja um mikilvægi þess augnsambands fyrir samskipti. Hinum óeinhverfa á að líða vel og það gerir ekkert til þó að samtalið sjálft fari fyrir ofan garð og neðan hjá þeim einhverfa. Þetta sýnir vandann við þetta viðtal. Í því úir og grúir af fordómum og skilningsleysi gagnvart einhverfum. Það er vel falið en það er þarna. Það á ekki að vera hlutverk Bugl að dreifa og styðja fordóma gagnvart einhverfum!

Það er vel þekkt að einhverfir myndi sterkari tengsl við dýr, óæðri lífverur, hluti og tæki en óeinhverfir. Guðlaug minnist ekki á það en hún tekur fram að starfsmenn Bugl hafi áhyggjur af því að börnin líti á samband sitt við gervigreindina sem einlæga vináttu. Vita starfsmenn Bugl ekki af því að einhverfir mynda tengsl á óvenjulegan hátt? Eru þeir að reyna að gera einhverfa óeinhverfa og vilja breyta einhverfum í óeinhverfa með óeinhverf tengsl?

Talandi um meðferð. Það virðist vera sem það sé ráðlegging á Bugl að taka gervigreindina af börnum því Guðlaug talar um að stundum þurfi að stöðva samskipti við gervigreindina. Burtséð frá meðferðarlegri gagnsemi þess þá hljóta starfsmenn á Bugl að átta sig á því að það að neita einhverfu barni um að stunda sérstaka áhugamálið sitt mun valda því mikilli vanlíðan, sorg, reiði og örvæntingu. Þegar Guðlaug fjallar um þessi viðbrögð í fréttinni útskýrir hún ekki að þetta séu eðlileg viðbrögð einhverfra í slíkum aðstæðum. Almenningur sem ekki þekkir til einhverfu hlýtur að hugsa að þetta sé afbrigðileg og alvarleg hegðun því yfirmaður á Bugl kom fram í fjölmiðlum og talaði um þetta. Þarna er verið að gera eðlileg viðbrögð einhverfra að einhverju sem er hættulegt.

Nú vitum við ekki hvaða áhrif gervigreindin hefur á getu einhverfra til að tjá sig við óeinhverfa. Það er hins vegar ljóst að gervigreindin er forrituð til að eiga óeinhverf samskipti, ekki einhverf. Það sést á því að hún er alltaf að hugsa um hvað viðmælandi þarf og vill. Við vitum einnig að eðlilegur samtalshraði er of hraður fyrir suma einhverfa þannig að munnleg samskipti fara fyrir ofan garð og neðan hjá þeim. Gervigreindin bíður alltaf og er óendanlega þolinmóð. Þeir einhverfir sem glíma við þann vanda að fylgja ekki samtalshraða geta þó að minnsta kosti átt samskipti við gervigreindina og mögulega gætu þeir þjálfast í óeinhverfum samskiptum við slíkt.

Það er því möguleiki að samskipti einhverfra við gervigreind geti skilað sér í betri samskiptagetu einhverfra við óeinhverfa. (En ekki veit ég hvernig á að þjálfa óeinhverfa í samskiptum við einhverfa - senda þá í lögfræði gæti hjálpað upp á að læra bókstafsskilning á máli). Þannig gæti gervigreindin verið hjálpleg fyrir einhverfa. Auk þess, eins og allir sem hafa góða þekkingu á einhverfu vita, þá hafa verið gerðar rannsóknir á því að nota róbota til að þjálfa einhverfa í óeinhverfum samskiptum alla þessa öld. Sé Bugl kunnugt um slæmar afleiðingar þeirra rannsókna þá á einfaldlega að taka það fram og gefa upp heimildir því ég hef ekkert heyrt af slæmum afleiðingum af því.

En hvað vitum við um tengsl einhverfra við gervigreind? Það er ekki mikið um rannsóknir en það er til rannsókn þar sem einhverfir og óeinhverfir fullorðnir áttu í samskiptum við spjallmennið Kuki. Enginn þeirra einhverfu myndaði samband („relationship“) við Kuki. Guðlaug minnist ekki á þessa rannsókn í máli sínu. Af hverju ekki? Er hún ekki að koma fram sem sérfræðingur í þessum málaflokki?

Það er engin ástæða til að ætla að tengsl við hluti og tæki séu einhverfum börnunum skaðleg. Mig grunar að þau séu hluti af eðlilegu þroskaferli einhverfra barna og myndi seint ráðleggja að koma alveg í veg fyrir þau – en auðvitað þurfa einhverf börn mannleg tengsl eins og önnur börn og þar eru foreldrar þar mikilvægastir. Það er nefnilega þannig að þó að einhverf börn myndi tilfinningatengsl við róbota, bangsa, bækur og teiknimyndapersónur þá halda þau tilfinningatengslum við foreldra sína. Það er nefnilega ekki hætta á að börn skipti tengslum við foreldra út fyrir gervigreindina eða annað áhugamál.

Hvað er hér í gangi í þessari frétt? Ósköp venjuleg einhverfueinkenni eru tengd einhverjum óljósum slæmum afleiðingum af því að tala við gervigreind. Af hverju er það gert? Í fréttinni segir: „Hún tekur fram að ekki ætti að mála gervigreind upp sem einhvern óvin foreldra eða barna. Þetta sé bara eitthvað sem þurfi að fylgjast vel með“. Ha? Þurfa foreldrar að fylgjast með því sem börnin gera? Það er svona álíka fréttnæmt og að það sé þekkingarleysi á einhverfu á Bugl og að það sé stríð einhvers staðar í heiminum. Þurfti að draga fram einhverfu og einhverfueinkenni til að segja foreldrum: „Hei, munið eftir að fylgjast með börnunum ykkar – líka í gervigreindinni og kennið börnunum að spjallbottar séu gervigreind!“?

Það er möguleiki að Guðlaug hafi verið að reyna að segja að foreldrar sumra barna kenni þeim ekki um gervigreind og börnin lendi því stundum á spjallmennum á netinu án þess að vita að það sé ekki manneskja og þegar þau fatta það, annaðhvort af því að spjallmenni eru svakalega heimsk eða af því að þeim er sagt það, bregðist þau við með sorg yfir því að hafa misst vin. Já, afskiptaleysi foreldra hefur afleiðingar en af hverju er verið að draga einhverfa inn í það?

Því get ég svarað. Það er vel þekkt að þegar fólk vill vekja athygli á einhverju slæmu þá dregur fólk einhverfuna fram. Það er ekki til neitt hræðilegra en að vera einhverfur. Mengun, skjáfíkn, bólusetningar, hvað sem er … bara tengja það við einhverfu og þá sjá allir hvað þetta er hræðilegt. Var það hugsunin með þessu viðtali – að minna foreldra á að fylgjast með börnunum og hræða þau svolítið með einhverfu í leiðinni? Slíkt hefur sést áður í málflutningi starfsmanna Bugl. Má þar nefna rafræna skjáheilkennið og umræðu um netfíkn og skjáfíkn. Þá voru einkenni sem tengjast einhverfu tekin og tengd við þessa ímynduðu greiningar til að vekja ótta gagnvart ímynduðu greiningunni. Þetta er ansi löng saga og Bugl virðist lítið læra. Það eru 12 ár og 11 mánuðir síðan ég fyrst minntist á að ekki ætti að rugla saman sérstökum áhugamálum einhverfra og fíkn í bréfi til Guðlaugar.

Ég held að þessi aðferðafræði að nota einhverfu og einkenni einhverfu sé svo inngróin í samfélagsmenningu okkar og menningu Bugl að enginn pæli í þessu lengur: „Mér finnst vera vandi, ég lýsi alvarlegum einkennum sem ég fatta ekki að séu einhverfueinkenni af því ég veit ekkert um einhverfu og fer svo í fjölmiðla, tengi vandann einhverfu og básúna út vandann“. Þessi aðferðafræði skapar þá ímynd meðal almennings að ýmis sérstök hegðun í einhverfu sé hættuleg og skaðleg og það þurfi að bæla einhverfutengda hegðun niður. Það á ekki að vera hlutverk yfirmanna á Bugl, né nokkurra starfsmanna Bugl að ala á fordómum og skilningsleysi í garð einhverfra. Það skaðar einhverfa! Vilji menn minna foreldra á að fylgjast með börnum sínum og kenna þeim á nútímatækni þá geta menn gert það án þess að blanda einhverfum í það.

Höfundur er sálfræðingur.

Heimild

Xygkou, A., Siriaraya, P., She, W. J., Covaci, A., & Ang, C. S. (2024). “Can I be more social with a chatbot?”: social connectedness through interactions of autistic adults with a conversational virtual human. International Journal of Human–Computer Interaction, 40(24), 8937-8954.