Gervi­greind og dóm­greind

Það er mögulega að bera í bakkafullan lækinn að birta enn eina greinina hérna á Vísi um gervigreind. Mér finnst ég þó knúinn til að skrifa nokkur orð eftir að ég var viðmælandi í þætti af Silfrinu á RÚV fyrir nokkru síðan. Ég hef svo sem alveg tekið þátt í fjölmiðlaumræðu áður en sjaldan fengið eins mikil viðbrögð sem mörg hver byggðu á ákveðnum misskilningi um að mér gæti ekki verið alvara. Í þættinum sagðist ég reyna að halda mig frá skapandi gervigreind – að minnsta kosti eins og mér væri frekast unnt. Gervigreind sé vissuleg víða þannig að það geti verið flókið að halda sig alveg frá henni.

Ég líkti þessari afstöðu minni við að vera grænkeri varðandi gervigreind (AI Vegan). Það líkingarmál kemur svo sem ekki frá mér heldur hefur það verið að ryðja sér til rúms undanfarið. Hugmyndin byggir á því að ástæðurnar sem gera mann tortrygginn í gerð óheftrar notkunar á skapandi gervigreind séu mögulega ekki ólíkar því að halda sig frá neyslu kjöts. Það eru fórnarlömb í þessu eins og öðru. Sjálfur hef ég mestan áhuga á höfundarréttarmálum sem þróun og notkun mállíkana hefur að miklu leyti bandað frá sér. Lítið tillit hefur verið tekið til áhyggna skapandi stétta. Einnig eru umhverfisáhrifin umtalsverð. Hver og ein notkun er mögulega ekki orkufrek en það felst mikil ábyrgð í því að ýta öllum í fang gervigreindar enda mun það kalla á áður óþekkta orkuþörf. Að lokum eru áhrif á heilsu okkar mögulega neikvæð. Í tilviki gervigreindar hef ég áhyggjur af andlegri heilsu okkar. Það er hollt að hugsa og fátt bendir til þess að við gerum of mikið af því. Ef gervigreind minnkar hugsun okkar er hætt við að áhrifin geti orðið býsna alvarleg.

Misskilningurinn sem vaknaði við orð mín í Silfrinu kemur til vegna þess að fólk heldur að ég leyfi engar undantekningar. Mögulega var ég ekki nógu skýr með það. Auðvitað eru margir hópar og fagstéttir sem mega, og mögulega eiga að, nota gervigreind. Ég ætla til dæmis ekki að segja forriturum að þeir eigi að neita sér um stórkostlega tímasparandi tækni. Og í náinni framtíð verður óðs manns æði að neita heilbrigðisstéttum sem byggja starf sitt á óhóflegu magni upplýsinga um tækni sem gerir starf þeirra öruggara og skilvirkara. Þá væri galið að ætlast til þess að störf sem byggja að stórum hluta á afgreiðslu erinda af svipuðu tagi nýti ekki svona tækni til að aðstoða sem flesta þjónustuþega. Öll þurfum við svo að nota gervigreind öðru hvoru enda að mestu búin að taka við hefðbundinni leit á netinu. Punkturinn hjá mér er hins vegar fremur einfaldur: Þetta eru undantekningar. Meginreglan á að vera að við spörum við okkur tækni sem dregur úr hugsun okkar og brenglar hugmyndir okkar um ábyrgð á eigin ákvörðunum og verkum.

Margs konar nýsköpun er bæði mikilvæg og eðlileg. Og auðvitað er að skapast mikill iðnaður í kringum spennandi tæknilausnir sem svo tengjast á ólíkan máta þeim fyrirtækjum sem bjóða upp aðgang að skapandi gervigreind. Sumt er sniðugt og mikilvægt fyrir tiltekna aðila á meðan annað mætti missa sín. Á meðan við erum í þessum byrjunarfasa er sérstaklega mikilvægt að vera gagnrýnin á það sem verið er að bjóða upp á. Einnig er mikilvægt að muna að sjónarhornin eru alltaf fleiri en eitt. Gervigreindarlausn getur verið hentug fyrir vinnustað en um leið skaðað vinnumarkað. Samfélagsleg áhrif geta einnig verið umtalsverð þótt svo virðist ekki við fyrstu sýn þegar starfsfólk tekur hana í þjónustu sína. Þröngt sjónarhorn kallar á takmarkaðar vangaveltur.

Við megum þó ekki gleyma því að umræða samtímans snýst um tiltekna gerð gervigreindar sem ætlað er að koma í stað þess að við höfum hingað til talið vera okkar mannlegustu eiginleika. Margs konar algoritmar eru fyrir löngu orðnir fyrirferðarmiklir í tilveru okkar. Sumir fara jafnvel ansi nálægt því að stjórna henni. En við erum ekki að tala þessa dagana um slíka gervigreind. Skapandi gervigreind snertir svo viðkvæma strengi í okkur því hún virðist geta leyst okkur undan því sem getur reynst krefjandi þáttur í mannlegri tilveru: Að beita dómgreind okkar. Við þurfum ekki að sitja við tölvuskjáinn og velta fyrir okkur hvernig er best að orða hlutina. Texti (og auðvitað myndir líka) verður til á örskotsstundu. Flokkun á flóknum gögnum er komin á blað án þess að við þurfum að liggja yfir þeim. Auðvitað reynum við að telja sjálfum okkur og öðrum trú um að við sendum ekkert frá okkur nema eftir gagnrýna yfirlegu og ígrundun. En innst inni vitum við að tímasparnaðurinn færir okkur einfaldlega beint að næsta verkefni.

Auðvitað er það rétt sem annar viðmælandi sagði í Silfursþættinum: Hættan er meiri af heimsku fólki en greindum vélum. Sjálfur hef ég aldrei fylgt eftir pælingum um að gervigreind sé beinlínis hættuleg. Það er engin ástæða til að ætla að okkur standi bein hætta af þeim gerðum gervigreindar sem núna eru komnar fram, hvað svo sem gerist í framtíðinni með frekari byltingum í þessari tækni. Hættan er óbein og hún byggist fyrst og fremst á því dómgreind okkar fari hrakandi með sífellt meiri notkun gervigreindar sem færir okkur full skapaðar niðurstöður. Dómgreind þroskast við notkun. Notkunin felst í að beita henni í sköpunarferlinu – hugsunarferlinu – en ekki til að fara yfir og bera saman niðurstöður.

Að lokum vil ég segja að ein ástæða þess að ég vil minna á þessar skoðanir mínar er sú að núna eru stjórnvöld um allan heim að setja sér alls konar markmið og stefnur um gervigreind. Það sem ég hef séð af slíkri stefnumótun er einkennilega takmarkað. Hér á Íslandi getum við ekki bara sett okkur stefnu um svona fyrirbæri úr samhengi við alla þá þætti tilverunnar sem gervigreindin snertir. Við þurfum til dæmis einhvers konar viðbragðsáætlun um íslenskar bókmenntir áður en við fögnum þeim tækifærum sem gervigreind færir þjóðinni. Og það gengur ekki upp að tala fjálglega um möguleika gervigreindar í heilbrigðismálum ef um leið til streitu er haldið „hörgulstefnu í vísindamálum“ og menntun ungs vísindafólks, en staðan í þeim málum var útskýrð á ítarlegan hátt í grein hér á Vísi nýlega. Vönduð innleiðing á gervigreind felst ekki eingöngu í því að hlusta á þá sem segja okkur hvað sé mögulegt.

Höfundur er heimspekingur.