Gervi hvað?

Tónlistarstreymisveitan Spotify hefur ákveðið að merkja þá tónlist sérstaklega sem er unnin af gervigreind og þeir segja að sú tónlist verði ekki hluti af algóritmanum sem beinir tónlistinni til okkar.

Mér finnst þetta góðar fréttir vegna þess að tölvur og önnur verkfæri ber að nota sem stuðning við sköpunargáfu listamanna en ekki sem sjálfstæður framleiðandi listar. Slíkt getur aldrei orðið annað en eftirherma þess sem á undan er gengið og mun að öllum líkindum valda stöðnun á sviði tónlistar. Hér má finna yfirlýsingu þessa risa á sviði tónlistariðnaðarins.

Mér eru þessi mál hugleikin því mér sýnist að algjört stjórnleysi ríki á þessu sviði. Einn af þeim rithöfundum sem hefur haft mest áhrif á mig er Isaac Asimov. Hann spáði fyrir um þróum gervigreindar og varaði við afleiðingum hennar.

Asimov kynnti fyrsta sinni árið 1942 þrjár meginreglur eða lögmál um vitlíki eða gervigreind í smásögunni „Runaround“(sem birtist í safninu I, Robot, frá 1950), þótt hann hefði í eldri sögum ýjað að svipuðum reglum.

Þrjár reglur úr Handbók um Vélmenni, 56 útgáfa, 2058 A.D“, eru:

1. Vélmenni má ekki meiða mann eða, með aðgerðaleysi, leyfa manneskju að verða fyrir skaða.

2. Vélmenni verður að hlýða skipunum frá mönnum nema þar sem slíkar skipanir stangast á við fyrsta lögmálið.

3. Vélmenni verður að vernda eigin tilveru svo lengi sem slík vernd stangast ekki á við fyrsta eða annað lögmálið.

Isaac Asimov

Þessar reglur þóttu mjög fjarstæðukenndar á sínum tíma en eru það svo sannarlega ekki núna.

Nokkrar pælingar úr núinu

Þróun sjálfvirkni og gervigreindar er hröð og ekki úr vegi að horfa til baka og bera saman það sem var og það sem er að verða. Við viðskiptavinir verslana og annarra þjónustufyrirtækja erum í miklum mæli tekin að sinna allskonar verkum sem áður voru í höndum starfsfólksins.

Ég man eftir því að hafa fyrir löngu ekið hvítum, breskum Commer sendiferðabíl sem mátti muna sinn fífil fegurri inn á Olís-bensínstöðina í Mjódd. Þar tók á móti mér einkennisklæddur maður sem stóð við dæluna og ég veit að skaust stundum til að fá sér smók fyrir aftan stöðina þegar færi gafst.

Ég, eins og aðrir viðskiptavinir, bað starfsmanninn um að fylla tankinn eða dæla bara á bílinn fyrir ákveðna upphæð. Á meðan eldsneytinu var dælt á tankinn rölti ökumaðurinn inn í stöðina að afgreiðsluborðinu og rabbaði við afgreiðslumanninn sem stóð fyrir aftan það.

Hugsanlega var keypt lítil kók í gleri og Prince Póló-súkkulaðikex. Loks heyrðist svo bjöguð rödd úr hátalara kalla eitthvað á þessa leið: 4000 þúsund kall á dælu tvö, fjögur þúsund á dælu tvö. Ökumaðurinn kannaðist við það að hafa lagt ökutækinu við dælu tvö og reiddi fram upphæðina með reiðufé eða ávísun, kvaddi og fór.

Þetta er löngu horfinn tími og líklegast yrði maðurinn við pumpuna rekinn á staðnum ef hann reykti eða veipaði einhversstaðar nálægt stöðinni núna. Enda er hvorutveggja slæmir ósiðir.

Fyrir margt löngu fórum við að dæla eldsneyti á ökutækin sjálf. Það þótti mikil bylting. Á stöku bensínstöð má enn finna manninn við pumpuna en ef hann dælir fyrir þig kostar dropinn aðeins meira og þar sem flestum okkar finnst verðið alveg nógu hátt dælum við sjálf á ökutækið.

Starfsfólki bensínstöðva hefur í flestum tilvikum fækkað, er langflest inni og sinnir afgreiðslustörfum og því að brasa skyndibita fyrir viðskiptavinina. Söluturnum, sem einu sinni voru kallaðar sjoppur af einhverjum ástæðum, hefur fækkað og heyra nánast sögunni til.

Varla þekkist lengur að viðskiptavinurinn standi við búðarborð og biðji um það sem vantar en það gerist þó enn í undantekningartilfellum. Eiginlega held ég megi fullyrða að einungis starfsfólk bakaría, kjötbúða, fiskbúða og ísbúða hafi ennþá bein samskipti við viðskiptavininn með búðarborð eða glerjaðan kæli á milli.

Flest fólk sem eitthvað er komið við aldur man eftir að þurfa á föstudagseftirmiðdegi að troða sér inn í stöppuna í ÁTVR eða Ríkinu, eins og það var kallað í denn. Ég man þetta vel. Auðvitað þekkti ég annað hvert andlit í búðinni og oft voru samskiptin við aðra mjög skemmtileg meðan beðið var í þrönginni.

Alltaf bættist í hópinn. Loks komst ég með herkjum að afgreiðsluborðinu og bað um flösku af kláravíni. Kláravín var ódrekkandi ógeðsdrykkur sem var þó skárri en ekkert, enda hafði maður engin ráð á einhverju fínna til að væta kverkarnar og létta lundina.

Spennan varð oft óbærileg ef hann þarna afgreiðslumaður var á vakt. Hann var alltaf svo strangur sá – sem ég hafði ekki hugmynd um hvað hét. Hvað ef hann bæði nú um skilríki þá yrði að redda helginni öðruvísi því að auðvitað var ég ekki orðinn tvítugur þegar þetta var.

Heppnin var þó alltaf með mér. Ég var beðinn um skilríki til að sanna aldur minn í fyrsta skipti um það bil hálfum mánuði eftir tuttugasta afmælisdaginn minn á frostköldum föstudegi í janúar.

Harla glaður gekk ég út úr Ríkinu með Koskenkorva-vodka í brúnum pappírspoka í hendinni. Það var mun betri drykkur en Kláravín. Þarna voru engar eftirlitsmyndavélar en vei þeim sem afgreiðslumennirnir töldu of unga til áfengiskaupa og gátu ekki sannað annað.

Við erum löngu orðin vön því að ganga inn í matvöruverslanir þar sem við tökum okkur körfu í hönd eða ýtum á undan okkur kerru sem við fyllum af vörum sem okkur vantar í. Þetta er ágætis fyrirkomulag sem ég fyrir mitt leyti er alveg sáttur við.

Hér í eina tíð voru reknar svokallaðar nýlenduverslanir þar sem afgreiðslumaðurinn sótti og afhenti yfir borð, það sem viðskiptavinurinn æskti eftir. Sjálfsafgreiðsluverslanir tóku að ryðja sér til rúms upp úr miðri síðustu öld og breyttu miklu í viðskiptaháttum landsmanna.

Ég er líka orðinn alvanur því að kíkja á síðasta söludags merkinguna og kafa lengra inn í kælinn til að ná í vöru með sem lengstum geymslutíma. Allt er ítarlega skráð á umbúðir, sem einnig bera allar svokölluð strikamerki sem innihalda verðið auk fleiri upplýsinga um vöruna. Einnig leita ég með logandi ljósi að tilboðum og einhverjum afslætti því að kostnaðaráætlunin leyfir ekki annað.

Flestar matvöruverslanir hafa einn kassa opinn á háannatíma en annars sinnum við því að skanna inn vörurnar úr körfunni á sjálfsafgreiðslukassa. Þar kemur strikamerkið að góðum notum.

Þarna hefur starfsfólki einnig fækkað. Í mörgum verslunum situr unglingur við útgönguhliðið sem á að fylgjast með viðskiptavinum sem lenda í öngstræti við skannann eða reyna að nappa einhverju.

Öryggismyndavélarnar fylgjast með öllum okkar ferðum á milli hillanna og sér í lagi við afgreiðslukassana. Loks þegar allar vörurnar hafa verið skannaðar hefst greiðsluferlið.

Á með á allri þessari skemmtan stendur bíða þeir sem ekki hafa fundið kassa enn í röð og stara á hina sem púla við þetta ferli með mikilli vanþóknun, óþolinmæði og leiðindasvip á andlitinu.

Hugsanlega hafa sjálfsafgreiðslukassarnir kostað sitt en sparnaðurinn vegna fækkunar starfsfólks og stöðugt hækkandi vöruverð hefur örugglega skilað góðum arði til eigendanna þrátt fyrir fjárfestinguna.

Vínbúðin, Ríkið þið munið, er löngu hætt að selja vörur sínar yfir búðarborð og hefur sama hátt og er hafður á í matvöruverslunum. Þar eru þó ekki ennþá komnir sjálfsagreiðslukassar en það má alveg ímynda sér að nokkrum slíkum verði komið upp fljótlega, sem biðji viðskiptavinina um að skanna fingrafar eða augastein til að sanna árafjölda sinn á þessari plánetu. Tæknin kæmi þá í stað hans þarna stranga.

Allt er breytingum undirorpið

Fleira hefur breyst. Með tilkomu gervigreindar erum við hvött til þess að greina þá kvilla sem hrjá okkur sjálf á sérstökum veitum sem bjóða upp á slíkt. Það er í sjálfu sér hið besta mál að gervigreindin hjálpi stéttum heilbrigðisstarfsfólks en getur trauðla verið fullnægjandi til að gefa okkur möguleika á að tóra lengur.

Um þessar mundir er verið að gera kerfin á landamærastöðvum heimsbyggðarinnar sjálfvirkari. Við bókum flugmiðana okkar á netinu og prentum sjálf brottfararspjaldið eða vistum það í símanum okkar.

Svo þrömmum við inn í flugstöðina, skönnum brottfaraspjaldið og vegabréfið og horfum kankvís í myndavél. Samt ekki of kankvís enda þarf myndavélin að þekkja okkur. Hún sendir upplýsingarnar sem passinn hefur að geyma í tölvu sem ber þær á ofurhraða saman við ásjónu okkar til að tryggja að allt komi heim og saman.

Dugi það ekki til að bera kennsl á ferðalaginn er hann beðinn að reka fram vísifingur - ekki löngutöng vitaskuld – í græju sem skannar fingrafarið. Þessi þróun er að eiga sér stað nokkuð hratt og reglulega eru sagðar fréttir af miklum önnum og ringulreið í flugstöðvum og núna síðast hér á Flugstöð Leifs Eiríkssonar.

Á nokkuð löngu ferðalagi nýverið fór ég um fjóra flugvelli sem eru komnir mislangt á veg hvað varðar þessa nýju tækni. Ekki reyndist flókið að skanna vegabréfið og bíða eftir því að fyrra hliðið opnist.

Þegar það gerist stígur ferðamaðurinn, ég í þessu tilfelli, fram og í mörkuð fótspor þar sem standa skal grafkyrr til að vera rétt staðsettur fyrir myndavélina. Þegar myndatökunni eða skönnuninni er lokið, kennsl borin á viðkomandi og allt virðist klappað og klárt, þá opnast hlið númer tvö og við svo búið er þessu ferli lokið.

Þá tekur annað ferli við sem er langt í frá mitt uppáhald. Það snýst um að gegnumlýsa farangurinn til að ganga í skugga um það að ekkert sem er ólöglegt eða hættulegt verði tekið með um borð í flugvélina. Sú tilhögun finnst mér oft bæði erfið og ergjandi.

Langar raðir myndast oft og því getur dregist á langinn að komast í gegn sem getur tekið á. Þegar að beltinu er komið þarf að koma öllu því sem ferðalangurinn hefur með sér í þartilgerða og líklega sérhannaða bakka. Fartölvan verður til dæmis að fara í sinn bakka.

Handtaskan, yfirhöfn og annað fylgir svo á eftir í enn öðrum bökkum svo starfsfólk geti með gegnumlýsingu séð hvað í pjönkunum er að finna. Alla málmhlutir og annan farangur ber að leggja í enn aðra bakka.

Stundum kemur fyrir að maður þurfi að fara úr skónum, taka af sér úrið og losa beltið úr buxunum. Þetta getur verið tafsamt þar sem stundum gleymist þetta. Þá er ferðalangurinn sendur aftur til baka gegnum hliðið til að losa sig við þessa hluti, setja í bakka og ganga í gegn aftur.

Þegar í gegn er sloppið þarf að sækja farangurinn sem hefur verið gegnumlýstur og oft innir starfsfólkið eftir innihaldi þegar það sést ekki vel á skjánum. Loks þegar allt er komið heim og saman þarf að íklæðast skónum, setja upp úrið og þræða beltið. Troða þarf farangrinum aftur í töskuna sem opnuð var. Það getur verið strembið og tímafrekt að koma öllu í samt lag aftur.

En þetta hefst allt að lokum og allur þessi ferill er til þess gerður að tryggja öryggi okkar á ferðalögum. Flugrán og mannskæð hryðjuverk hafa fylgt þessum ferðamáta um áratuga skeið.

Hver man ekki eftir fréttum af farþegaþotum sem hryðjuverkamenn rændu og fleiri sögum? Til dæmis má rifja upp hryllinginn þegar þota PanAm-flugfélagsins var sprengd í loft upp í orðsins fyllstu merkingu yfir Lockerbie í Skotlandi þann 21. desember árið 1988.

PanAm flug 103 er eitt umtalaðasta atvik þessarar tegundar enda var rannsóknin sem fylgdi í kjölfarið mjög umfangsmikil. Aðstandendur þeirra sem fórust bæði í flugvélinni sjálfri og á jörðu niðri sóttu skaðabótamál gagnvart flugfélaginu. Samtök þeirra kröfðust einnig mun betri öryggisgæslu á flugvöllum svo stemma mætti stigu við þessari hræðilegu iðju hryðjuverkahópa.

Þótt þeir atburðir sem áttu sér stað í Skotlandi séu umtalaðir hafa fjölmargar sprengingar í flugvélum og flugrán átt sér stað um víða veröld og allt frá fimmta áratug síðustu aldar hafa slíkir ógnaratburðir kostað mörg mannslíf.

Nú, þá er það framtíðin

Nú er mikið rætt um gervigreind og hvaða áhrif sú tækni muni hafa á okkur öll. Meiri sjálfstýring sem kemur til af gríðarlegri vinnslugetu er að verða að raunveruleika. Hér að ofan lýsti ég ferlinu sem fer í gang þegar við ferðumst.

Í flugstöðvum er fylgst með okkur hvert fótspor, sem mér finnst í sjálfu sér í góðu lagi. Annað er um það að segja að hversdagslegt eftirlit með okkur hefur aukist gríðarlega undanfarna áratugi. Nú eru myndavélarnar út um alla Reykjavík sem horfa haukfránum gleraugum á okkur. Stjórnvöld eru að huga að því að útvíkka það eftirlitsnet sem nú þegar er í notkun.

Eftirlitsmyndavélar eru ágætar þar sem þær geta sannað umferðarlagabrot, eða jafnvel alvarlegri lögbrot, og hjálpað þeim sem umferðinni stjórna við að losa um tappa og tafir í umferðinni. En það er líka hægt að fylgjast með okkur hinum sem telja sig vera löghlýðna borgara sem ekki mega vamm sitt vita.

Auðvitað geta myndavélarnar góðu komið að gagni við að bera kennsl á þau sem brjóta af sér á einhvern hátt. Hryðjuverkaógnin sem að steðjar hefur einnig verið notuð til þess að fá okkur til að samþykkja þessa gríðarlegu vöktun.

Við erum öll búin fjarskiptatækjum í formi síma og tölva sem hægt er að rekja ferðir okkar, opna fyrir myndavélar og þess háttar. Nútíminn er ótrúlegri en framsýnustu vísindaskáldsagnahöfundar boðuðu fyrir nokkrum árum.

En hvað er að því að fylgst sé með okkur? Það er gríðarlega flókin spurning en í grunninn snýst allt sem við gerum um það að hafa frelsi innan þeirra reglna sem við eru flest reiðubúin að fylgja.

Fyrir 11. september árið 2001 var mikil andstaða við eftirlitssamfélagið en sú andstaða gufaði nánast alveg upp eftir að farþegaþotum var flogið á tvíburaturnana svokölluðu í New York og árásina á Pentagon. Atburðarásin var hröð og að þeim afstöðnum var líkt og flóðgáttir opnuðust.

Nú er svo komið að hægt er að rekja hvert okkar fótspor í stórborgum heimsins og víðar. Hægt er að rekja farsíma okkar og með smá nöldri fyrir dómstólum er hægt að skoða, hlusta á og horfa á öll okkar samskipti.

Þegar allt þetta stöðuga eftirlit hófst bentu nokkrir á það að tölvukerfin sem stjórnvöld höfðu yfir að ráða væru ekki nógu öflug til þess að nýta eftirlitsgetuna til fullnustu. Með tilkomu gervigreindar er sú röksemdafærsla fokin út í veður og vind.

Það eina sem virðist geta stöðvað eftirlitsþjóðfélagið í því að verða eins og því er lýst í vísindaskáldsögum er hversu gagnaverin eru gríðarlega frek á rafmagn og vatn til að kæla tölvurnar sem vinna á yfirsnúningi. Hvorugt er sjálfgefið né auðfengið og eitthvað verður undan að láta.

Í júlí 2026 brutust háþróuð gervigreindarlíkön OpenAI án mannlegra afskipta inn í kerfi gervigreindarfyritækisins Hugging Face og framkvæmdu yfir 17.000 aðgerðir. Þetta er staðfesting á fyrstu fullkomlega sjálfstæðu netárás gervigreindar sem var, nota bene, í einangrun og átti ekki að geta komist út á veraldarvefinn. AI forritið komst þó samt út á alnetið og gervigreindin er farin að spila sóló. Hvenær fer hún að brjóta reglur Asimovs?

Sérfræðingar höfðu varað við að eitthvað þvílíkt gæti gerst en stjórnvöld hvar sem er í heiminum virðast hvorki hafa getu né þekkingu til þess að setja einhverjar leikreglur á þessu sviði. Eigendur fyrirtækjanna sem eru í fararbroddi gervigreindarþróunar eru ríkustu menn í heimi sem eru í stórhættulegri pissukeppni hver við annan.

Stóra spurningin hlýtur því að vera hvernig veröldin muni líta út eftir nokkur ár?

Höfundur er kvikmyndagerðarmaður.