Gervigreind mannkyni til velfarnaðar

Vitvélastofnun Íslands, sem stundar rannsóknir á gervigreind og hermilíkönum, mun ekki taka þátt í rannsóknum á gervigreind eða sjálfstýringu véla í hernaðarlegum tilgangi. Rannsóknir stofnunarinnar munu ávallt þjóna friðsamlegum tilgangi. Þetta er á meðal þess sem kemur fram í nýrri siðastefnu stofnunarinnar. Hún er sú fyrsta sinnar tegundar.

„Auknir möguleikar stjórnvalda vítt og breitt til að beita háþróaðri tækni til að njósna um löghlýðna þegna sína, og um leið fara á svig við rótgrónar reglur og lög sem eiga að vernda borgara fyrir rofi á friðhelgi einkalífsins, eru smátt og smátt að verða viðtekin venja.

Tækni byggð á gervigreind og öflug sjálfvirkni mun á næstu árum og áratugum bjóða upp á möguleikann á að gera hlutina enn verri,“ segir í siða­stefnunni. Markmið Vitvélastofnunar sé að stuðla að framþróun vísindalegs skilnings á heiminum, samhliða því að virkja þá þekkingu mannkyni til velfarnaðar.

Dr. Kristinn Rúnar Þórisson, framkvæmdastjóri Vitvélastofnunar og dósent við tölvunardeild Háskólans í Reykjavík, segir að uppruna siða­stefnunnar megi rekja langt aftur í tímann og til rannsókna hans á gervigreind síðustu 15 árin.

„Fyrst og fremst eru þetta áhyggjur af þeirri stefnu sem gervigreind og rannsóknir á henni eru að taka í hernaðarlegu samhengi,“ segir Kristinn.

„Það þarf ekki að lesa nema nokkrar blaðsíður í mannkynssögunni til að sjá dæmi um misbeitingu vísindalegrar þekkingar. Þótt engin stríð hafi verið í Evrópu í sjötíu ár megum við ekki sofna á verðinum. Við verðum að vera á varðbergi gagnvart möguleikum nýrrar þekkingar og þá sérstaklega misbeitingu hennar. Við tökum þann pól í hæðina að vísindamennirnir sjálfir geti og eigi að taka skýra afstöðu til nýtingu þeirrar þekkingar sem þeir framleiða.“

Nýtt vígbúnaðarkapphlaup

Gervigreind er þegar farin að móta daglegt líf okkar. Hún er notuð í símkerfum heimsins, leitarvélum, stjórnun gatnakerfa sem og í hátíðniviðskiptum þar sem fjárfestar kaupa og selja á ógnarhraða án aðkomu miðlara við lyklaborð (kaupin eiga sér stað á einum milljónasta úr sekúndu). Njósnanet bandarísku þjóðaröryggisstofnunarinnar sem Edward Snowden svipti hulunni af er knúið af hugbúnaði og tækjum sem ekki væri nokkur möguleiki að vinna úr án aðkomu sjálfvirkni og gervigreindar.

Gervigreind af þessum toga er afar skilvirk við úrvinnslu gagna, en þegar hernaður er annars vegar verður hún að geta gert það sem mannskepnan hefur verið forrituð til að gera: að skilja mynstur.

Á allra síðustu árum hafa miklar framfarir átt sér stað í radar- og leysitækni, sem og í þróun innrauðra skynjara. Flugskeyti sem búin eru frumgerð af gervigreind sem þekkir og skilur mynstur eru þegar í notkun. Slík vopn hafa verið notuð í baráttunni við Íslamska ríkið. Það var raunin í maí 2014 þegar Brimstone-flugskeyti sprengdi í loft upp brynvarðan trukk IS eftir að hafa skorið úr um að bílar og rútur í nágrenni við hann voru ekki verðug skotmörk. Hugbúnaður er alveg jafn mikilvægur og sprengjuhleðslan í loftskeytum nútímans.

Varnarmálaráðuneytið í Bandaríkjunum hefur jafnframt vakið athygli á því að nauðsynlegt sé að viðhalda aðkomu mannsins að ákvarðanatöku þegar skotmörk eru annars vegar. Þetta er nokkuð sérstakt enda eru það Bandaríkjamenn sem voru og eru brautryðjendur í þróun snjallra loftskeyta. Tomahawk-flugskeytið var upphaflega búið tækni sem skimaði eftir sovéskum herskipum. Ný fyrirmæli Pentagon kveða á um að vopn framtíðarinnar verði að leyfa aðkomu stjórnanda og að manneskjan verði á endanum að taka ákvörðun um skotmörk.

Kristinn bendir á það gríðarlega flækjustig sem myndast með úrvinnslu gagna af slíkum toga. Ómögulegt sé fyrir manneskju, með sína aumu eitt hundrað milljarða taugafrumna að verki, að vinna rökrétt úr slíkri flóðbylgju gagna og taka rétta ákvörðun á örfáum sekúndum. „Þegar fram í sækir, og sjálfvirknin verður komin alls staðar inn — sem hún mun gera því það er hagkvæmt og það er hægt — þá er algjörlega út í hött að vera með manneskju í þessari stöðu. Vélin tekur ákvarðanir á hraða sem manneskjan getur ekki fylgt eftir.“

Í siðastefnunni er bent á að stór hluti rannsóknarstyrkja og fjármagns komi úr fjármagnssjóðum merktum hernaði og rati í hendur þeirra sem þróa gervigreind og tengda tækni í hernaðarlegum tilgangi. Aukið flæði fjármagns muni því óneitanlega leiða til vígbúnaðarkapphlaups.

„Við erum að stunda rannsóknir á gervigreind sem í eðli sínu er ekkert öðruvísi en sú sem hernaðarsjóðir margra þjóða hafa verið að styrkja í áratugi. Þess vegna tökum við þessa stefnu. Þetta er eina rétta og skynsamlega ákvörðunin. Sama hvort maður tilheyrir þjóð sem á í átökum eða ekki, þetta er eina heilbrigða niðurstaðan sem getur komið út úr slíku hugsanaferli,“ segir Kristinn og ítrekar að víðtækar persónunjósnir Bandaríkjastjórnar sé dæmi um hvernig ný tækni er notuð gegn almenningi. „Þetta er misnotkun á þekkingu, gegn almennum borgurum.“

Enginn vísindaskáldskapur

Siðastefnan var birt í nýjasta fréttablaði Vitvélastofnunarinnar og dreift víða með rafpósti hérlendis og erlendis.

„Það hefur nánast enginn minnst á þetta við mig,“ segir Kristinn. „Ég hef orðið fyrir vonbrigðum með viðbrögðin innanlands, hingað til, því ég hef fengið fín viðbrögð að utan en það tekur kannski einhvern tíma að síast inn.“

Ástæðuna fyrir þessu dræmu viðbrögðum má mögulega rekja til þess hvernig við hugsum um gervigreind almennt. Líklega tengja fáir hugmyndina við hátíðniviðskipti eða ryksuguvélmennið Rúmba. Orðið gervigreind vekur frekar upp hugmyndina um þungvopnaða og morðóða járn-beinagrind sem traðkar á visnaðri höfuðkúpu.

Gervigreindarfræðin er stórkostlega flókið fag. Eins og með aðrar vísindagreinar sem starfa á jaðri mannlegrar þekkingar, þar sem vísindi og heimspeki eiga stefnumót, þá er ekki skrýtið að við kjósum frekar að halda okkur við staðlaðar hugmyndir.

Kristinn vonast til að fólk skyggnist undir yfirborðið, horfi frekar til samtímans og þess sem á sér stað nú í gervigreindarfræðum en ófyrirsjáanlegrar framtíðar.