Erum við í hættu? Ólgan kringum gervi­greind

Algengasta umræðan kringum gervigreind síðustu misseri hefur líklega verið sú hvað verður um störfin okkar. Síðustu vikur hefur umræðan hins vegar færst yfir í drungalegri pælingar eftir fréttir vestanhafs af alvarlegum öryggisatvikum sem benda til þess að þau sem eru að þróa mállíkönin séu að missa stjórn á tækninni. Í júlí gáfu yfir þúsund starfsmenn leiðandi gervigreindarfyrirtækja út undirskriftarlista til að pressa á stjórnvöld Bandaríkjanna að setja skorður á þróunina áður en hún fer úr böndunum. Starfsmenn fyrirtækjanna eru að segja upp og stíga fram til að vara fólk við að það sé verið að þróa tækni sem gæti útrýmt mannkyninu.

Umræðan er því búin að færast yfir í vangaveltur um hvort við séum í hættu vegna gervigreindar. Ef maður talar við fólk sem hefur lifað gegnum vár eins og kalda stríðið þá gera þau lítið úr þessum dómsdagspælingum og fullvissa mann um að það sé alltaf verið að spá heimsendi en svo fari allt vel á endanum. Markmið þessara skrifa er að skyggnast aðeins betur inn í hvað er raunverulega að gerast þarna úti í heimi.

AGI sumarið 2026

Almenn gervigreind (e. Artificial General Intelligence eða AGI) er á allra vörum þessa dagana. Þegar OpenAI gaf út nýjasta módelið sitt í byrjun september sagði Greg Brockman, forseti OpenAI: „Velkomin á öld almennrar gervigreindar.“ En hvað er almenn gervigreind? Það er ekki sameiginlegur skilningur á því hvað felst í slíkri greind en í stuttu máli er það kerfi sem getur framkvæmt sömu vitsmunalegu verkefni og fólk almennt getur. Sem sagt, þegar gervigreind verður jafn klár og við mannfólkið.

Leiðandi gervigreindarfyrirtæki eins og OpenAI og Anthropic hafa setið undir harðri gagnrýni vegna yfirlýsingaglaðra stjórnenda, því við þurfum að muna að horfa á heildarmyndina: Þessi fyrirtæki eru á leið á markað. Fyrirtækin hafa beinan hagnað af því að telja okkur trú um stórkostlega framtíð, því það ræður verðmiðanum á útboðinu þeirra. Í lok ágúst var greint frá því að Anthropic myndi líklega meta markaðinn á 30 billjónir bandaríkjadala en til samanburðar var landsframleiðsla Bandaríkjanna um 30,8 billjónir dala í fyrra.

Gervigreind sem bætir sig sjálf

Þótt æsingurinn í sumar hafi mögulega verið markaðstól þá þýðir það ekki að framfarirnar séu eintómur uppspuni. Það sem starfsfólk innan gervigreindarfyrirtækjanna óttast er fyrirbæri sem á ensku er kallað recursive self-improvement (RSI) eða gervigreind sem bætir sig sjálf. Í dag þekkjum við gervigreind sem spjall í tölvu og sum eru farin að nýta þetta spjall í að framkvæma aðgerðir fyrir þeirra hönd gegnum tengingar við kerfi. Gervigreindarmódelin bak við þessi spjöll eru að verða betri og betri og því fylgir að þau verði sjálfstæðari – þau eru farin að verða hraðari og betri í að leysa flókin verkefni fyrir okkur. Með meira sjálfstæði gæti gervigreindin farið að bæta sig sjálf með meiri gögnum, meira reikniafli, með áður ófundnum leiðum, með samvinnu fjölda agenta og svo framvegis.

Dario Amodei, forstjóri Anthropic, skrifaði í september að sjálfbætandi gervigreind væri þegar farin að eiga sér stað þvert á greinina og að án aðhalds gæti hún vaxið hraðar en við náum að skilja eða hafa stjórn á. Við erum nú þegar farin að sjá dæmi um þetta en í sumar tilkynnti OpenAI að stærsta módelið þeirra hefði sjálft séð um þjálfun minna módels út frá óljósum fyrirmælum rannsakenda. Sama módel endurskrifaði líka kóðann sinn og lækkaði rekstrarkostnað um 20%.

Af hverju er talað um að við séum í hættu?

Gervigreindin virðist enn vera fyrirbæri sem er fast í tölvunni. Hvar liggur hættan þá? Algengt dæmi er að líta á mannfólk og maura. Okkur er ekki sérstaklega illa við maura en ef þeir eru fyrir okkur þá hikum við ekki við að losa okkur við þá. Ef við ætlum að leggja niður veg þá látum við ekki maurabú stoppa þá framkvæmd.

Sjálfbætandi gervigreind er ekki hættan sjálf heldur má líta á hana sem nokkurs konar hraðal sem margfaldar það sem er sett í hann. Ef við nýtum RSI einungis til að vinna samkeppnina í kapphlaupinu um hver nær að þróa bestu og hæfustu gervigreindina, sama hvað, þá gæti tæknin orðin hættuleg. Hraði kallar oft á fórnir á öðrum stöðum eins og til dæmis öryggi.

Hvernig lítur sjálfbætandi gervigreind út án aðkomu manneskju? Áhættur eins og að tæknin geti farið að blekkja mannfólk eða stjórna, útvegað sér sjálf það sem hún þarf eins og meira reikniafl, peninga eða aðgang að kerfum, framkvæmt aðgerðir án leyfis og orðið klókari en mannfólk á sviðum eins og pólitík og hernaði. Ef kerfið tekur fram úr mannfólki með þessum hætti, hvað gerist ef hagsmunir skarast? Það eru þessar vangaveltur sem gera það að verkum að orðræðan er komin í áttina að neikvæðum birtingarmyndum almennrar gervigreindar.

Við þurfum að hafa í huga að þessi RSI-hraðall margfaldar líka það sem er gott. Í þeirri framtíðarsýn þar sem gervigreindin er þróuð með ábyrgum og öruggum hætti, þá gætum við fengið að sjá ódýrari og hreinni orku, bóluefni sem tekur aðeins vikur að samþykkja, fjölda sjúkdóma læknaða og heim þar sem vannæringu, lyfjaskorti og heimilisleysi hefur nánast verið útrýmt.

Spurningin er ekki hvort hraðallinn verði að veruleika heldur hvað verður sett í hann, hver situr við stýrið og hvert markmiðið er með honum. Það er einnig svarið við spurningunni hvort við séum í hættu eða ekki.

Tækni sem snertir okkur öll

Það er nokkuð ljóst að tækninni fleygir áfram og með tilkomu almennrar gervigreindar, sama hvort hún er í dag eða ekki, eru nýjar spurningar sem við þurfum að spyrja okkur.

Þessari grein var ekki ætlað að reikna út líkurnar á heimsendi en það er mikilvægt að skilja hvaðan þessi orðræða kemur. Þegar 1386 starfsmenn frá fyrirtækjum, sem annars eru í harðri samkeppni, koma sér saman um ákall um að hægja á þróuninni þá er betra að vita um hvað málið snýst.

Kalda stríðið fór vel af því að fólk smíðaði mælitæki, samdi um eftirlit og mannfólk tók ákvarðanirnar. Það er nákvæmlega það sem við þurfum að gera núna. Það er eðlilegt að hugurinn reiki að heimsenda, en það hefur hann alltaf gert ef við skoðum söguna. Sama hvort okkur líkar það eða ekki, þá eru alltaf einhverjar líkur á að allt fari úr böndunum af völdum manna og það er engin breyting á því í dag. Það sem skiptir máli í dag er að við höldum okkur upplýstum, leyfum ekki stórum yfirlýsingum að hræða okkur og myndum okkur skoðun á þessari þróun svo við getum tekið þátt í umræðunni sem á við okkur öll, um allan heim.

Höfundur er sérfræðingur í gervigreind hjá Almannarómi, miðstöð gervigreindar og máltækni.