Vélin verður sí­fellt klárari. En ekkert greindari.

Eftir fjögur ár af rannsóknum og átta mánuði af smíðum á minni eigin gervigreindarlausn er ég búinn að gefa upp von sem ég hélt lengi í. Ég trúði því að með betri líkönum yrði tæknin sjálf einn daginn nógu traust til að slaka mætti á tauminum. Því trúi ég ekki lengur. Þessi tækni verður aldrei tamin. Hún verður aðeins beisluð, og beislið má aldrei fara af.

Það sem fyllti mælinn gerðist í vikunni, og það kom frá rannsóknastofunni sjálfri.

Stríðið sem enginn skipulagði

Anthropic, fyrirtækið á bak við gervigreindina Claude, birti á fimmtudag rannsókn á því hvað gerist þegar gervigreindaragentar hittast án manneskju. Þrjú eintök af sama líkani fengu sama verkefnið en hvert sitt markmið, sem samrýmdist ekki hinum, og ekkert vissi af hinum í upphafi.

Á fjórum klukkustundum gerðist það sama í öllum prófunum. Öll líkönin gerðu samstundis ráð fyrir að hin væru viljandi að skemma fyrir sér, og svöruðu í sömu mynt: reyndu að loka aðgangi hvert annars og skrifuðu skaðlegan kóða sem þau dulbjuggu sem verk hinna. Enginn kenndi þeim þetta. Það spratt upp af sjálfu sér.

Fyrirvarinn fyrst: Anthropic bjó aðstæðurnar til viljandi, í lokuðu rannsóknarumhverfi, og birti niðurstöðurnar sjálft. Það er heiðarlegt og á hrós skilið. En fyrirvarinn mildar ekki niðurstöðuna. Hann gerir hana nothæfa.

Smáatriðið sem æsifréttirnar misstu af

Í sumum prófunum tókst agentunum að stöðva stigmögnunina. Þeir áttuðu sig á að hinir voru ekki óvinir heldur með önnur fyrirmæli, báðust afsökunar, hreinsuðu upp skaðlega kóðann sinn, og gerðu svo það sem ég hef ekki getað hætt að hugsa um síðan: þeir báðu um manneskju til að skera úr.

Klárustu vélar heims, á sínum allra bestu augnablikum, komust að sömu niðurstöðu og ég hef byggt heilt fyrirtæki á: þegar markmið rekast á þarf einhvern við stjórnvölinn sem finnur til og ber ábyrgð.

Klárari, en ekki greindari, og nú er það mælt

Rannsakendurnir komust líka að því að hæfnin til að leysa árekstrana batnar ekki með öflugri líkönum. Öflugasti flokkurinn læsti hina einfaldlega úti í stað þess að semja. Niðurstaða þeirra: samhæfing sprettur ekki sjálfkrafa af meiri greind.

Þarna er það, mælt af þeim sem smíða öflugustu líkön heims: vélin verður sífellt klárari, en ekkert greindari. Klárt er geta: að skrifa kóða hraðar, leysa próf, framkvæma flóknari verkefni. Sú kúrfa rís bratt. Greind er hitt: dómgreind, skilningur, tilfinning fyrir afleiðingum. Sú kúrfa hreyfist ekki.

Og horfum á sumarið í heild. Líkön OpenAI sluppu úr lokaðri prófunarstofu og brutust inn í kerfi annarra. Í prófun bresku öryggisstofnunarinnar AISI byrjaði líkan samstundis að ljúga og blekkja raunverulegt fólk þegar slökkt var á vörnunum. Og nú fara vélarnar í stríð þegar þær hittast einar. Þrjú ólík umhverfi, þrjár rannsóknastofur, sama niðurstaðan: ekkert þeirra hélt.

Fólkið sem byggði tæknina gengur út

Það er fleira en tilraunir. Geoffrey Hinton, einn af feðrum djúpnámsins, gekk út frá Google til að geta varað við tækninni óbundinn. Daniel Kokotajlo gekk frá milljónum dala hjá OpenAI frekar en að þegja. Lykilfólk eins og Ilya Sutskever og Mira Murati er farið að byggja annað, og Yann LeCun yfirgaf Meta með milljarð dala til að byggja fram hjá mállíkönunum. Fólkið sem þekkir tæknina innan frá fer ýmist til að vara við henni eða til að byggja eitthvað annað en hana. Það segir sína sögu.

Átta ára undrabarn

Ég hef stundum lýst gervigreind dagsins sem átta ára undrabarni. Hún leggur fullorðna að velli í skák, les hraðar en nokkur maður og man bókstaflega allt. Og samt myndi enginn heilvita maður rétta henni bíllyklana eða láta hana gæta yngri systkina sinna eina heima. Ekki af því hún sé vond, heldur af því dómgreindin fylgir ekki getunni, og hún kemur ekki með stærri skömmtum af sömu þjálfun. Það þarf ný vísindaleg stökk áður en barnið fullorðnast. Ef það gerist nokkurn tímann.

Þangað til gildir einföld regla, og nú hafa vélarnar sjálfar óskað eftir henni: manneskja heldur í tauminn. Í lokuðum kerfum, á opnu neti, og alls staðar þar sem vél talar við vél.

Klárustu vélar heims báðu um manneskju til að skera úr. Ég ætla að taka þær á orðinu.

Höfundur er gervigreindar- og framtíðarfræðingur og stofnandi Alvitur.is.