Gífur­legir hags­munir í húfi ef tæknin kemst í rangar hendur

Fyrirtækið Anthropic, sem er fremst meðal jafningja þegar það kemur að þróun gervigreindar sem sérhæfir sig í forritun og öðrum tæknilausnum, tilkynnti í gær að nýjasta líkan forritsins Claude yrði ekki gert aðgengilegt almenningi þar sem afleiðingar þess gætu orðið geigvænlegar.

Að þeirra sögn hefur líkanið sem ber heitið Claude Mythos fundið yfir þúsund veikleika og öryggisbresti í sumum þekktustu stýrikerfum og vöfrum heims. Samkvæmt skýrslu fyrirtækisins er líkanið umtalsvert öflugra en færustu líkön sem eru aðgengileg í dag.

Anthropic hefur því ákveðið að gefa 40 tæknirisum aðgang að forritinu til að gera þeim kleift að tryggja hugbúnað sinn fyrir mögulegum tölvuárásum. 

Þetta kemur fram í umfjöllun New York Times.

Tímaspursmál hvenær tæknin verði nýtt til ills

Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir nýtt landslag blasa við þegar það kemur að netöryggi og gervigreind.

„Það er bara tímaspursmál hvenær svona gervigreindarlíkön komast í hendur einhverra óprúttinna aðila. Það sem Anthropic er að setja af stað er verkefni sem heitir Project Glass Wing og þau vilja bregðast við þessari nýtilkomnu ógn með því að nota gervigreindina til að verjast árásum áður en aðrir nota hana til ills. Þeir eru að gefa samstarfsaðilum sínum og jafnvel keppinautum tækifæri til að nota líkanið til að skanna sín kerfi og styrkja þau.“

Anthropic sé að leggja til 100 milljónir Bandaríkjadala til að aðstoða stofnanir og fyrirtæki til að tryggja sínar varnir. 

„Ástæðan fyrir að verkefnið heitir Project Glass Wings er svolítið áhugaverð. Project Glasswing er vísun í tegund fiðrildis sem er með glæra vængi og það gerir fiðrildinu kleift að fela sig fyrir þeim sem vilja ráðast á þá. Þetta endurspeglar eðli þeirra öryggisgalla sem hafa verið opnir og beint fyrir framan nefið okkar í mörg ár. Út af því að tölvukerfið er orðið svona flókið að þá hafa gallarnir verið mjög vel faldir fyrir fólki. Fólk hefði mögulega getað fundið þessa galla en það hefði tekið rosalega langan tíma. Núna með þessu gervigreindarlíkani er verið að afhjúpa þessa öryggisgalla mun hraðar. Það er heilmikið af göllum í hugbúnaði sem eru nú þegar í notkun.“

Stjórnvöld á Íslandi þurfi að huga að sínum vörnum

Hafsteinn segir gífurlega hagsmuni í húfi. Orku-, heilbrigðis-, og fjármálakerfi séu undir ásamt fleiri kerfum.

„Stjórnvöld þurfa mögulega að fara að spá í því hvernig þau ætla að vernda mikilvæga innviði á Íslandi. Þau þurfa mögulega að setja strangari kröfur um netöryggi hjá stofnunum og fyrirtækjum sem halda uppi mikilvægum innviðum á Íslandi. Þá er spurning hvort þau þurfi að fá aðgang að þessu líkani til að skanna sína innviði til að koma auga á einhverja veikleika.“

Má búast við því að hernaður og jafnvel hryðjuverk færist meira í svona árásir á næstu árum?

„Það er það sem fólk hefur verið að benda á og hefur haft áhyggjur af. Það var svolítið í umræðunni á síðasta ári grein frá svona spámönnum í Bandaríkjunum sem kallaðist AI 2027. Þau voru að  að giska á að allt myndi fara til fjandans árið 2027. Sú spá með þessari tilkynningu virðist svolítið vera að ganga eftir. Með þessari tilkynningu frá Anthropic þá erum við í rauninni svolítið á undan þeirri tímalínu sem var sett fram í þeirri spá.“

Hann segir að árið 2029 muni dulkóðun jafnvel ekki reynast nægileg vörn.

„Annað tengt þessu líka er að nýlega var Google að uppfæra sín viðmið um öryggi út af dulkóðun, sem verður kannski hægt að brjóta fyrr heldur en fólk áætlaði með skammtatölvum. Það var eitt af því sem kannski árásaraðilar eru að gera í dag. Þeir eru bara að safna öllum dulkóðuðum gögnum sem við erum að senda yfir netið. Og síðan á einhverjum tímapunkti þegar þessar aðferðir verða orðnar nógu góðar til þess að brjóta dulkóðunina, þá hafa þeir aðgengi að öllum gögnunum okkar. Google var í lok mars að uppfæra sínar spár varðandi það hvenær þetta verður hægt. Og þau eru að tala um að kannski árið 2029 séu ný viðmið sem fólk á að vera að hugsa um miðað við hvernig hlutirnir hafa verið að þróast.