Gervi­greind Musk sögð hafa búið til kyn­ferðis­legar myndir af ellefu ára gömlum börnum

Notendur samfélagsmiðlisins X, sem er í eigu Musk, hafa undanfarið dundað sér við að láta Grok, spjallmenni miðilsins, framleiða fyrir sig kynferðislegar myndir af konum og börnum. Myndirnar birtast í færslum á X.

Fyrirtækið hefur ekki brugðist við fyrirspurnum fjölmiðla um það og aðeins hvatt notendur sínar til þess að nota spjallmennið ekki í þessum tilgangi.

Fulltrúi framkvæmdastjórnar Evrópusambandsins hefur lýst framferði X sem lögbroti og franskur saksóknari rannsakar hundruð tilkynninga um að Grok hafi verið notað til þess að gera kynferðislegar myndir af konum og stúlkum þar í landi. 

Yfirvöld hafa að öðru leyti verið hæg að bregðast nokkuð við því að X sé nú orðinn einn vinsælasti vettvangur barnaníðsefnis á netinu.

Koma kynferðislegum gervigreindarmyndum af börnum í meginstrauminn

Nú segist Neteftirlitssjóðurinn (e. Internet Watch Foundation), bresk samtök sem beita sér gegn barnaníðsefni á netinu, að greinendur þeirra hafi fundið kynferðislegt myndefni af stúlkum á bilinu ellefu til þrettán ára sem notendur á svonefndum djúpvef halda fram að Grok hafi útbúið fyrir þá.

Grok hafi meðal annars tekið raunverulegar myndir af börnum og breytt þeim þannig að þau sé ber að ofan eða sýnd á kynferðislegan hátt annan.

Ngair Alexander frá samtökunum segir við breska ríkisútvarpið að Grok sé að færa kynferðislegar gervigreindar börnum inn í meginstrauminn á netinu. Efnið sem spjallmennið framleiði falli undir skilgreiningar breskra hegningarlaga á vægustu brotum af þessu tagi.

Hins vegar væri dæmi um að illa innrættir einstaklingar tækju slíkar myndir sem Grok framleiddi og notuðu annað gervigreindarforrit til þess að búa til grófari myndir af börnum.

Setti lík konu sem ICE skaut til bana í sundföt

Dæmi eru um að notendur Grok láti sér ekki nægja að fá spjallmennið til þess að hlutgera konur með því að fjarlægja föt þeirra af myndum og setja þær í bikíní heldur hefur gervigreindin orðið við beiðnum um að skreyta undirfötin með hakakrossum nasista. Undir stjórn Musk hefur X orðið að einum helsta vettvangi nýnasista, hvítra þjóðernissinna og annarra öfgahægrimanna.

Blaðamenn Vísis staðfestu sjálfir í morgun að Grok hefði breytt raunverulegri mynd af konu sem fulltrúi bandaríska innflytjendaeftirlitsins ICE skaut til bana í bíl sínum í Minneapolis gær þannig að hún virtist klædd í bikíní einum fata, liggjandi látin í framsæti bifreiðarinnar.

Vísir sendi Persónuvernd fyrirspurn um hvort henni hefðu borist tilkynningar um að Grok hefði framleitt kynferðislegar myndir af íslenskum konum eða börnum en svar hefur enn ekki borist við henni.

Tæplega fjórðungur sagðist nota X, sem þá hét Twitter, í könnun Gallup um samfélagsmiðlanotkun Íslendinga árið 2021.