Eftirlitskerfi Google sem leitar sjálfkrafa eftir myndum sem gætu flokkast sem barnaníðsmyndir flaggaði myndirnar og í kjölfarið var lokað fyrir alla þjónustu sem maðurinn nýtti sér, meðal annars tölvupóstinn hans.

Maðurinn, sem er kallaður Mark í umfjöllun New York Times, tók myndir af getnaðarlim sonar síns þegar hann tók eftir því að svæðið virtist bólgið. Þetta var í miðjum Covid-faraldrinum og eiginkona mannsins sendi myndirnar áfram á heilsugæslustöð, samkvæmt leiðbeiningum hjúkrunarfræðings.

Læknir tók við myndunum, greindi sýkinguna og skrifaði upp á sýklalyf. 

Þegar myndirnar fóru sjálfkrafa í gegnum skýjaþjónustu Google, flokkaði eftirlitskerfið þær sem mögulegt barnaníðsefni og lokaði á alla þjónustu sem Mark nýtti sér.

Flöggunin varð til þess að lögreglu var gert viðvart um málið en þrátt fyrir að Mark hafi verið hreinsaður af öllum grun um ólöglegt athæfi hafa talsmenn Google sagt að ákvörðun fyrirtækisins standi. Það sé einfaldlega að fara eftir skilgreiningu laga um hvað flokkist til barnaníðsefnis.

Sérfræðingar segja þetta dæmi til marks um ókosti þess að láta tölvubúnað um eftirlit af þessu tagi. Eins mikið gagn og tæknin geri þá geti falskar jákvæðar niðurstöður á borð við þessa haft alvarlegar afleiðingar í för með sér fyrir þá sem í þessu lenda.

Mark var þannig ekki aðeins yfirheyrður af lögreglu, heldur tapaði hann áratug af tölvupóstum, myndum og fleiri upplýsingum.

Þess ber að geta að sífellt fleiri nýta sér fjarþjónustu lækna og eiga því á hættu að lenda í hremmingum á borð við þessar.