Det er mange land der medborgere er vant til å se CCTV-kameraer daglig, overalt hvor de går. Moskva tar dette til et annet nivå, installerer over hundre tusen av disse enhetene over hele byen, inkludert ved inngangene til noen boligblokker. De kreative folkene på NTechLab samarbeidet med kommunen i desember 2016 for å implementere et ansiktsgjenkjenningssystem rett i ryggraden til denne infrastrukturen. Siden da har 6 arrestasjoner blitt gjort av kriminelle som tidligere har vært vanskelige å fange, ifølge rapporter som kommer inn 28. september 2017. Men hva sier dette om et samfunn som er konstant under vakt med en teknologi som potensielt automatisk kan gjenkjenne alle borgere ?

Hva kan gå galt?

Det er et argument for at en by har nok overvåkingsdekning for å spore bevegelser og rutiner for ønskede kriminelle. Arresteringene i Moskva viser at systemet fungerer etter hensikten, med noen av disse kriminelle unngår fangst i mange år. Vi kan imidlertid ikke se bort fra den skumle ideen om at det er så mange CCTV-kameraer i en by som den lokale regjeringen nesten kan spore hver bevegelse av hver borger og turist som kommer inn. Et by-bredt system som dette gir en enorm mulighet for misbruk.

Selv om vi generelt kan være enige om at mordere skal bli fanget og tatt for retten, er det foruroligende å skape et samfunn der ideen om en "lovbryter" er definert av samme institusjon som utfører en så omfattende overvåkning. Hva om for eksempel et samfunn som begrenser ytringsfriheten ved å forby visse klær, implementerer denne overvåkingsmodellen? Arrester ville bli gjort på enkeltpersoner som valgte å bruke feil ting på en bestemt dag.

The FaceFind Scandal

Før CCTV-eksperimentet gjorde NTechLab sin teknologi offentlig tilgjengelig via en plattform som heter FindFace. Ved å bruke det kunne folk finne en persons VKontakte-profil (VK, en russisk versjon av Facebook) ved å laste opp et tilfeldig bilde av dem. En gruppe av falske folk valgte å bruke denne programvaren for å finne voksenaktørens VK-profiler og kontakte sin familie og venner med håp om at de ville fremkalle en negativ reaksjon og gjøre målets liv vanskelig. FindFaces opprinnelige intensjon var langt fra det det ble brukt til. Det ble opprettet som en plattform for folk å finne nye venner, men har i stedet blitt en velsignelse for stalkers verden over.

Når velutviklede initiativer ikke klarer å oppfylle deres mål

Både ansiktsgjenkjenning CCTV-plattformen og FindFace ble laget med det beste av intensjoner. Man ble laget for å fange kriminelle, og den andre ble opprettet for å bringe folk nærmere sammen. Men menneskets natur pluss arten av statlige institusjoner maler et annet bilde av hvordan denne programvaren vil bli brukt. Vi har en tendens til å ønske å bruke teknologi på en måte som gjør at vi kan ha kontroll, ikke bare over våre egne liv, men også kontroll over andre (for eksempel en forelder som installerer sporingsprogramvare på et barns telefon). Brukes riktig, kan det hjelpe oss med å holde folk trygge. Men i feil hender kan teknologier som FindFace og den CCTV-baserte ansiktsgjenkjenningsbackbone i Moskva potensielt gjøre uskyldige folks liv ulykkelig.

Tror du at vi bør implementere mer eller mindre teknologi for å bistå myndighetsovervåking? La oss snakke om det i kommentarene!