Kommunistregimen i Kina har en lång historia av olika försök att kontrollera och övervaka sina medborgare. Under tidigt 2010-tal började man kombinera mer gammaldags fysisk övervakning med modern digital massövervakning för att hålla befolkningen i schack.

Det kinesiska övervakningssystemet kallas för Skynet – ett namn som i Väst främst förknippas med det ondskefulla AI-drivna datornätverket i Terminator-filmerna som vill förgöra mänskligheten.

Redan 2018 skröt Kinas största propagandakanal, Folkets Dagblad, om att ansiktsigenkänningstekniken som tagits fram kan ”scanna av” Kinas cirka 1,4 miljarder människor på bara en sekund och att tekniken idag redan används i 16 kinesiska städer och provinser – i syfte att bekämpa brottsligheten och öka säkerheten.

Det vänsterpopulistiska magasinet Vice har i ett reportage också tidigare granskat Kinas övervakningsapparat och konstaterade 2018 att kameror utrustade med ansiktsigenkänningsteknologin användes bland annat för att kartlägga invånarna och kontrollera vem som begick även triviala förseelser som att gå mot röd gubbe.

I reportaget noterar kamerorna bland annat en bild på en människas ansikte och identifierar personen i regeringens digitala databas om den går mot röd gubbe. Sedan hängs personen ut med namn och bild på officiella kinesiska kanaler – så att förbrytaren ska skämmas.

Den dyra och avancerade teknologin har dock inte bara tagits fram för att ta fast kineser som bryter mot trafikregler. Ansiktsigenkänningstekniken har börjat användas lite överallt i kommunistdiktaturen – bland annat i snabbmatsrestaurangers betalstationer och offentliga toaletter.

Innan hon går in på toaletten scannar reportern Elle Reeve sitt ansikte i maskinen – varpå hon tilldelas en viss mängd toalettpapper. När hon försöker göra samma sak igen deklarerar maskinen att hon redan har använt tjänsten och måste vänta innan hon får använda toaletten igen.

Medborgare övervakas i sina hem

Teknologin används även hos företag och på offentliga institutioner och gör det möjligt att dörrar öppnas enbart för ”godkända” personer – medan individer vars ansikten inte finns med i databasen inte släpps in. På detta sätt kan företagen också kontrollera exakt när de anställda anländer till arbetsplatsen och när de lämnar.

På många ställen kan kineser också betala ”med sina ansikten” istället för att använda kort eller kontanter och bli avscannade istället för att visa en fysisk id-handling.

Tekniken används också för masskontroll av befolkningen, bland annat genom att kartlägga ovanlig aktivitet i folksamlingar, om en person befunnit sig i en folksamling ovanligt länge eller på andra sätt beter sig avvikande i relation till övriga – så att myndigheterna snabbt kan agera mot personen.

Reeve besöker även ett bostadsområde som kontrolleras av den kinesiska staten där boende och besökare måste visa sina ansikten för de AI-styrda kamerorna för att bli insläppta i husen och där varje dörr är kopplad till en kamera.

– Vi kan se hur ofta de boende kommer och lämnar sina hem och hur ofta icke registrerade personer kommer och går, berättar bostadsförvaltaren Sun Yuhong och förklarar vidare att man varje månad skriver en rapport över de boendes aktiviteter och rörelsemönster och lämnar över denna till de högre cheferna.

– Det finns många fler funktioner, men någon i min position kan inte avslöja för mycket för dig, jag hoppas du förstår, fortsätter han.

Inspireras av ondskefull film-AI

Alla kineser över 16 år är tvungna att ha ett statligt id-kort. Den kinesiska regimen håller enligt Vice nu på att, tillsammans med olika techbolag, digitalisera all denna information så att den kan användas inom många fler områden.

Xie Yininan, vice president och talesman för MEGVII technology som tagit fram övervakningssystemet Skynet berättar att ”The Terminator” är grundarens favoritfilm och att det är därför man valt namnet. Han bedyrar dock att det kinesiska Skynet till skillnad från sin namne inte vill utplåna mänskligheten utan ”skapa någonting bra” istället.

– Allting som händer i offentligheten kan spelas in. Vi kan veta exakt vad som händer varje sekund i alla stadens hörn, konstaterar han och visar hur man i realtid kan analysera vilka människor som rör sig i tunnelbanesystemet.

Skynet kan bland annat se vilka ansikten som befinner sig på en viss plats och sedan automatiskt jämföra dessa med landets databas över dömda brottslingar på flykt och enligt Yininan har över 3000 brottslingar gripits på detta sätt bara på ett års tid.

När han får frågan hur han tror att framtiden ser ut hänvisar han till den dystopiska tv-serien Black Mirror där alla människor har ett socialt kreditpoäng som kan höjas eller sänkas beroende på vad de gör och där alla också kan se hur många poäng alla andra har.

– Kanske är det framtiden.

Trots att Reeve påpekar att det är en ”skräckserie” står Skynet-grundaren fast vid att det kanske är så framtiden kommer att se ut.

– Jag tror att alla har sina sociala poäng.

Tekniken sprider sig

Implementeringen av det kinesiska sociala värderingssystemet har dock redan idag påbörjats och kineser med låga poäng får inte längre åka tåg eller flygplan och kan mista tillgången till olika förmåner och nödvändiga samhällsfunktioner.

Inhemska kritiker pekar på att det finns stora risker med tekniken och att den kinesiska lagstiftningen inte tar hänsyn till medborgarnas integritet och riskerar att missbrukas.

Kina är inte heller det enda land där ansiktsigenkänningstekniken införs. På en flygplats i Dubai planerade man redan 2018 att bygga ”virtuella akvarium” där AI-styrda kameror scannar av resenärernas ansikten och i Europa testas teknologin inom flera områden – från tågstationer till distanskurser på nätet.

I USA storsatsar privata företag på att teckna regeringskontrakt med den avancerade teknologin och hoppas att polis och militär ska börja använda denna på bred front i sitt arbete, exempelvis i form av avancerade kroppskameror.

– Jag ser framtiden och den skrämmer mig, konstaterar juridikprofessorn Andrew Guthrie Ferguson och menar vidare att AI-teknologin kommer att förändra relationen mellan medborgare och stat.

– En av de öppna frågorna blir. Vem äger den här datan? frågar han sig och pekar på att den information som samlas in genom övervakningsteknologin är mycket dyrbar och att det finns aktörer som vill använda den för monetära och andra syften.

Han betonar att övervakningsteknologin som redan implementerats i Kina fungerar och att samma teknologi i framtiden kan komma att införas även i USA framöver samt att det finns få inbyggda mekanismer för att skydda medborgarna mot utvecklingen.