Er virkeligheden ved at overhale fiktionens teknologiske dystopi?

Hvis der er noget, man nærmest med garanti får ondt i maven af, så er det at se Netflix-serien Black Mirror. Serien er atypisk på den måde, at den ikke har et langt handlingsforløb, der strækker sig over flere afsnit. Hvert afsnit er sin egen lille historie, og i stedet for den lange dramaturgi bindes serien sammen af et gennemgående tema: Det handler altid om en nær dystopisk fremtid, hvor den teknologiske udvikling er gået for vidt.

Årsagen til, at serien har det med at få seerens mavesæk til at snøre sig sammen, er, at de fleste af seriens historier føles som noget, vores eget samfund kunne styre imod inden for ganske få år. Det ender aldrig lykkeligt. Trods gode intentioner ender den teknologi, vi har skabt, altid med at gøre os selv ondt.

I afsnittet ‘Nosedive’ møder vi en ung, håbefuld kvinde, der ligesom resten af det samfund, hun lever i, altid går med næsen ned i sin mobiltelefon. Årsagen er den samme, som den vi også kender fra virkelighedens verden: sociale medier. I den virkelige verden tager vi smukke billeder af os selv på Instagram for at skaffe likes og dermed social kapital.

I ‘Nosedive’ handler det også om at skaffe sig social kapital gennem de sociale medier, men her er det selve samfundsmodellen, der er bygget op omkring, hvor mange likes, man har. Alle rater alle hele tiden. Hvis man er ubehagelig over for manden i indkøbscentret, giver han dig nok en lav rating, mens tjeneren du gav gode drikkepenge, vil rate dig højt. Ens status i samfundet – og dermed hvad man kan få lov til – bliver bestemt ud fra gennemsnittet af, hvordan andre folk har ratet dig.

Hvordan det går den håbefulde kvinde med gode intentioner i ‘Nosedive’, skal vi af spoilermæssige årsager ikke berøre her. Men uden at afsløre for meget, kan vi sige, at man hvertfald ikke sidder og håber, at det bliver muligt at rate hinanden mere på de sociale medier, end det allerede er tilfældet.

En verden, hvor du rates

Den foruroligende kendsgerning er dog, at virkeligheden på dette område er ved at overhale den dystopiske tv-serie indenom. Faktisk er de allerede ved at implementere et ‘Nosedive’-system i Kina. Det lyder vildt, men det kinesiske system ligger så tæt på af det omtalte Black Mirror-afsnit, at man næsten kan få den tanke, at de kinesiske myndigheder er blevet inspireret af det vestlige tv-show. Den umiddelbare eneste forskel er, at det i Kina ikke er borgerne, der direkte skal give hinanden en score. I stedet er det big data, der kan fortælle myndighederne, hvor god en borger man er.

Det kinesiske sociale kredit-system blev introduceret i 2014 og forventes at være fuldt operationelt i 2020. Men systemet kører allerede som pilotprojekt i Kina, hvilket betyder, at millioner af kinesere lige nu bliver rangeret af en algoritme. En rangering, der har helt virkelig konsekvenser for deres liv.

Det, der vides om systemet på nuværende tidspunkt, er, at kineserne bliver rangeret ud fra de data, som den kinesiske stat har om borgernes økonomiske og sociale status. Her er det vigtigt at huske på, at Kina vel er et af de bedst overvågede lande i verden, så det er nok ikke så lidt data, myndighederne har på den almindelige kineser. Eksempler på parametre, som den kinesiske regering bruger, er fx, hvorvidt man betaler sine regninger, om man har gæld, om man har været militærnægter, om man er blevet straffet, ikke har overholdt aftaler, bruger for lang tid på at spille computer, osv osv.

Hvis en kinesiske borger får en lav score, kan han eller hun blive forbudt at tage toget eller flyet. Det er allerede sket. Mange gange. Kinesere med lav social kredit er blevet blokeret fra 11 millioner flyafgange og 4 millioner togafgange.

Men det handler ikke kun om fly- og togrejser. Den kinesiske regering kan bruge systemet til at sørge for, at børn af forældre med en lav score ikke kan få lov at gå i bestemte skoler. Som lavtscorende kan man også risikere, at ens internetadgang bliver dårligere eller helt blokeret. Man kan blive udelukket fra gode jobs og fra de gode hoteller og blive sat på en offentlig liste, så alle kan se, at du er en dårlig borger.

Omvendt bliver det sjovere at være en højtratet borger. Så får man bedre bankrenter og rabat på elektricitet, ligesom der er forlydender om, at man vil få flere matches på datingsider, når man har en høj score.

Så hvad er Kinas idé med dette vanvittige system, udover at det er det første kasteregime, som inkarnerer teknologisk ondskab? De kinesiske myndigheder påstår selv, at det handler om at skabe tillid blandt kineserne. Tillid har længe været et problem i den kinesiske semi-socialistiske økonomi. Det skal være slut nu med det nye system. ”Uden et system kan en svindler begå svindel et sted og så begå den samme svindel igen et andet sted. Systemet bygger et bedre og mere retfærdigt samfund,” fortæller den kinesiske blogger Wen Quan til BBC.

Det vil (aldrig) ske for os…

Det kan godt være, at kineserne kalder det for et mere retfærdigt samfund, men hvis man læser ovenstående med bare en lille portion skepsis, bliver det ret tydeligt, at systemet er en genial måde for det kinesiske regime at stramme grebet om kontrollen med deres befolkning.

Kina er som bekendt et kommunistiske diktatur, så når man hører om systemet, er det nemt at affeje med tanke på, at det aldrig vil ske i de vestlige demokratier. Og det vil det måske heller ikke, men lad os alligevel lige lege med tanken. For faktum er, at Vesten allerede flirter med forskellige rating-systemer og (endnu værre) at det ligger lige til højrebenet at implementere noget lignende i Vesten.

Vi er neurotiske Instagram-brugere og rasende mellemledere

Hvis vi for en stund vender tilbage til Nosedives præmis om, at det hovedsaligt er os selv, der rater hinanden, så er rating-epidemien på de sociale medier allerede ved at tage overhånd. Instagram giver unge piger angst og depression, fordi de er bange for at gå glip af noget og for ikke at kunne leve op til de høje standarder, de sætter for dem selv. Generelt har studier vist, at sociale medier kan medføre en følelse af utilstrækkelighed, og det hele kommer af, at man har muligheden for at rate hinanden med likes på de sociale medier.

Men rating-systemer får ikke kun unge mennesker til at få det dårligt med dem selv. Det får også alle andre til at opføre sig som forfærdelige menneske. I servicebranchen kan du efterhånden rate næsten alle, der betjener dig. Du kan rate en taxachauffør på din mobil, du kan rate din sommerhusudlejer på nettet, du kan rate din barista på kaffebarens tablet. Du kan rate alle. Alle disse ratingsystemer har sløret forholdet mellem chef og kunde. Kunder er i dag blevet til en gruppe af sure og ekstremt krævende mellemledere. I dag forventer kunderne, at betjeningen på McDonalds har nogenlunde samme klasse som på Ritz, og skulle den stakkels burgerbars-ansatte havde en dårlig dag, hvor det lige glipper med en enkelt kunde, så Gud have nåde over ham, når han bliver ratet helt i bund af den rasende kunde, der fik sukkerfri cola i stedet for sukkerholdig Pepsi.

Hos Facebook ligger det hele klar

Vi er altså godt i gang med at rate hinanden på sociale medier. Men endnu værre er det, at vi slet heller ikke er så langt fra et system, der minder om det kinesiske. Hvertfald ligger det teknologiske klar til næsten at kunne implementere et sådan system over natten.

Teknologien, der kan rate os alle sammen, hedder Facebook. Efter Facebook-skandalen, hvor Cambridge Analytica brugte millioner af Facebook-brugeres data til at påvirke det amerikanske valg, har fået folk til at åbne øjnene for, hvor meget data Facebook faktisk har om os alle samme. Og det er en hel del. Facebook bruger allerede disse oplysninger til at lave målrettede reklamer. Du kan selv benytte denne guide til at se, hvilke tanker Facebook har om dig.

Men hvis vi lige for en stund skal trække sølvpapirshatten helt ned over øjnene, så overvej hvor godt Facebook ville kende dig, hvis de også begyndte at lave databearbejdening på alt, hvad du har skrevet i Facebook Messenger. Åh, du godeste…

Samtidig er de fleste af statens systemer digitaliserede, hvilket betyder, at alle dine fartbøder, sygdomshistorik, banklån, osv. ville kunne blive sat ind i en kinesisk algoritme, skulle staten ønske det.

Heldigvis er Danmark et demokrati, så vi burde selv kunne beslutte, hvorvidt staten skulle ‘ønske’ det eller ej. Men det er vigtigt, at vi har fokus på, at de her slags ting kan ske bag ryggen på os. Både i forhold til staten og i høj grad også i forhold til private firmaer, der med denne slags algoritmer vil kunne bestemme, hvorvidt vi er gode kunder eller ej. Fremtiden er nu, og hvis vi ikke passer på, så kan den ende med at se ud ligesom i Black Mirror.