Meta's modvind i Kenya

“Dommen er både historisk og vigtig globalt set. Det er første gang, at Meta i en væsentlig grad vil blive stillet for en domstol i det Globale Syd,” udtaler generaldirektør i Amnesty International Kenya, Irũngũ Houghton. Mandag besluttede en domstol i Kenya, at Meta – Facebooks moderselskab – kan blive sagsøgt i det østafrikanske land på trods af, at techgiganten har forsøgt at distancere sig fra en sag om brud på den kenyanske forfatning.

I 2022 lagde den tidligere indholdsmoderator Daniel Motaung sag an mod Meta og selskabets outsourcing-partner Sana for tvangsarbejde, menneskehandel og fagforeningsnedbrydning. At være indholdsmoderator indebærer, at man er en form førstehjælper i nødsituationer på sociale medier. Jobbet består i at gennemgå og fjerne ulovligt eller forbudt indhold, før det gældende sociale medies brugere ser det. Det ulovlige og forbudte indhold er fx videoer af drab, vold og mishandling.

Til Time Magazine har Motaung, der var ansat af Sana til at moderere indhold på Facebook, beskrevet sit forhenværende arbejde som traumatiserende. Næsten alle de ansatte hos Sana, som Time Magazine har været i kontakt med, fortalte, at de blev meget følelsesmæssigt påvirkede af det indhold, som de skulle moderere, og at deres arbejdsforhold var en forværrende faktor. En undersøgelse udført af magasinet viser, at de ansatte på Sanas kontorer i Nairobi er blandt de lavest betalte hos Facebook på verdensplan med en løn på mellem 1,50 til 2,20 dollars i timen (svarende til 10-15 kr.)

Sana, der beskriver sig selv som en “etisk AI“-virksomhed, fyrede Motaung i 2019, efter han sammen med 100 af sine kollegaer forsøgte at organisere sig i en fagforening for at opnå bedre løn- og arbejdsforhold.

Sagerne hober sig op

Onsdag skal Meta igen en tur forbi et kenyansk retslokale. Denne gang skyldes det, at to etiopiske forskere og den kenyanske rettighedsorganisation Katiba Institute har sagsøgt Meta for at lade ytringer, der fremskyndte etnisk vold og drab i Tigray-regionen i Etiopien, være på deres sociale medier. Sagen blev anlagt i nabolandet Kenya, fordi det er derfra Facebooks etiopiske indhold modereres.

En af sagens parter er Abrham Meareg. Hans far Meareg Amare, en universitetsprofessor ved Bahir Dar Universitet i det nordlige Etiopien, blev slået ihjel, efter Facebook-opslag, der tilskyndede til had og vold mod ham, blev delt og spredtes. Opslagene blev slettet otte dage efter drabet, hvilket var mere end tre uger efter, hans familie først havde gjort Facebook opmærksom på dem.

“Spredningen af farligt indhold på Facebook er et centralt element i Meta’s jagt på profit, da deres systemer er designet til at fastholde folks opmærksomhed. Denne retssag er et vigtigt skridt i retningen af at stille Meta til ansvar for deres skadelige forretningsmodel,” har Flavia Mwangovya, som arbejder for Amnesty International udtalt. “Meta har ikke investeret tilstrækkeligt i indholdsmoderation i det Globale Syd, hvilket betyder, at spredningen af had, vold og diskrimination har en uforholdsmæssig stor indvirkning på de mest marginaliserede og undertrykte samfund i hele verden, og især i det Globale Syd,” fortsatte hun.

Whistleblower Francen Haugen afslørede i 2021, at selskabet ikke har nok indholdsmoderatorer, der taler andre sprog end engelsk, og en rapport udarbejdet af Meta’s Tilsynsråd har ligeledes påpeget, at Meta ikke investerer tilstrækkelige ressourcer i moderering af indhold på andre sprog end engelsk. Så selvom Meta tjener penge på deres brugere i det Globale Syd, er brugerne i langt mindre grad beskyttet over for skadeligt indhold. Desuden er de kunstigt intelligente teknologier og algoritmer, der udgør en milliardindustri, blevet afhængige af lavtlønnede mennesker i det Globale Syd.

Meta opsagde sin aftale med Sana i januar. Det er stadig ikke blevet bekræftet, hvilken virksomhed, der skal overtage moderationen af indhold i Afrika, men ifølge Financial Times bliver det formentlig den Luxembourg-baserede virksomhed Majorel. En hjemmeside for jobopslag i Afrika viser, at Majorel i øjeblikket hyrer indholdsmoderatorer, der taler et af de sprog, der tales i Afrika.

Majorel lader dog til at have en lignende – hvis ikke værre – track record end Sana. Wired har talt med en række anonyme ansatte hos Majorel, der på linje med Sanas ansatte beretter om at se hundredvis af potentielt traumatiserende billeder hver dag for en lav løn og uden mulighed for at få støtte til at håndtere deres mentale helbred.

Det er ikke kun Meta, der er afhængige af indholdsmoderation. OpenAI, der står bag ChatGPT, benytter Sana til at moderere deres indhold. I januar fortalte brancheforeningen Partnership on AI til Time Magazine, at kenyanske ansatte bliver udbetalt mellem 1,3 og 2 amerikanske dollars (omkring 9 til 14 kr.) i timen for at læse og opmærke tekst, der ofte på meget grafisk vis beskriver situationer som mord, mishandling af børn eller dyr, voldtægt, tortur og selvskade. Teksterne udgør den træningsdata, som modellen benytter. Arbejdet er altafgørende for ChatGPT, der ellers ville være tilbøjelig til at formulere sexistiske, racistiske eller voldelige svar på sine brugeres spørgsmål.

Debatten om disinformation

I det, der er blevet betegnet som en disinformationskrise, er behovet for moderation af indhold er afgørende. En rapport om disinformation og Big Techs rolle i Kenya udgivet i sidste uge af Kenyas Råd for Ansvarlige Sociale Medier konkluderer, at 47 pct. af kenyanere har set fake news på sociale medier. 69 pct. af Kenyas befolkning stoler ikke længere på den information, de ser på Facebook, mens 70 pct. af befolkningen ønsker, at sociale medier skal regulere sig selv eller reguleres af regeringen.

Det er, som Irũngũ Houghton formulerer det, konsekvensen af, at de gigantiske techvirksomheder stikker hovedet i jorden og forsøger at omgå andre landes nationale lovgivninger. Han påpeger desuden den slående lighed mellem denne praksis og sidste århundredes imperialisme, der indebar en udbredelse til et andet område uden en dertilhørende ansvarlighed over for den lokale lovgivning eller befolkning.

De to retssager i Kenya smækker strudsen på disken. “Det er ikke i orden, at vi kan blive udnyttet af store virksomheder for at opnå profit,” sagde Motaung i et telefoninterview med Time Magazine fra 2022. “De kommer her og siger, at de vil redde os, for derefter at udnytte os og smide os ud. Det vil jeg gøre en ende på.” Med domstolens beslutning i mandags, er han rykket et skridt tættere på at gøre lige netop det. /Emilie Ewald