Har Apple skabt et sexistisk kreditkort?

Kapitalisme kan knække de fleste med tiden. Tag bare den japanske oprydningsguru Marie Kondo, der i januar i år pludselig var her, der og alle vegne, da hun lancerede sin Netflix-programserie Tidying Up with Marie Kondo. Konceptet var såre simpelt: Kondo skulle hjælpe almindelige mennesker med at rydde op og skaffe sig af med alle de ligegyldige besiddelser, som ikke skabte glæde – ”sparked joy” – i tilværelsen. Nu har Kondo så åbnet sin egen webshop, hvor kunder kan købe mere end 100 forskellige produkter, som Kondo garanterer har skabt glæde for hende – herunder eksempelvis et duftlys til 580 kroner. Ak ja.

Det positive ved Kondo-sagen må være, at sådanne forsøg på profitmaksimering har det med at følge en rimelig forudsigelig logik. Lav en god fortælling, opbyg et brand og sælg herefter ting til overpris. Når først det kapitalistiske dampmaskineri tromler derudad, kan de fleste vel se, hvor skinnerne fører hen.

Sådan er det ikke altid med nyere finansteknologier, de såkaldte fintechs, der ligger i det mærkelige grænseland mellem bank og Silicon Valley. Se blot Apples nye kreditkort, Apple Card, der blev lanceret i USA i august. Kortet er kommet til verden i et uskønt samarbejde mellem æblekoncernen og investeringsbanken Goldman Sachs, men dets helt store selling point er ifølge Apples hjemmeside, at det er ”skabt af Apple, ikke en bank”. Det kunne man jo som sådan godt leve med, hvis ikke det var, fordi det nye kreditkort efter alt at dømme er sexistisk.

I begyndelsen af november forfattede den danske programmør David Heinemeier Hansson i hvert fald et tweet, hvori han beskrev, hvordan han var blevet tilbudt en kreditgrænse på Apple-kortet, der var 20 gange højere end hans kones, selvom de har fælles selvangivelse og i øvrigt har været gift i adskillige år. Tweetet gik hurtigt viralt, og snart meldte selveste Steve Wozniak, medstifteren af Apple, sig også på banen med en besked om, at noget lignende var sket for ham og hans kone. ”Det er imidlertid svært at komme igennem til et menneske for at få det rettet. Det er big tech i 2019,” tilføjede Wozniak.

Problemet lader til at være skabt af et fænomen, som vi kun vil komme til at se mere og mere til de næste par år: Algoritmens sorte boks. Apples kreditkort bygger på en lang række uigennemskuelige beregninger, som ingen rigtig kan sige, hvordan fungerer. Og beregningerne bygger på en række datasæt, som formodentlig er fyldt med menneskelig bias, som altså kun bliver forstærket, når algoritmen får frit spil.

Det er tech-dystopi i realtid – og problemet begrænser sig ikke kun til Apples nyeste finansielle satsning.

Dataspil for galleriet

Matematikeren Cathy O’Neil har tidligere skrevet om farerne ved den blinde tiltro til algoritmernes objektivitet i bogen Weapons of Math Destruction fra 2016, og tidligere i år udkom journalist Caroline Criado Perez med bogen Invisible Women: Exposing Data Bias in a World Designed for Men, der, som titler antyder, beskriver al den datablindhed, der opstår, når designere og beslutningstagere som udgangspunkt tænker på den gennemsnitlige person som værende en mand. Har du eksempelvis nogensinde tænkt over, at de fleste bilers sikkerhed bliver målt ved brug af en testdukke, der i højde og anatomi er formet som en gennemsnitlig mand, og at vi derfor ikke rigtig kan sige, hvor sikre bilerne er for kvinder? Kombiner de to pointer, og så har du efterhånden opskriften på et sexistisk kreditkort.

Men hvad skal vi så gøre? Maskinstorme hele lortet og så ellers sætte os til rette i teatersædet? Ikke hvis du spørger Jon Stephensen, der er teaterdirektør ved Aveny-T på Frederiksberg i København. Mandag åbnede teaterdirektøren i hvert fald op for en ny debat om, hvorvidt teaterverdenen med dens hang til gamle klassikere som Don Juan og stykker fra Holberg og Shakespeare er med til at videreføre forældede, kvindenedsættende kønsnormer og -stereotyper.

Af en eller anden grund kan vi i den forbindelse ikke lade være med at tænke på det gamle Shakespeare-citat udtalt af karakteren Lord Berowne i 4. akt af komedien Love’s Labour’s Lost – et stykke der i øvrigt åbner med, at Berowne sammen med tre af sine venner sværger at holde sig fra kvinder i tre år, for i stedet at vie sig til intellektuelle studier:

”From women’s eyes this doctrine I derive/ They sparkle still the right Promethean fire/They are the books, the arts, the academes/ That show, contain, and nourish all the world”

Vi ved ikke rigtig med dig, men Shakespeare er altså stadig i stand til at sparke ”joy” på en helt anden måde, end hverken Apple eller Marie Kondos webshop er i stand til. /David Dragsted