Martin Sylvest/Ritzau Scanpix
En fastfoodmedarbejder er en sort kvinde. En politiker, advokat, dommer eller direktør er en hvid mand. Den slags forudindtagetheder ved vi allerede eksisterer. Men nu har Bloomberg lavet en imponerende undersøgelse, der tester den del af kunstig intelligens, der omsætter tekst til billeder – generativ AI – i programmet Stable Diffusion. Ved at køre tusinder af prompts på alt fra ingeniører til indsatte, bekræfter billederne i alle tilfælde fordommene.
Stable Diffusion skulle allerede have teknologien til at træne datasæt specifikt på forskellige lande og kulturer; de er bare ikke begyndt at bruge den endnu. Og problemet er altså, at de genererede billeder risikerer at blive brugt som træningsdata, og dermed ender man med en “sneboldseffekt af forværret bias”, som Bloomberg mundret formulerer det.
I Danmark har en tech-ekspertgruppe nedsat af regeringen haft til formål at bekæmpe netop bias. Mandag præsenterede den sine konklusioner, der bl.a. vil stille “krav til, at techfirmaerne laver konsekvensanalyser af deres nye algoritmer. Det skal sikre, at algoritmerne ikke indeholder eksempelvis bias, der kan diskriminere bestemte befolkningsgrupper.”
Samtidig foreslår ekspertgruppen at modarbejde profilering af børn – automatisk behandling af personoplysninger, der skal vise dem skræddersyede reklamer. Til Version 2 kalder kommunikationsrådgiver Benjamin Rud Elberth idéen positiv, men “bevidst naiv” og et “pistolskud i luften […] Men det bliver nok ved med at være et varselsskud, for det her forslag har ingen gang på jord, hvis man stadig ønsker at have Facebook i Danmark.”
Kan man forestille sig lille Danmark gøre op med måden, algoritmerne designes på? Måske, men højst sandsynligt nej. Som forsker i bias i kunstig intelligens Sasha Luccioni ligeledes siger til Bloomberg, er problemet ikke kun techgiganterne, men snarere, at ansvaret ender i et vakuum: “[Ligger det hos] dem, der leverer datasættene? Dem, der træner modellerne? Eller dem, der udvikler dem?”
Ret og rimeligt
Bias i algoritmer er ifølge Bloomberg meget værre end menneskers. For selvom virkelighedens køns- og etnicitetsopdelte arbejdsmarkeder i sig selv er skævvredne, afspejler billederne ikke virkeligheden. Eksempelvis er en tredjedel af amerikanske dommere kvinder, mens det kun er tre pct. kvinder, der bliver genereret på billederne. I USA er over 70 pct. af fastfoodmedarbejdere hvide, og sådan kunne man fortsætte.
I Danmark er det kønsopdelte arbejdsmarked tydeligst i omsorgssektoren – og måske allertydeligst hos sygeplejerskerne, der for to år siden bad om mere løn, og hvor kvinder tjener mindre end mænd selv inden for faggruppen. Dengang blev de spist af med løfter om engang i fremtiden, mens den daværende regering nedsatte en lønstrukturkommission, der skulle give Peter Hummelgaard (S) – der dengang var ligestillingsminister – et fælles, oplyst grundlag forud for fremtidige forhandlinger: “Det er ikke nogen hemmelighed, at der er udfordringer med ligeløn i Danmark,” sagde han.
Tirsdag er konklusionerne fra komitéen så landet, og som et lækket udkast allerede afslørede i maj, viser de, at sygeplejerskerne får den rette løn, hvad angår ledelsesansvar, erhvervserfaring og uddannelseniveau, mens dagplejere, pædagoger og fængselsbetjente får for lidt. Ifølge komitéen er det dog “uden for komitéens sigte og formål at vurdere, hvad der for specifikke personalegrupper udgør en ‘korrekt’ eller ‘retfærdig’ løn”. Der er altså ikke tale om en “retfærdighedsdom”, men et vidensgrundlag, som komitéens formand Torben M. Andersen siger: “Lønstrukturkomiteen kommer ikke ind på, hvad der er ret og rimeligt, at folk får i løn.”
Alligevel kan man godt tillade sig at tage et kig på deres regnemetoder. Konkret har kommissionen kun set på, om lønnen svarer til uddannelseslængden, og som arbejdsmarkedskommentator Lawand Hiwa Namo for flere uger siden – med udkastet i hånden – skrev i Politiken, ville man i det private “aldrig påstå, at en kandidat i græsk er underbetalt i forhold til en økonom”, bare fordi de har studeret i lige mange år. På samme måde har kommissionen heller ikke taget højde for, om arbejdsopgaverne er blevet mere komplicerede med tiden, eller om der er blevet mere travlt i den offentlige omsorgssektor.
Man ser med andre ord ikke på, hvilken efterspørgsel – eller værdi – sygeplejerskerne skaber. Namo kalder det en gigantisk ydmygelse, der står i modsætning til Socialdemokratiets lovning på at give visse faggrupper mere i løn – og som puster ild til en i forvejen glødende konflikt mellem faggrupperne og vil få endnu flere til at flygte fra hospitalerne.
Komitéen anerkender godt nok, at der er en ulighed inden for faget, og på tværs af faggrupper, hvor unge fravælger uddannelser på baggrund af deres køn. Der skal i hvert fald mere drastiske metoder til, hvis ikke man vil hænge fast i 1969. Måske burde der ligefrem nedsætte en komité, der rent faktisk vil se på ret og retfærdighed. Alt andet virker bevidst naivt. /Emma Louise Stenholm