EU’s skarpe kanter

I 2017 udtalte Vladimir Putin, at nationen, der først mestrer kunstig intelligens, vil blive “verdenshersker“. Det fik den megalomaniske techmilliardær Elon Musk til at spå, at dette kapløb vil være den mest sandsynlige udløser af tredje verdenskrig. De to friske fyre er næppe troværdige dommedagsprofeter, men deres udtalelser dengang kan dog tyde på, at vi andre ikke kan komme uden om kunstig intelligens ret meget længere.

I EU arbejdes der allerede på højtryk for at sætte grænser for galskaben. I april 2021 præsenterede Ursula von der Leyen og konkurrencekommissær Margrethe Vestager et nyt lovforslag om kunstig intelligens. Dengang lød det i udspillet, at “kunstig intelligens skal være et redskab for mennesker og en godgørende kraft i vores samfund med det ultimative formål at forbedre menneskers velbefindende“, og at det skal være “baseret på EU’s værdier og fundamentale rettigheder“.

Loven, der i øjeblikket debatteres i EU og – hvis den stemmes igennem af Europa-Parlamentet til efteråret – forventes at træde i kraft i første halvdel af 2023, vil være den første juridiske ramme for kunstig intelligens. Ligesom EU’s databeskyttelseslovgivning er blevet kopieret overalt fra Californien til Indien, kan AI-forordningen potentielt blive et globalt pejlemærke for regulering af kunstig intelligens i resten af verden.

Mens fristen for ændringer af EU-forordningen nærmer sig med hastige skridt, stiller en række organisationer, der arbejder med digitale borgerrettigheder og 28 internationale eksperter i migration dog spørgsmålet: Hvis rettigheder er det egentlig, der bliver beskyttet af EU’s kommende forordning om kunstig intelligens? Og mere afgørende: Hvem bliver glemt?

Teknologi er altid politisk

“Det er vigtigt at anerkende, at forordningen for kunstig intelligens er en virkelig vigtig potentiel lovgivning. Men lovforslaget har nogle store huller, særligt ift., hvordan det påvirker marginaliserede samfundsgrupper som migranter og flygtninge,“ siger Petra Molnar til Føljeton. Hun er advokat specialiseret i migration, teknologi og menneskerettigheder ved Refugee Law Lab på York University. “AI for good er et udtryk, dem, der arbejder med kunstig intelligens, bruger meget. Men jeg må altid spørge: Godt for hvem? Er det godt for Frontex? Den græske kystvagt? EU-Kommissionen? Det er meget anderledes end at være godt for en flygtning eller en udokumenteret person, der prøver at udøve deres internationalt beskyttede ret til at søge asyl.“

Ifølge hende bunder kritikken af Europas brug af kunstig intelligens ikke i fremtidsfrygt, men i migranter og flygtninges aktuelle og konkrete oplevelser og erfaringer.

Intelligente grænser

Grænseteknologier benyttes i stigende grad til at kontrollere og begrænse migranters og flygtninges ankomst til Europa. Ifølge en rapport udarbejdet af den europæiske organisation Statewatch og udgivet d. 16. maj 2022, har EU siden 2007 brugt 341 mio. euro på forskning i kunstige intelligente teknologier til asyl, immigration og grænsekontrol.

Ved Fort Europas nyeste frontlinje mellem Polen og Belarus skal der opføres en mur med avancerede kameraer og bevægelsessensorer. Mellem Burkina Faso og Niger registrerer EU-finansierede grænseposter passerende menneskers biometriske data. EU-agenturet Frontex benytter droner til at holde øje med ulovlige både og bølger i Middelhavet. Flygtninge og migranter, der ankommer til Grækenland, bevogtes af overvågningskameraer i de nye højteknologiske modtagecentre, der er blevet beskrevet som fængselslignende. Og i Grækenland, Ungarn og Letland eksperimenteres der i øjeblikket med kunstigt intelligente løgnedetektorer på EU’s regning.

Det er alt sammen en del af EU’s plan om at skabe “smart borders“ og den europæiske ambition om at styrke Europas ydre grænser.

Teknologierne, der benyttes, er dog ikke helt uproblematiske: “Det er allerede blevet dokumenteret, at ansigtsgenkendelse er meget biased, når det kommer til brune ansigter, men vi ser det i stigende grad benyttet ved grænserne. Løgnedetektorer drevet af AI er også et eksempel på, hvordan det kan gå helt galt. Hvordan kan vi sikre, at de ikke vil diskriminere mod mennesker, der kommunikerer anderledes af kulturelle eller religiøse årsager. Og hvad med traumers indvirkning på hukommelsen?“ spørger Petra Molnar.

Mange af de benyttede systemer er indlejret med diskriminerende, racistiske bias og indeholder gennemgående usikkerheder: “Der er allerede bias, når mennesker træffer beslutninger. Og når man så begynder at udvide eller erstatte menneskelige beslutningstagere med automatiseret beslutningstagning, maskiner, kunstig intelligens og andre former for grænseteknologier, så risikerer man ikke bare at forværre den diskrimination, der allerede er indlejret i systemet, men også at skabe nye former for diskrimination.“

Hvad gør EU (ikke)?

Da EU fremlagde sit lovforslag i 2021, introducerede de en såkaldt risikobaseret tilgang til at regulere kunstig intelligens. Det betyder, at en række teknologier bliver fuldkommen bandlyst – herunder sociale pointsystemer, der f.eks. findes i Kina. Resten bliver inddelt efter risiko. Grænseteknologier befinder sig i kategorien “høj risiko“, hvilket betyder, at de vil indebære ekstra sikkerhedsforanstaltninger.

Men ifølge Petra Molnar formår lovforslaget alligevel ikke at regulere de digitale grænseteknologier, der spiller en central rolle i at begrænse migrations- og flygtningestrømme i en grad, så mennesker i mødet med teknologierne opretholder de fundamentale rettigheder, som EU er bygget på og forpligtet til at overholde. Det gælder både retten til ligebehandling og privatliv, samt retten til at få behandlet sin asylsag. “Når det handler om grænser, så er der en afvejning mellem immigrationslovgivning og national sikkerhed. Så snart noget betegnes som national sikkerhed, så forsvinder der en masse sikkerhedsforanstaltninger,“ fortæller Molnar.

Det er derfor, Petra Molnar sammen med flere organisationer, der kæmper for digitale rettigheder og andre eksperter indenfor migration, har opstillet en række forslag til lovændringer. Deres krav indebærer bl.a. et fuldstændig forbud mod profilering baseret på personlige data, biometrisk fjernidentifikation. Omfanget af “høj risiko“-kategorien skal udvides til at omfatte overvågningsteknologier, der er blevet specifikt udviklet til at overvåge og kontrollere personer, der rejser for at søge asyl. Derudover bør loven indeholde stærkere sikkerheds- og ansvarlighedsforanstaltninger i forhold til datadeling.

“Noget, jeg altid gentager er, at det er vigtigt at sætte menneskers levede oplevelser i forgrunden. Dem, der befinder sig på de skarpeste kanter af det, der foregår: Af teknologi, af overvågning og af kunstig intelligens. Kunstig intelligens kan virke abstrakt og langt væk, men der er altid mennesker i centrum af det hele,“ siger Petra Molnar i slutningen af vores samtale. Forordningen for kunstig intelligens vil formentlig hverken gøre EU til verdenshersker eller starte tredje verdenskrig. Men den giver EU en oplagt mulighed for at afrunde sine skarpe kanter. /Emilie Ewald