Kunstige grænser

Lige nu tages de første digitale spadestik til et Fort Europa.

Mens EU allerede bruger bevægelsesensorer, droner og irisscanninger inden og uden for unionen – i lufthavne, ved grænserne og i flygtningelejre – som skal sikre mere præcise data om, hvem du er, hvor du er, og hvilke grænser du har krydset, skal nye teknologier nu også forudsige, hvor du bevæger dig i fremtiden.

Allerede næste år forventes et nyt visasystem at blive indført ved Europas ydre grænser, der skal krydstjekke data i eksisterende og nye databaser og dermed gøre det nemmere at bevæge sig rundt inden for EU. Nemmere for europæere, vel at mærke: Som led i planerne for en ny asyl- og migrationspagt er formålet samtidig at gøre de ydre grænser “smartere“ ved at effektivisere og automatisere kontrollen, hvilket i praksis vil gøre det sværere for såkaldte tredjelandsborgere at komme ind i EU.

Idéen har været undervejs siden 2016, hvor EU har sendt milliarder af forskningskroner efter fx løgnedetektorer, hvis fremtid endnu er ukendt eller hemmeligholdt. Projektet iBorderCtrl er et blandt flere, der har eksperimenteret med at skabe risiko-baserede profiler på mennesker, der krydser grænsen, for altså at udregne, hvor “sikre“ de er.

Her var målet, at migranter og asylansøgere skulle møde en digital politimand, der – styret af kunstig intelligens – rangerer den rejsende fra 1-10 ud fra en række spørgsmål kombineret med eksisterende data. Men da The Intercept testede løgnedetektorerne, da de var rullet ud som pilotprojekt, skød maskinen ofte langt forbi – selv når journalisterne svarede efter bedste evne.

Det er nok til, at du potentielt kan sendes tilbage til landet, du kom fra, eller nægtes adgang, uden at det foreløbigt er afklaret, hvor du går hen med din klage. Det giver ikke alene grundlæggende udfordringer for asylsamarbejdet, men rejser også mere fundamentale spørgsmål om, hvilket EU man ønsker – hvorfor det endnu ikke har været muligt at lande på en fælles position i parlamentet.

Data er ikke AI

Spørgsmålet om, hvorvidt kunstig intelligens derfor helt skal forbydes ved grænserne, er netop stridspunktet i EU lige nu, hvor en ny forordning om kunstig intelligens er lige ved at blive vedtaget. Den såkaldte AI Act, der som den første af sin slags skal sætte regionale retningslinjer for brugen af kunstig intelligens, har været på vej siden sidste forår: En såkaldt “general tilgang“ forventes vedtaget den 6. december – altså i næste uge – mens de vanskeligste dele af forhandlingerne er udskudt til efter jul.

AI-forordningen skal indføre forskellige niveauer af forpligtelser for udviklingen og brugen af AI-systemer, alt efter hvor risikofyldte de er. Men særligt brugen af AI i forbindelse med migration splitter Europa-Parlamentet, hvor den europæiske venstrefløj på den ene side mener, at lovteksten foreløbigt ikke beskytter migranter tilstrækkeligt, mens den anden fløj i grove træk mener, at kunstig intelligens ikke behøver at være problematisk i sig selv – hvis teknologien bruges korrekt.

Men inden man overhovedet når til spørgsmålet om et forbud, er det vigtigt at skelne mellem data og kunstig intelligens, forklarer Dragoș Tudorache, europaparlamentariker for den liberale, pro-europæiske gruppe Renew Europe, der sammen med sin italienske kollega Brando Benifei har ledet forhandlingerne.

“Jeg ser den her tendens til at sætte en AI-etikette på alt, hvad der er smart. Men ikke alt, der er digitalt, er kunstig intelligens. Det faktum, at Schengens informationssystem kan give svar på mindre end to sekunder ved at se på en database med millioner af mennesker, betyder ikke, at det er drevet af AI. Det er en meget potent database, men det er ikke den slags AI, vi vil regulere med AI-forordningen,“ siger han til Føljeton.

“Men det kan det komme til at blive i fremtiden. For mig vil alt, der går i retning af at bruge kunstig intelligens til at profilere eller automatisk udlede beslutninger, der er knyttet til en migrants rettigheder eller asylansøgninger udelukkende på grundlag af en sådan algoritme, automatisk være noget, der indebærer risici – og derfor noget, som vi skal have meget strenge regler imod.“

Kapløbet om kunstig intelligens

Konkret diskuterer man endnu, om AI brugt ved grænserne skal indgå i tekstens del om forbudte praksisser. Som liberal politiker mener Dragoș Tudorache, at et forbud er “lidt ekstremt. Som regel og princip bakker jeg ikke op om eksklusive forbud. Teknologi kan også bruges til gode ting. Der er ingen teknologi, der er dårlig i sig selv. Teknologi er neutral: Det er er spørgsmål om, hvordan man bruger den.“

“Der er allerede positive eksempler på, hvordan biometri letter behandlingen af strømme af rejsende. Der er naturligvis også en risiko, som der altid er, når man anvender en sådan teknologi: At den er for indgribende og begrænser privatlivets fred. Der skal derfor findes sikkerhedsforanstaltninger og balancer. Jeg mener faktisk, at det er muligt at man kan finde en balance, men i min optik sker det ikke ved at forbyde hverken den ene eller den anden teknologi. Ved at lave forbud nægter man i bund og grund fremskridt. Man benægter også, at visse teknologier kan være gavnlige.“

Hvordan finder man så bedst balancen, hvis det ikke er gennem forbud?

“For det første ved at regulere de præcise og meget særlige situationer, hvor interaktionen mellem borger og myndigheder foregår på grundlag af teknologi. Der må ikke være plads til spekulation eller fortolkning. Og for det andet ved at være meget forsigtig med enhver AI-teknologi, der udarbejder risikobaserede profiler. Det er noget, der ikke kun er relevant, når vi taler om migration og grænser.“

Det er dog ikke alle, der er enige i, at teknologien er neutral. Flere internationale migrationsforskere og civilsamfundsorganisationer har understreget, hvordan kunstig intelligens ved grænserne ikke bare øger risikoen for diskrimination, men også risikerer at skabe nye former for diskrimination, når man erstatter mennesker med maskiner:

“Det er allerede blevet dokumenteret, at ansigtsgenkendelse er meget biased, når det kommer til brune ansigter, men vi ser det i stigende grad benyttet ved grænserne. Løgnedetektorer drevet af AI er også et eksempel på, hvordan det kan gå helt galt. Hvordan kan vi sikre, at de ikke vil diskriminere mod mennesker, der kommunikerer anderledes af kulturelle eller religiøse årsager. Og hvad med traumers indvirkning på hukommelsen?“ spurgte Petra Molnar, der er advokat og forsker ved York University, da Føljeton i foråret talte med hende om AI-forordningen.

Selvom de sværeste politiske spørgsmål foreløbig er udskudt til det nye år – og vi derfor endnu ikke ved, om et decideret forbud bliver en realitet – mener Dragoș Tudorache dog, at forordningens eksistens i sig selv bliver en sejr for EU, når den vedtages:

“Vi er de første på den globale scene, der signalerer, at kunstig intelligens ikke bare er en hvilken som helst anden teknologi, men at den har betydning for vores samfund, måden, vi interagerer med hinanden, og på vores demokratier. Det handler ikke om detaljerne eller de kompromiser, vi kan finde her og der: Det er rammen, der er vigtig. Vi sætter vores værdier først og opstiller nogle regler for, hvordan vigtige dele af teknologien kan tjene de her værdier i fremtiden. Det er den største fordel for os som europæere og som union.“ /Emma Louise Stenholm