Kan vi komme ind i den sorte boks?

Rigsarkivet er køligt, i hvert fald i det gigantiske rum, hvor alle papirerne opbevares. Der er ikke reoler med gamle bøger, som kan trækkes ud og støves af. Der er lange, lige rækker af højt stablede, grå kasser, og når der skal findes et dokument frem – det skal der fx, når en forsker eller privatperson henvender sig – bruges en kørende kran til at hente dokumentet.

Der er 530 hyldemeter, og der findes tre gange så mange digitale data – de fylder dog kun et par flyttekasser. Til gengæld skal de omtrent hvert femte år flyttes til nye systemer og enheder, så de ikke bliver for gamle. På hyldemeterne og i flyttekasserne ligger Danmarks hukommelse. Alt fra kirkebøger og folketællinger til Margrethe Vestagers håndskrevne dagbøger fra sit årti som EU-kommissær.

Arkiv bevogtet af isbjørne

Det er en del koldere omkring 2.500 kilometer nord for København på Svalbard, hvor der findes et andet arkiv. Tæt på Nordpolen, i en nedlagt kulmine i permafrosten og bevogtet af isbjørne, findes Det arktiske verdensarkiv. Her opbevares alt fra nigerianske folkeminder og GitHubs kildekoder til Chopins håndskrevne noder.

I modsætning til Rigsarkivet opbevares data ikke i bits og bytes – altså 0- og 1-taller – men ved hjælp af en ældre teknologi, film. “Filmen har en utrolig lang levetid,” forklarer Rune Bjerkestrand, som er medgrundlægger af arkivet og direktør i virksomheden, der står bag filmteknologien, til Føljeton. “Den kan ikke hackes, slettes eller omskrives. Den er også mere bæredygtig, for den kræver ingen energi, servere eller datacentre for at overleve i tusindvis af år.”

Bjerkestrand og arkivets anden grundlægger Katrine Loen var inspireret af den globale frøbank, der ligeledes ligger dybt inde i et fjeld på Svalbard: “Vi tænkte, at hvis de kan opbevare verdens frø for at sikre fremtidens fødevareforsyning på denne ø [Spitsbergen red.] og verden har tillid til det, hvorfor kan vi så ikke bruge vores unikke lagringsteknologi til at opbevare verdens vigtigste digitale information om verdens historie, kulturarv, arkitektur, litteratur, hvad som helst, som er til gavn for fremtidige generationer på samme sted?”

I 2017 åbnede teknologivirksomheden Piql arkivet, og de brasilianske, mexicanske og norske regeringer deponerede kopier af historiske dokumenter. Sidenhen er det blevet omdannet til en nonprofitorganisation, som bl.a. samarbejder med UNESCO.

Piqls teknologi gør med Bjerkestrands ord data “udødelig”. Ifølge Bjerkestrand kan filmene holde i tusind år, formentlig 2.000 på grund af de lave temperaturer i arkivet. Denne fotosensitive film er ifølge Bjerkestrand immun over for alle former for elektromagnetisk og radioaktiv stråling, cyberangreb og digitale trusler. Tilmed er den permanent, så i modsætning til Rigsarkivet skal Verdensarkivet ikke migrere data til nye systemer med jævne mellemrum.

Informationen er på ægte norsk manér “sjølvberga” – altså selvforsynende. “Det svarer til, når vi skal krydse højfjeldsplateauet Hardangervidda om vinteren. Det tager fem døgn, så vi må pakke alt det, vi har brug for for at overleve, i rygsækken. Det samme princip gælder for denne film: Den har alt, hvad der skal til for at overleve. Den indeholder selv alle de oplysninger, man har brug for til at forstå, hvad det er, og hvordan man genkender data i fremtiden,” forklarer Bjerkestrand.

Selvom Bjerkestrand nævner både cyberangreb, kunstig intelligens og misinformation som trusler mod autentisk og tilgængelig information, understreger Loen, at det er et håbefuldt projekt: “Da vi åbnede arkivet, var der utrolig mange, der skrev om dommedagsbunkeren. Men det her er jo ikke en dommedagsbunker. Dette er et sted fyldt med håb, hvor vi tager vare på det, der er vigtigt at vide i fremtiden. Ikke fordi verden går under, men så man kan få adgang til den viden senere.”

Bjerkestrand stemmer i: “Vi håber, at det kan være til gavn for fremtidige generationer, så vi ikke glemmer, forfalsker eller afviser viden.”

“Man forestiller sig jo ikke, at de åbner arkivet og bare tænker: Åh gud, hvor var de dog dumme,” siger Loen og griner.

“Nej, jeg forestiller mig snarere, at de siger: Wow, sikke et skattekammer,” svarer Bjerkestrand.

Skattekammeret versus den sorte boks

Man kan ikke tage det selvforsynende skattekammer, som Rune Bjerkestrand håber, at fremtiden vil få adgang til, for givet. For det er ikke al information, som tilstræbes at gøres forståeligt og tilgængeligt.

Det er et af de største problemer inden for kunstig intelligens. I modsætning til et arkiv har kunstig intelligens nemlig en sort boks. “Når folk snakker om den sorte boks, så er der to slags problemer, som tit bliver sammenblandet,” siger Rune Nyrup, som er teknologifilosof og lektor på Aarhus Universitet.

Det ene er, når en virksomheds teknologi er skjult. Både teknisk, fordi man ikke har adgang til systemerne, men også på et juridisk plan, fordi de har noget, der betragtes som forretningshemmeligheder. “Det handler om utilgængelig information. Men det har ikke nødvendigvis noget med maskinlæring eller kunstig intelligens at gøre,” siger Nyrup.

Det andet problem opstår, selvom man har adgang til informationen. “Vil du så overhovedet forstå det? Forstår de – de fremmeste eksperter inden for feltet og dem, som har bygget systemet – det overhovedet selv?”

Mens maskinlæring har skruet op for kompleksiteten, begyndte algoritmer og computersystemer allerede i 1980’erne at blive så komplekse, at der ikke længere var én enkelt person, der kunne forstå det hele. “Man kan godt have en opskrift, hvor man forstår hvert eneste trin, men der er så mange forskellige trin, som hænger sammen på alle mulige forskellige måder. Hvis du skal læse hele opskriften, trin for trin, så vil det måske tage lang tid og være for uoverskueligt,” siger Nyrup.

Så kom maskinlæring, der ifølge Nyrup egentlig også bare er algoritmer – men algoritmer, som producerer algoritmer.

Hvor en “gammeldags” algoritme skrives for at løse et problem, så indebærer en maskinlæringsalgoritme, at du skriver en algoritme, som selv skriver en anden algoritme, der kan løse problemet.

“Hvis jeg fx gerne vil kende forskel på katte og hunde: Jeg ved ikke, hvordan man skriver en algoritme, der kender forskel på dem, men jeg kan skrive en algoritme, som tager en masse data og lærer, hvordan man kender forskel på katte og hunde,” forklarer Nyrup.

Maskinlæringsalgoritmer virker, men vi – inklusiv eksperterne inden for matematik og datalogi – ved ikke altid, hvorfor de virker.

Milliarder af knapper

Hvis vi kigger ind i boksen, så ser vi det, som kaldes parametre. Ifølge Rune Nyrup skal vi forestille os nogle justerbare knapper eller håndtag. Deres præcise indstilling gør, at algoritmen kan løse et specifikt problem.

Det lyder jo meget simpelt, men: “Der er tusind knapper, og tusind gange det, og tusind gange det. Altså millioner eller milliarder af knapper. Selv hvis du på en eller anden måde kunne gennemskue, hvordan det hele hænger sammen, så ville du ikke have tid til at forholde dig til alle knapperne,” siger Nyrup.

Der er ifølge Nyrup bred enighed om, at der er noget problematisk ved denne situation: “Virker den altid? Det kan vi jo ikke sige, fordi det er en forudsigelse om fremtiden. Det, vi kan sige, er, at den aldrig før har lavet fejl, men sådan er det heller ikke. De laver altid fejl. Det vil sige, at medmindre vi på en eller anden måde kan få en bedre forståelse af, hvordan den fungerer, så er det teknisk, matematisk og filosofisk umuligt at garantere, at den vil blive ved med at fungere.”

Det er denne forståelse, som Nyrup, der forsker i såkaldt ‘explainable AI’ eller XAI – på dansk kan det oversættes til forklarbar kunstig intelligens – forsøger at få.

“Det handler om at lave nogle værktøjer, som kan gøre dit andet værktøj lettere at forstå,” siger han. Der er groft set tre måder, hvorpå vi kan gøre den sorte boks mindre sort.

Den første er at undgå at lave den sorte boks til at starte med. I stedet kan man lave en simplere model og dermed en helt gennemsigtig boks:

“Der findes tilfælde, hvor man har påvist, at al den kompleksitet – det meste af det i hvert fald – er fuldstændig irrelevant. Der er faktisk en meget simpel underliggende struktur, som vi kan bruge til at få nogle meget pålidelige svar. Det svarer til, at vi har en sort boks med millioner af knapper, men når vi åbner boksen, så viser det sig, at 99 pct. af dem bare er filtret sammen ovre i hjørnet og gør næsten ingenting, mens få knapper løser problemet.”

Hvis man allerede har den sorte boks, kan man bygge en gennemsigtig boks ved siden af den, som viser, hvad den sorte boks gør.

“Ligesom vi bygger videnskabelige modeller af komplekse ting, såsom klimasystemer. Klimamodeller er selvfølgelig komplekse, men de er mindre komplekse end klimasystemerne. Man har noget meget komplekst, så man bygger en maskinlæringsmodel, der også er meget kompleks. Men så bygger man også en model af modellen, som vi forstår,” forklarer Nyrup.

Sidst – og længst væk fra idealet om en gennemsigtig boks – kan man lave et lille vindue ind til den sorte boks, der giver et glimt af, hvad der foregår derinde: “Man prøver ikke at finde ud af, hvad modellen gør generelt set. I stedet bygger man et værktøj, der kan finde ud af, hvad det var ved lige præcis dette input, som gjorde, at modellen kom frem til dette output.”

Kunstig intelligens kan læse kileskrift

Selvom arkivet har de kvaliteter, som Rune Nyrup med XAI forsøger at give kunstig intelligens, er han ikke sikker på, at arkivet er idealet for kunstig intelligens som sådan: “Der er også masser af ting i et arkiv, vi ikke forstår. Der kan være kasser, der er blevet væk, og der kan være sammenhænge, vi ikke får øje på, fordi vi nu har klassificeret tingene på en måde. Der er blevet truffet en masse valg, som strukturerer information.”

Til gengæld ser han et potentiale ved det digitale rum og kunstig intelligens’ evne til at navigere i det. Det er fx svært at sige nej til potentialet i at kunne diagnosticere kræft hurtigere og mere præcist. Eller få adgang til ny viden.

“Jeg har en ven, [arkæologen red.] Rune Rattenborg, som forsker inden for assyriologi og arbejder med kileskrift. Der er så meget viden og mange forbindelser, der ikke er blevet fundet endnu,” siger Nyrup.

Når man skriver på ler, bliver det hele bevaret, når et bibliotek brænder ned. Det betyder, at der findes utrolig mange lerplader med kileskrift. Også det, der svarer til nutidens rod af fakturaer og e-mail-indbakker. Mens assyriologer traditionelt set har fokuseret på de store religiøse fortællinger, undersøger Rattenborg, hvad vi kan lære om et bronzealdersamfund ved rent faktisk at kigge dette “kedelige” materiale igennem.

Med kunstig intelligens har computere lært at læse kileskrift – og med en KI-model kan man muligvis finde nye sammenhænge og forbindelser, der aldrig er blevet lavet før.

Selvom det er problematisk, når man ikke kan få adgang til KI’s sorte boks, kan kunstig intelligens – ligesom arkiverne – også være et skattekort til fortiden. /Emilie Ewald