Får KI os til at glemme, hvad det vil sige at være menneske?

“Mit barn vil aldrig vokse op og blive klogere end kunstig intelligens,” sagde OpenAI’s direktør Sam Altman tilbage i januar. Men har techmogulen ret i, at den kunstige intelligens en dag vil overgå den menneskelige, eller smider han sit barn under den selvkørende bus?

Silicon Valleys ivrige tro på KI’s kognitive superkræfter har kastet regeringer og virksomheder verden over ind i et hæsblæsende kapløb om, hvem der hurtigst og mest effektivt kan implementere teknologien for at strømline arbejdsgange og frigøre ressourcer. USA’s præsident Donald Trump har for nylig annonceret en milliardinvestering i KI-datacentre, Storbritanniens premierminister Keir Starmer har annonceret en omfattende plan for at implementere teknologien i landets offentlige sektor, og i Danmark vil SVM-regeringen også udrulle KI “i stor skala”.

Ifølge Shannon Vallor, professor i filosofi og KI-etik ved University of Edinburgh, er techoptimismen dog forfejlet: “Siden våbenkapløbet under den Kolde Krig har vi behandlet teknologier som noget, der skal indfanges og vindes. Det er en utroligt giftig framing, som siger meget om, hvorfor verden er i den tilstand, den er i,” siger hun til Føljeton.

I bogen The AI Mirror fra 2024 argumenterer Vallor for, at kunstig intelligens hverken er en universel problemløser eller noget, der – som flere techledere hævder – bør give anledning til apokalyptiske bekymringer om superintelligente robotter, der vil udrydde menneskeracen. Derimod kan vores blinde tro på teknologiens superkræfter i sig selv få fatale eksistentielle konsekvenser.

Sprogmodeller som spejle

Ifølge Shannon Vallor hviler KI-entusiasmen på en illusion om, at generative KI-værktøjer som fx ChatGPT tænker og tilegner sig viden på samme måde som os mennesker. I 2022 proklamerede den tidligere Google-ingeniør Blake Lemoine, at sprogmodellen LaMDA havde udviklet evnen til at tænke selvstændige tanker.

Lemoine tog alvorligt fejl, mener Vallor. For sprogmodeller tænker ikke. De har en masse data, men ingen mentale forestillinger om, hvad dataene repræsenterer. “Verden er noget, de ikke har adgang til, og derfor ved de ikke noget om den,” skriver hun. Men hvis ikke modellerne tænker, hvad gør de så?

Når en chatbot svarer på et spørgsmål, producerer den en statistisk variation af ord eller billeder genereret af millionvis af mennesker i fortiden. Ifølge Vallor bør vi derfor opgive metaforen om modellerne som tænkende maskiner. I stedet bør vi forstå dem som spejle, der reflekterer vores egne tanker tilbage til os.

“Det, som maskinmodeller reflekterer, er billeder af vores intelligens, kreativitet, sprog, malerier, computerkoder, stemmer, eller alt andet, som de kan fodres med som data,” forklarer hun.

Lemoine konkluderede, at sprogmodellen LaMDA forstod ting om ham og om verden. Ifølge Vallor er den konklusion lige så fejlslagen, som det ville være at lede efter et virkeligt menneske inde i et spejl. Faktisk risikerer vi at ende som den tragiske, mytiske figur Narkissos, der gik til grunde efter at være blevet ulykkeligt forelsket i sit eget spejlbillede:

“Der er tegn på, at vi er sårbare over for den samme slags fejl. Denne fremmedgørelse fra os selv opstår, når vi forvirres af KI-spejlenes illusion. Samtidig er der også et kommercielt incitament til at fastlåse os i forvirringen,” siger hun.

Fastlåst i fortiden

Vallor er ikke dommedagsprofet. Faktisk mener hun, at KI-teknologi har stort potentiale til at hjælpe os med at løse verdens udfordringer som fx klimakrisen. Men vi begår en fatal fejl, hvis vi udelukkende fokuserer på generative KI-modeller som ChatGPT:

“Vi kunne bruge andre, snævre KI-teknologier til at accelerere den grønne omstilling. I stedet bygger vi massive datacentre for at understøtte generative KI-værktøjer, som ikke har det samme potentiale til at løse udfordringerne med klima og biodiversitet,” siger hun.

Problemet er, at generativ KI er dårligt egnet til at løse fremtidens kriser, da den er trænet på menneskeskabte data produceret i fortiden:

“Teknologien reflekterer kun de mønstre, som vi allerede har skabt, og holder os fanget i fortidens vaner og praksisser. Den reproducerer de samme sociale biases og problemer, vi længe har været udsat for,” forklarer hun.

I bogen fortæller Shannon Vallor om, hvordan KI-værktøjer bl.a. har eskaleret racisme i det amerikanske sundhedsvæsen. I 2019 fandt forskere ud af, at en algoritme, som risikovurderede patienter, systematisk nægtede sorte patienter adgang til livsvigtige behandlinger. Forklaringen var, at modellen var trænet på data om den historiske praksis i det amerikanske sundhedssystem, som systematisk har underprioriteret sorte patienters behov for behandling.

Historien punkterer ifølge filosoffen myten om, at generative KI-modeller er mindre forudindtagede end os mennesker. I stedet er de som spejle, der kaster alle vores fordomme og fejl tilbage i hovedet på os.

Kynisk intelligens

Begejstringen for KI-spejlene bygger ifølge Vallor ikke bare på en overvurdering af de digitale maskiners intelligens, men også på en devaluering af vores egen intelligens:

“Det er den gradvise erosion af den moralske og politiske selvsikkerhed i os selv og hinanden. I de kommende år vil vi høre den samme sang igen og igen. At mennesker er langsommere, svagere, mindre troværdige, mere biased, mindre rationelle, mindre myndige, mindre værdifulde end vores KI-spejle,” skriver hun i The AI Mirror.

Verdens økonomiske elite og techindustrien promoverer ifølge Vallor en ideologi, der reducerer menneskelig intelligens til en optimerende maskine, hvis primære funktion er at skabe økonomisk vækst. Sådan fremstår deres varer som superprodukter, der kan gøre alting bedre end os. Når vi overbevises om de digitale maskiners overlegenhed, mister vi troen på, at vi kan udfordre techgiganternes magt:

“Der er incitamenter for at skabe nutidens fortællinger om, at menneskeheden er ved at blive overgået af noget bedre. Det er en dybt antidemokratisk fortælling, fordi den fortæller dig, at du ikke kan stole på beslutningstagningen fra den person, der sidder ved siden af dig,”  siger hun og tilføjer: “Vi svømmer rundt i fortællinger, som er blevet skabt specifikt til at gøre os magtesløse.”

Ifølge Vallor begrænser Silicon Valleys åndelige fattigdom vores evne til at forestille os en positiv fremtid med KI. I en af bogens mest bemærkelsesværdige passager reflekterer hun over det besynderlige ved, at alle vores kulturelle forestillinger om superintelligent KI handler om kyniske robotter, der kun ønsker at kontrollere og dominere menneskeracen for egen vindings skyld. Fx i film som Terminator og Ex Machina:

“Hvorfor er der nærmest ingen forestillinger om generel kunstig intelligens, som noget, der griner mere end vi gør? Hvor er de intelligente maskiner, som ikke er på en mission, men som mestrer at være fjollede, udforskende og legende?”

Undertitlen på Vallors bog er Reclaiming humanity in the age of machine thinking. Hendes håb for fremtiden er, at vi gør op med Silicon Valleys fattige forståelse af, hvad det vil sige at være et tænkende væsen. Det kræver bl.a et øget fokus på vores særligt menneskelige egenskaber og alt det, de digitale maskiner ikke kan:

“Den menneskelige forestillingsevne er mærkeligere og mere overraskende end noget, jeg har set i KI-genereret indhold. Hvis vi kan få folk til at vende tilbage til at investere i hinanden, i kunst, litteratur og politik, vil det være meningsfuldt. Så tror jeg, at vi kan vække kærligheden til menneskeligheden til live igen,” siger hun til Føljeton.

/Claes T. Sørensen