Hvorfor vi aldrig kommer til at leve i en Blade Runner-verden

Det er sjældent, at en hollywoodfilm får en til at ligge vågen og spekulere hele natten. Altså ikke bare så’n hold-kæft-hvor-var-den-dårlig-vågen. Men ligge og stirre ind i vækkeuret, der viser to timer til solopgang, mens man overvejer livets store spørgsmål: Er jeg et virkeligt menneske? Hvad gør mig til et menneske? Og kan robotter nogensinde blive mennesker?

Når du indløser billet til Blade Runner 2049, får du ikke bare lov at se et værk, som nok er den hidtil bedste science fiction-spillefilm i dette årtusinde. Nej, du får også eksistentiel angst med i købet.

Det fantastiske ved den originale Blade Runner fra 1982 er, at den nægter at nøjes med at ride på den klassiske actionbølge, hvor opskriften er en kombi af noget med rummet, nogle onde, nogle gode og nogle lidt laseragtige pistoler, som de kan skyde hinanden med. I stedet lavede instruktøren, Ridley Scott, et stilistisk noir-setup, der stiller spørgsmål ved hele vores eksistens: Hvornår er man et menneske?

Det er den stil og problematik, der bliver ført videre i toeren, som er instrueret af Denis Villeneuve. Vi befinder os i den samme dystopiske verden, som er beboet af både mennesker og replikanter, en slags menneskeskabte biologiske robotter. En del af de ældre modeller af replikanterne har vist sig at have den defekt, at de er for menneskelige, så de begynder at improvisere i stedet for blot at adlyde ordre. Derfor sender man de såkaldte blade runners ud for at ”pensionere” dem.

Hovedpersonen K, spillet af Ryan Gosling, er både blade runner og replikant (dog en af de nyere modeller), og filmens omdrejningspunkt er hans eksistentielle udvikling, hvor han gør sig tanker om sin egen væren, sine handlinger, ja, og væren i det hele taget.

En del af Blade Runner-filmenes DNA er, at de sætter fingeren på nutidens teknologiske frygt. Da originalen udkom i 1982, var det især kloning, man gik og bekymrede sig om. I den nye film er der i langt højere grad fokus på forholdet mellem menneske og maskine. Hvad er forskellen? Og kan en maskine nogensinde blive et menneske?

Bliver din næste kæreste en robot?

Det er for så vidt ikke nye spørgsmål, filmen stiller. Igennem hele den vestlige filosofiske tradition har spørgsmålet om menneskets væren været helt centralt. Men spørgsmålet har alligevel fået en renæssance i nyere tid, hvor kunstig intelligens på kort tid er blevet det, som alle snakker om. Robotteknologien og udviklingen af kunstig intelligens har taget et kvantespring de senere år, og pionerer inden for feltet – såsom Elon Musk – er ligefrem begyndt at advare om, at den kunstige intelligens kan blive en trussel for mennesket en dag.

Når man hører den slags udmeldinger, tænker man, at vi måske ikke er så langt fra den dystopiske virkelighed, der er på spil i Blade Runner. At der ikke er lang tid til, at der er replikanter, eller at vi ligesom hovedpersonen i Blade Runner 2049 får en kæreste, som kun eksisterer på en hard disc.

Spørgsmålet er altså, om netdating snart får en ny betydning? Kommer vi til at leve i en verden a la Blade Runner? Svaret er både ja og nej. Det synes uundgåeligt, at der inden længe findes kunstig intelligens, der minder om mennesket. Men dykker vi ned i filosofien, vil vi se, at det umiddelbart er logisk umuligt at nedbryde skellet mellem menneske og maskine.

Er DU en maskine?

Selv i den moderne videnskab har ingen rigtig knækket koden til, hvad hjernen er, hvad bevidstheden er, og hvor den kommer fra. En af de mest indflydelsesrige teorier om menneskets hjerne og sind blev fremsat i 1960 af den amerikanske filosofiprofessor Hilary Putnam. Kort fortalt mente Putnam, at hjernen fungerer på samme måde som en computer – det er en processor med input og output.

Hvis Putnam har ret, er det gode nyheder for Blade Runner-fantaster og fans af digitale kærester: Hvis hjernen er en computer, er det ikke andet end en kode, vi skal knække. Når vi først har fundet manualen til den supercomputer, som hjernen i så fald er, så er det bare at bygge et eksemplar, og voilà: vi har skabt en ægte kunstig intelligens.

Den form for kunstig intelligens, der ville være kommet ud af sådan et eksperiment, kalder man i fagsprog strong AI: En computer, der med de rigtige input og outputs vil have en hjerne, der fungerer på samme måde som menneskets.

Men hvordan tester man, om en computer faktisk opfører sig menneskeligt? Den mest kendte test for menneskelig intelligens i computere kaldes Turing-testen, opkaldt efter computervidenskabsmanden Alan Turing: Forestil dig, at du fører en e-mailkorrespondance med Hans og Grethe. Du ved, at enten Hans eller Grethe er en computer, men du ved ikke hvem. Du kan stille dem så mange spørgsmål, du lyster, og hvis du efter mailudvekslingen stadig ikke kan regne ud, hvem der er en computer, har computeren bestået Turing-testen. Testen, der er fra 1950, står stadig i dag som som lakmusprøven for, hvorvidt en computer er intelligent (skønt det ikke helt var Turings intention at se sådan på det).

Det siger sig selv, at en strong AI vil bestå Turing-testen uden problemer. Ifølge Putnam er den i princippet lige så menneskelig som mennesket selv.

Vi er desuden ret tæt på at have computere, der kan bestå Turing-testen. Der udvikles såkaldte chatbots, som forsøger at imitere den menneskelige måde at snakke på, og skønt de ikke altid fungerer lige godt, er de tæt på.

Det efterlader os med to spørgsmål: Er mennesket faktisk bare en computer, der kan kopieres? Og er en bestået Turing-test en tilstrækkelig betingelse for, at vi vil kalde en computer for menneskelig?

Det kinesiske rum

Måske burde vi egentlig have stoppet diskussionen om, hvorvidt strong AI er en mulighed allerede tilbage i 1980, da den amerikanske filosof John Searle udgav artiklen ‘Minds, Brains, and Programs’. I artiklen kommer Searle med en ny tese, der modsiger både teorien om, at mennesket er en maskine, at strong AI er mulig, og at Turing-testen er brugbar.

Searles hovedargument bygger på et tankeeksperiment, som han kalder Det Kinesiske Rum. Searle forestiller sig en situation, hvor man har skabt en computer, der har bestået Turing-testen. Computeren kan modtage kinesisk skrift som input og producerer kinesisk skrift som output. Den laver sine kinesisk output så overbevisende, at man ikke kan skelne dem fra menneskesvar.

Searle forestiller sig derefter, at han låser sig inde i et rum med intet andet end pen, papir og en udprintet udgave af det program, den ”kinesiske” computer bruger. Searles eneste kommunikation med omverden foregår gennem tekstbeskeder på kinesisk. Searle kan ikke selv kinesisk, men den udprintede version af computerprogrammet fortæller Searle præcist, hvordan han skal svare på de kinesiske beskeder, selv om han hverken forstår de beskeder, han sender, eller dem, han modtager. I den anden anden side af rummet sidder den person, som Searle kommunikerer med. Denne ved ikke, at Searle har en udprintet version af computerprogrammet, så hun tror, at hun snakker med en kinesisk talende person, da beskederne giver fint mening.

Searles argument er altså, at computeren, ligesom Searle selv, ikke rent faktisk forstår, hvad der bliver sagt. Den simulerer, at den forstår, hvad der bliver sagt. Den kender ikke bogstaver eller sætningers egentlige betydning.

Modsat maskinen har mennesket tanker, og de tanker har mening. Vores tanker repræsenterer noget, og vi ved selv, hvad det er, de repræsenterer.

I sidste ende betyder det, at det ikke er muligt at lave en kunstig intelligens, der fungerer ligesom menneskets intelligens. Alle computerprogrammer er bygget på formelle systemer, der fungerer gennem forskellige kombinationer af nuller og ettaller. Sådanne computerprogrammer kan manipulere symboler, men forstår ikke selv, hvad de symboler betyder.

Searle mener derved også at have vist, at menneskehjernen ikke er en computer. Siden hjernen producerer bevidsthed, må et computerprogram også kunne producere bevidsthed for at være en kunstig intelligens. Men et formelt program kan ikke producere bevidsthed, fordi computere ikke kan skabe forståelse. Det kan sammenlignes med en flamme på en computerskærm: Den giver ikke varme, ligesom en en kunstig intelligens ikke giver bevidsthed.

Vi kan ting, computere ikke kan

Searle står ikke alene med kritikken af muligheden for at konstruere en menneskelig computer. Den østrigske matematiker Kurt Gödel udviklede i 1931 en logisk læresætning, der kaldes Gödels ufuldstændighedssætning. Sætningen siger kort sagt, at der findes matematiske sætninger, som er sande, men ikke kan bevises.

Gödel beviser sin sætning med det, man kalder løgnerens paradoks, som lyder således: ”Denne sætning er falsk.” Hvis sætningen er sand, betyder det ifølge sætningen selv, at den er falsk. Men sætningen kan heller ikke være falsk, for i så fald er den sand. Vi har altså at gøre med en sand sætning, som ikke kan bevises.

En computer, der er bygget på et formelt logisk system, vil aldrig kunne forstå, at noget kan være sandt, uden at det kan bevises. Computere forstår ikke Gödels sætning. Du har det måske lidt på samme måde, men efter lidt tid vil du, mennesket bag skærmen, kunne forstå den. Vi kan kigge på sætningen og intuitivt vide, at sætningen er sand. Derfor er der altså mindst én ting, som mennesker kan, som vi aldrig vil kunne programmere et logisk system til.

Den amerikanske filosof Hubert Dreyfus har siden 1960’erne netop argumenteret for, at menneskets hjerne er i stand til at gøre en række ting, som man aldrig vil kunne programmere en computer til. Dreyfus mente, at menneskets intelligens i høj grad bygger på ubevidste mekanismer, som ikke kan formaliseres, hvilket ville være nødvendigt, hvis det skulle passe ind i et computerprogram.

Dreyfus, der i høj grad var inspireret af den tyske filosof Martin Heidegger, siger, at der er forskel på ”at vide at” og ”at vide hvordan”. At vide at benyttes af både mennesker og computere. Det er, når vi løser problemer logisk skridt for skridt.

At vide hvordan er derimod en egenskab, som kun mennesket kan benytte sig af, og det er i langt højere grad den egenskab, vi bruger fra dag til dag. Det er det, der gør os i stand til at træffe beslutninger uden at gennemgå længere logiske processer først. Dreyfus mener, at mennesket på et tidspunkt får en intuitiv viden, der gør, at vi ikke behøver foretage en lang logisk gennemgang i hovedet, men i stedet bare kan hoppe direkte til konklusionerne. Det er ikke en mulighed for computeren.

Dreyfus’ pointe er, at der er en stor del af den menneskelige viden, der ikke kan sættes på formel. Det gælder Gödels sætning, men det gælder også vores evne til at improvisere, være intuitive, forstå, at noget er smukt etc. Vi forstår verden ud fra den kontekst, vi lever i. Det, computeren aldrig kommer til at forstå, er selve det, som Heidegger kaldte væren-i-verden, altså det, at vi mennesker er i verden. Det er ikke muligt at formalisere menneskets kontekst i verden. Det er kun noget, man kan opleve i kraft af at være menneske.

Kys din robotkæreste farvel

Hvis vi skal leve i en Blade Runner-verden, hvor der ikke på nogen essentielle områder er forskel på menneske og kunstig intelligens, så skal vi som minimum finde en ny måde at lave computere på. Bliver vi ved med at lave dem som formelle systemer, kommer vi aldrig til at kunne blive kærester med en robot, der har en hjerne, som fungerer på præcis samme måde som vores.

Men det betyder ikke, at vi ikke kommer tæt på. Hvis du kan leve med en kæreste, der ikke kan bevise Gödels sætning, ikke kan forstå det at være menneske i verden og ikke kan elske dig, men kun simulere at elske dig, så kan du godt glæde dig til fremtiden. Indtil da foreslår vi, at du holder dig til at date mennesker, og at du glæder dig over, at du aldrig kommer til at leve i Blade Runners dystopiske verden.