Tror du på teknologien?

Omgivet af grønne kalkstensbakker i Puerto Rico ligger ruinerne af det, der på et tidspunkt var verdens største radioteleskop. En måned efter at det blev meddelt, at Arecibo-observatoriet skulle rives ned, kollapsede konstruktionen af beton og aluminium af sig selv. Kablerne knækkede, og braget blev fanget af overvågningsdronerne.

For et halvt århundrede siden var denne ruin en frontlinje for den teknologiske udvikling, hvorfra der blev sendt et “postkort” til det ydre rum. Radiobeskeden, som blandt andet astronomen Frank Drake stod bag, inkluderede basale informationer om menneskeheden: talrækken fra 1 til 10, livets grundstoffer, DNA, en menneskeskikkelse, altså en pindemand, jordens befolkningstal på daværende tidspunkt, vores solsystem, vores placering heri og en tegning af radioteleskopet, som beskeden kom fra.

 

Til det fremmødte publikum lød det dog bare som 168 sekunders støj. Beskeden til stjernehoben 25.000 lysår fra Jorden var nemlig skrevet med det binære talsystem, som udelukkende bruger cifrene 0 og 1, et sprog, som tilstrækkeligt teknologiske og videnskabeligt anlagte civilisationer forventedes at kunne forstå.

Ikke alle var begejstrede over denne stræben efter stjernerne. “Det er meget farligt at afsløre vores eksistens og placering for galaksen; så vidt vi ved, kan alle væsner derude være ondsindede – eller sultne,” advarede den daværende øverste astronom i England, Martin Ryle.

I dag har frontlinjen for teknologisk udvikling flyttet sig, men den eksistentielle frygt er rykket med.

“Disse ting er totalt anderledes end os. Indimellem tænker jeg, at det er, som om aliens var landet her, og at folk ikke opdagede det, fordi de talte glimrende engelsk,” sagde psyko- og datalog Geoffrey Hinton i 2023.

Han talte selvfølgelig om kunstig intelligens, mere præcist de store sprogmodeller, som med ChatGPT blev introduceret til offentligheden i november 2022.

Noget, vi ikke forstår

“At mindske risikoen for udryddelse som følge af kunstig intelligens bør være en global prioritet på linje med andre samfundsmæssige risici såsom pandemier og atomkrig,” lød det i en erklæring underskrevet af Hinton, Bill Gates og Sam Altman, som er administrerende direktør i OpenAI, der står bag produktet ChatGPT. Mere end 30.000 forskere og techdirektører, herunder Elon Musk, opfordrede umiddelbart efter ChatGPT’s lancering til, at “alle KI-laboratorier straks skal indstille træningen af KI-systemer, der er mere kraftfulde end GPT-4, i mindst 6 måneder.”

De samme mennesker, som har underskrevet erklæringer og åbne breve om potentiel udryddelse, har tydeligvis ikke lyttet til sig selv. Bare i år har techvirksomheder investeret mere end 400 milliarder amerikanske dollars, omkring 3 billioner danske kroner, i at bygge infrastruktur til at understøtte udviklingen af kunstig intelligens. Til sammenligning, fordi det tal er rimeligt umuligt at forstå, kostede Manhattanprojektet, der mellem 1942 og 1946 forskede i og fremstillede verdens første atombomber, det der svarer til 30 milliarder dollars i dag, mens NASAs årtierlange Apollo-program, der resulterede i seks succesfulde månelandinger, kostede 298 milliarder dollars.

Nogle af dem, der står bag de allerstørste investeringer i kunstig intelligens, er netop blevet kåret af Time Magazine som årets personer.

Techgiganterne eller “arkitekterne, som står bag KI”, som Time Magazine kalder dem, er tilsyneladende i gang med at bygge den fremtid, som de selv har advaret imod. Og vi andre lever allerede i den. Millionvis af mennesker bruger store sprogmodeller. Der indsamles data døgnet rundt, og algoritmer beskriver og styrer nærmest alt.

Når vi taler om kunstig intelligens, mener vi ofte store sprogmodeller eller endda simplere algoritmiske systemer. Når vi taler om algoritmer, mener vi ofte den alvidende, onlinepræsente såkaldte “algoritme”, som får musik, misinformation og memes til at hvirvle ind i verden i vores egen hånd.

Så hvad er det egentlig, vi taler om, når vi taler om den teknologi, der i stigende grad former vores liv, verden og – hvis det står til techgiganterne – fremtid?

Den norske forsker Inga Strümke definerer en algoritme som “en samling instruktioner, som kan udføres i en bestemt rækkefølge for at opnå et bestemt mål, og det klassiske eksempel er en madopskrift.” Da jeg spørger professor Søren Hauberg på Danmarks Tekniske Universitet, hvad en algoritme egentlig er, griner han. Han brugte en algoritme i går, da han bagte drømmekage med sin datter, siger han.

“Algoritmer i sig selv er ikke nødvendigvis uigennemsigtige eller svære at forstå,” siger sociolog Gabriele de Seta. Men der er en grund til at algoritmerne, der former vores virkelighed og valg, ikke er lige så gennemskuelige som en opskrift.

“For det første er der private virksomheder, som skal tjene penge, så når de udvikler et algoritmisk system, der fungerer godt, vil de holde det hemmeligt eller beskytte det som intellektuel ejendom. Den anden grund er, at disse systemer bliver mere og mere komplekse, så i dag tænker vi: ‘Åh, “algoritmen” viste mig dette’, men i virkeligheden er der ikke én algoritme, der viser dig noget som helst. På en platform som Facebook eller TikTok er der sandsynligvis hundredvis af forskellige algoritmer og systemer, der arbejder sammen. Der er algoritmer til at analysere indhold, til at analysere data, til at drage konklusioner ud fra data og så videre. Selvom du kunne se alle disse algoritmer, ville du aldrig forstå, hvad de gjorde,” siger de Seta fra Universitetet i Bergen, hvor han leder et forskningsprojekt om algoritmisk folklore.

Folklore kommer ind i billedet, fordi det er en form for viden eller forståelse, som mennesker udvikler, når de ikke har adgang til andre forklaringer. I 2021 svarede 54 pct. af danskerne, ifølge en undersøgelse lavet af Algoritmer, Data & Demokrati, at de slet ikke eller i mindre grad vidste, hvordan algoritmer fungerer og træffer beslutninger.

“I fortiden udviklede folk folklore omkring ting, de ikke forstod, såsom naturen og spiritualitet. I dag udvikler de folklore omkring algoritmiske systemer,” siger de Seta. Engang var der ellefolk eller trolde, der kunne forklare, nu er der spøgelser i maskinerne og rumvæsener i vores lommer.

Projektet på Universitetet i Bergen varer indtil 2028, men det første fund er, at folk fortæller virkelig mange historier om algoritmer, sociale medier og kunstig intelligens. “De fleste handler om, at det er komplekst, eller at der er noget mystisk over det hele. I modsætning til dette, fortæller vi jo ikke længere den slags historier om biler, telefoner eller TV, fordi vi kender dem og deres begrænsninger.”

 

Fortællinger om teknologi

Fortællingen om teknologi har ofte været positiv. I 1997 udgav Wired et blad med et skriggult omslag og en storsmilende jordklode, der lovede “25 års velstand, frihed og et sundere miljø for hele menneskeheden” drevet af den teknologiske udvikling. Sådan gik det ikke ligefrem. Bladet inkluderede dog også en liste med gendrivelser, altså 10 ting, der potentielt kunne forkorte den såkaldte “lange optur”, herunder at Rusland ville udvikle sig til et kleptokrati, der truer Europa, en ukontrollerbar pest (“en moderne influenza”) og en miljøkatastrofe. Well.

Det er ikke kun fejlslåede profetier, men tusind års teknologihistorie, der modbeviser, at teknologisk udvikling nødvendigvis og automatisk medfører velstand og fremskridt for alle. Det demonstrerer økonomerne Daron Acemoğlu og Simon Johnson i bogen Power and Progress, hvor de også forklarer, hvorfor magtfulde aktører har en interesse i at styre fortællingerne om teknologien. “I moderne samfund er det magten til at overbevise – endnu mere end økonomisk, politisk og hård magt – der er kritisk,” skriver de om beslutningerne, der ender med at afgøre, hvem der vinder og taber, når ny teknologi forandrer vores samfund.

Så algoritmisk folklore former ikke kun vores opfattelse af teknologien, men de fortællinger, som vi fortæller og tror på, kan potentielt forme den teknologiske udviklings ramme og retning.

Så hvad er det for nogle fortællinger, der findes om “det vi kalder kunstig intelligens”?

Kunstig intelligens er fortiden

Algoritmer var et buzzword de seneste to årtier, ligesom big data. Mange af de samme virksomheder og techdirektører, der fik os til at tale om algoritmer, får os i dag til at snakke om kunstig intelligens. Algoritmer er byggestenene, som kunstig intelligens består af, og begrebet er ikke nyt.

Der var ikke enstemmighed om begrebet kunstig intelligens, da det blev opfundet i 1956 på noget så stenet som en sommerkonference for en række forskere. “Ordet ‘kunstig’ får en til at tro, at der er noget falsk over det,” har Arthur Samuel, der var en af deltagerne på Dartmouth University, efterfølgende sagt. Herbert Simon og Allen Newell kaldte deres eget arbejde inden for forskningsfeltet for “kompleks informationsbehandling” længe derefter, mens Claude Shannon har udtalt, at han foretrak udtrykket “automatstudier.”

Det lyder bare langt mindre verdensomvæltende.

Og lige så hurtigt som vi vænnede os til at tale om kunstig generativ intelligens, kom der noget nyt og skinnende. Begrebet kunstig generel intelligens blev brugt for første gang i 1997 i en videnskabelig artikel. “Jeg havde ikke en særlig klar definition,” siger Shane Legg, som har medstiftet Google DeepMind og været med til at udbrede begrebet. Andre taler om det samme, men kalder det superintelligens, hvilket filosof Nick Bostrom i 2014 definerede som “enhver intelligens, der i høj grad overgår mennesker kognitive præstation indenfor stort set alle områder af interesse.” I Silicon Valley messes der efter sigende “feel the AGI” (AGI er den engelske forkortelse for artificial general intelligence, som vi på dansk vil forkorte til KGI) på storrumskontorerne.

Begreberne er glatte, men idéerne er gamle. Det, der menes at være den første elektroniske, digitale og programmerbare computer, ENIAC, blev bygget i 1945. Den optog cirka 150 kvadratmeter og vejede det samme som en hvalhaj. Seks år senere lød det sådan her fra Alan Turing: “Det forekommer sandsynligt, at når maskinens tænkemetode først var kommet i gang, ville det ikke tage lang tid, før den overgik vores svage evner. Der ville ikke være tale om, at maskinerne døde, og de ville være i stand til at kommunikere med hinanden for at skærpe deres intelligens. På et eller andet tidspunkt må vi derfor forvente, at maskinerne overtager kontrollen.

 

Kunstig intelligens er spådom

Kunstig intelligens vil udslette menneskeheden! Kunstig intelligens vil redde Jorden og alle, der bor på den!

Spådom er ikke ulovligt i San Francisco, hvor man kan få sin hånd læst, sin aura pudset og sin skæbne at vide i bytte for 10 amerikanske dollars, men jeg tvivler på, at Silicon Valleys techentreprenører har licensen, som byens politi påkræver.

Alligevel lyder denne slags utopiske og dystopiske spådomme fra kontorbygningerne i den famøse dal i Californien. De abrikoser og kirsebær, der plejede at vokse på træerne, er udskiftet med mikrochips (af silicium, deraf navnet) og masser af penge.

Disse henholdsvis utopiske og dystopiske scenarier er ikke bare overdrevne overskrifter, megalomane tech-milliardærers vrangforestillinger eller et ekko fra bunden af internettets kaninhuller.

Bekymringerne kommer fra nogle af de mennesker, der ved allermest om teknologi og sikkerhed, såsom Sir Ken McCallum, der er generaldirektør for den britiske efterretningstjeneste MI5, i den seneste trusselsvurdering: “I betragtning af risikoen for overdrevet hype og skræmmebilleder vil jeg vælge mine ord med omhu. Jeg forudser ikke Hollywood-film-scenarier. Jeg er generelt en teknologisk optimist, der ser KI som en reel fordel. (…) Kunstig intelligens vil måske aldrig “ville” os noget ondt. Men det ville være uforsvarligt at ignorere potentialet for, at det kan forårsage skade.”

Ifølge Gabriele de Seta kommer denne frygt også til udtryk i den algoritmiske folklore. Derfor forsøger industrien at fremhæve de positive historier om teknologien: “Dette vil ændre dit liv, det vil ændre alting, gøre dig kreativ og rig og så videre.”

Kunstig intelligens er magi

“Det føles som magi,” lyder det fra Sam Altman, der er administrerende direktør i virksomheden OpenAI. Han har kaldt sit produkt ChatGPT for “magisk intelligens i himlen”. “Der er en magi ved det, som jeg ikke har følt før,” skriver han om en opdatering af det, der stadig bare er en chatbot.

“Techlederne forsøger at sælge deres produkt som noget andet end statistik og datalogi. I næsten hundrede år har forskningen i kunstig intelligens handlet om intelligens, som ikke er noget, man bare lige kan måle eller definere matematisk. Det er svært bare at sige, at dette er en meget god model, eller en meget god kode eller en meget god algoritme. Så virksomhederne siger, at dette er mere end det, dette er magisk, dette er som et menneske, dette er mere end et menneske, dette er som en gud eller som et spøgelse,” siger Gabriele de Seta, og henviser til den ofte citerede tredje lov for teknologi formuleret af science fiction-forfatter og futurist Arthur Clarke: “Enhver tilstrækkelig avanceret teknologi er umulig at skelne fra magi.”

Fra et forretningsperspektiv er det formentlig fristende at få teknologien til at fremstå som noget magisk, men magi implicerer også, at teknologien ikke har nogen materielle begrænsninger.

Det er dog meget misvisende. Ifølge Kate Crawford, der forsker ved University of Southern California, er der intet magisk ved kunstig intelligens, som i virkeligheden hverken er “kunstig” eller “intelligent”. “Det er fremstillet af naturlige ressourcer, og det er mennesker, der udfører opgaver for at få systemerne til at fremstå autonome,” lyder hendes kritik.

 

Kunstig intelligens er alkymi

En af de første kritikere af forskningsfeltet med det dengang relativt nye navn “kunstig intelligens”, Hubert L. Dreyfus, sammenlignede det med alkymi: Mere drømme, forhåbninger og forestillinger end klare resultater.

Mens alkymisten Roger Bacon, der levede og arbejdede i det 13. århundrede, ledte efter en livseliksir, der kunne gøre mennesker udødelige, affejede Francis Bacon i det 16. århundrede alkymisternes ambitioner som uvidenskabelige. Han mente dog, at teknologi en dag ville gøre os i stand til at forlænge eller forevige vores liv.

Ironisk nok er livsforlængelse også på dagsordenen i Silicon Valley i dag. KI-virksomheden Anthropics direktør Dario Amodei har udtalt, at kunstig intelligens vil fordoble menneskers levetid. Andre såkaldte transhumanister og verdensledere er enige. Og det er ikke bare noget, de dagdrømmer og hvisketisker om, men noget, de siger højt til hinanden og de fremmødte på globale konferencer.

Kunstig intelligens er matematik

De eksistentielle trusler og forhåbninger virker forvirrende og oppustede, hvis man tager i betragtning, at teknologien, som de udspringer fra, også bare er matematik.

Mens de fleste er nogenlunde bekendt med de videnskabelige love og teorier, der i begyndelsen af det 20. århundrede fundamentalt forandrede vores opfattelse af, hvordan verden, universet og naturen hænger sammen, tager vi ifølge matematiker Chris Bernhardt de teorier, som har drevet den digitale revolution, for givet.

“Vi stopper sjældent op for at stille nogle af de grundlæggende spørgsmål: ‘Hvad er beregning? Hvad er information? Hvilke fordele har digital information i forhold til analog? Hvordan konverterer vi analoge signaler til digitale? Hvad er en algoritme? Hvad er en universel computer? Hvordan kan en maskine lære?’” spørger Bernhardt sig selv i bogen Beautiful Math og konkluderer, at svarene på de spørgsmål ofte er relativt simpel matematik.

Mens begrebet og diskussionen om kunstig intelligens er gamle, er matematikken, der driver værket, altså den digitale verden, endnu ældre.

Algoritmerne kan spores mere end 5000 år tilbage, hvor de blev skrevet på, eller teknisk set skåret i, mesopotamiske lertavler. Ordet algoritme stammer fra en persisk matematiker, der levede og forskede for mere end tusind år siden. Og der er blevet indsamlet store mængder af data siden 1300-tallet.

Kunstig intelligens er fremtiden

Vi er ikke de første mennesker, der har udført et arbejde, der er blevet erstattet af en maskine. Vi er ikke de første, der har diskuteret, om maskiner kan tænke, og om de i så fald burde. Vi er ikke de første, der er blevet forført af maskiner, eller de første, der har frygtet dem.

“Kunstig intelligens er blevet et buzzword, ligesom algoritme og big data har været buzzwords. De kommer og går, men de peger alle sammen på noget, der er en bredere eller mere omfattende forandring i samfundet. Nemlig at data i stor skala bliver mere og mere afgørende. Det er som en ressource. Mange virksomheder ønsker data, fordi de er værdifulde. Jo flere data man har, des mere værdi kan man skabe ud fra forudsigelser og anbefalinger,” siger Gabriele de Seta. Han peger på begrebet, som sociologerne Marion Fourcade og Kieran Healy fremlægger i bogen The Ordinal Society. Det ordinære samfund beskriver ikke et almindeligt samfund, men et ordnet samfund, hvor næsten alle aspekter af vores liv måles, rangordnes og omsættes til digital information. “Det er den større sammenhæng, som vi lever i,” siger Gabriele de Seta.

Denne serie, som vil udkomme i løbet af det næste halve år, er en historie om alt det, der driver denne forandring og har skabt denne sammenhæng: Matematik, mikrochips, magt, menneskelige og umenneskelige computere, maskiner, information, logik, visioner om intelligens og evigt accelererende fremskridt. Fælles for alt det er algoritmerne, og det er historien om dem, som vi vil fortælle.

Det vil vi gøre uden techgiganternes indblanding, så vi ikke blot lader os overbevise om eller falder for deres frygt og forhåbninger, men kan være med til at forme fortællingen – og udviklingen – selv.

Tilbage i Puerto Rico står resterne af Arecibo-observatoriet og vidner om, at et fremskridt lige pludselig kan falde fra hinanden. Om Englands førende astronom havde ret i at frygte rumvæsner i 70’erne, ved vi stadig ikke. For beskeden er ikke nået frem til de stjerner, der udgør dens endestation. Og vi har som bekendt ikke hørt fra nogen rumvæsner i mellemtiden.

Til gengæld har vi under arkæologiske udgravninger fundet flaskepost fra fortiden, efterladt af civilisationer, der levede og uddøde langt før vores tid.

Det er der, at denne tidslinje for algoritmer begynder. Med det første skriftsprog, der i sin tid blev udviklet for at lave beregninger og skabe orden i en spirende civilisation. Det lyder jo næsten som en form for ordinært samfund?

Indtil da: Tror du på spådom, magi, alkymi, matematik, fremtiden, aliens, øh, AI?