Fra matematik til masseødelæggelsesvåben

Inspireret af biblioteket i Alexandria blev Visdommens hus grundlagt af kaliffen Harun al-Rashid omkring 762 efter vores tidsregning.

Bygget i Bagdad, der på mindre end fire årtier var blevet den største by i verden, blev Visdommens hus det største bibliotek og intellektuelle centrum fra det niende til trettende århundrede. Altså i tiden, der i vores vanlige historieskrivning er bedst kendt som tomrummet mellem Romerrigets fald og den europæiske renæssance.

Før de – for de fleste – mere velkendte skikkelser som Leonardo da Vinci, Kopernikus og Erasmus fundamentalt forandrede vores verdensbillede og menneskesyn, var der altså en lang række forskere, der ikke bare gik forud for de europæiske tænkere, men (insisterer den irakisk-britiske teoretiske fysiker Jim al-Khalili, som har skrevet en bog om emnet) i mange tilfælde muliggjorde deres tænkning.

I Visdommens hus blev gamle bøger, fyldt med videnskab og filosofi, oversat til arabisk, og der blev skrevet nye bøger, der indeholdt omfattende original forskning i matematik, geografi, astronomi og fysik.

Der var så mange forskere og bøger samlet på ét sted, at, da Bagdad sidenhen blev belejret og erobret af mongolske styrker i 1258, de konkurrerende historier lyder, at vandet i Tigrisfloden blev malet henholdsvis rødt – af forskernes blod – eller sort – fra bøgernes blæk.

al-Khwārizmīs indflydelse

Før det blev så blodigt, skrev Muhammad ibn Mūsa al-Khwārizmī, der menes at have levet fra cirka 780-850 og var en af de førende forskere i Visdommens hus, sit hovedværk: en matematikbog med titlen Kitāb al-Mukhtaṣar fī Ḥisāb al-Jabr wal-Muqābalah. Bogen samlede den hidtidige matematiske viden fra Indien og Grækenland og udvidede den.

al-Jabr lyder måske bekendt, da det i den senere latinske oversættelse blev til algebra. al-Jabr kan – afhængig af, hvem man spørger – betyde “at genoprette”, “at være lig” eller “at genforene de brudte dele”, hvilket i denne sammenhæng refererer til at “genoprette” eller “genforene” en lignings balance. Det gør man – som man lærte en gang i grundskolen – ved at udføre de samme operationer på begge sider af lighedstegnet.

Selvom lighedstegnet og mange af de abstrakte symboler, som vi bruger i dag, såsom x, der repræsenterer en ubekendt, ikke var blevet opfundet i al-Khwārizmīs tid, markerede hans arbejde begyndelsen på moderne algebra, hvor man systematisk manipulerer symboler.

I sin bog fortsatte al-Khwārizmī med at beskrive og demonstrere, hvordan man løser både lineære og kvadratiske ligninger trin for trin, altså fremgangsmåder, der minder om nutidens algoritmer.

Når vi i dag taler om algoritmer, skyldes det al-Khwārizmī, selvom han aldrig selv brugte dette begreb, og at det har skiftet form et par gange de sidste tusind års tid.

Ordet algoritme stammer nemlig fra latiniseringen af hans efternavn. Da hans hovedværk blev oversat til latin i 1100-tallet, begyndte den med ordene “Dixit Algorizmi” – “Algorizmi sagde”. “Algorizmi” eller “algorisme” blev derfor længe brugt som begreb for beregninger udført med det hindu-arabiske talsystem. Det er de samme tal, som vi bruger i dag, altså 0-9, men det var ret banebrydende for europæerne, der længe klyngede sig til deres kugleramme og gode, gamle romertal.

Med indflydelse fra det græske ἀριθμός – arithmos, altså tal – blev det efterhånden til algoritmus, mens ordet “algoritme” ifølge Oxfords ordbog blev brugt for første gang af den engelske matematiker Thomas Hood i 1596.

Algoritmer betegnede herefter trinvise procedurer til løsning af generelle matematiske problemer, men blev i lang tid stadig udført af mennesker – ikke maskiner.

Det lyder jo egentlig meget uskyldigt, men et par århundreder senere beskylder en matematiker algoritmerne for at være nutidens masseødelæggelsesvåben.

I de forkerte hænder

Når vi taler om algoritmer i dag, mener vi næsten altid algoritmer, der foretages af maskiner. Og når vi taler om algoritmer, taler vi slet ikke længere om matematik. I hvert fald ikke, hvis man spørger Cathy O’Neil, som har en ph.d. i matematik.

“Det er mere markedsføring end matematik,” siger O’Neil, der med bogen Weapons of Math Destruction, som udkom i 2016, var med til at gøre kritikken af uigennemsigtige og uregulerede algoritmer mainstream. “Algoritme kan betragtes som et matematisk begreb, men det er også et overbelastet og generisk begreb, der i virkeligheden bruges til markedsføring,” uddyber hun.

Algoritmer kan sælges som et objektivt system, der kan forudsige, vurdere og træffe beslutninger. “Alt, hvad der før var en vanskelig, kompliceret eller subjektiv beslutning, kunne overlades til algoritmer. Det var billigere, og der var mindre ansvarlighed,” forklarer O’Neil.

O’Neil har arbejdet på Wall Street, men sagde op efter finanskrisen. Hun gik fra at sidde inde på kontoret til at stå uden for det på gaderne som en del af Occupy Wall Street-bevægelsen, og skrev sin bog ud fra sine egne erfaringer og bekymringer.

“Jeg skrev bogen med den intention, at den gennemsnitlige person var alt for tillidsfuld og blindt stolede på nogle algoritmer, som faktisk næsten aldrig arbejder på deres vegne. De fleste algoritmer ejes af virksomheder, som har deres egne dagsordener, der ikke nødvendigvis er i overensstemmelse med vores, men nogle gange tilfældigvis resulterer i det, som vi ønsker,” siger O’Neil.

Langt fra objektiv matematik mener O’Neil altså, at algoritmer kan være masseødelæggelsesvåben, og det er tech-giganter, der har fingeren på atomknappen.

Siden hendes bog udkom, har vi set de dystre varsler blive til virkelighed. Som i Nederlandene, hvor en algoritme i årevis medførte, at flere tusinde borgere blev anklaget for bedrageri med børnepenge. Denne algoritme baserede blandt andet sin vurdering på, hvorvidt borgerne havde dobbelt statsborgerskab. Her endte regeringen dog med at blive holdt ansvarlig, da den i 2021 måtte trække sig som følge af skandalen.

Så har vi lært lektien?

“Det håber jeg,” siger O’Neil, der de sidste 10 år har arbejdet med risikovurdering af algoritmer. Noget, hun introducerer i sin bog, hvor hun skriver, at det bør gøres på baggrund af tre parametre: Hvor hemmeligholdte algoritmerne er, hvilket omfang de har, og hvor skadelig en effekt, de kan have.

“Folk virkede til at indse, at algoritmer ikke var magiske og perfekte. At vi er nødt til at teste dem, tilpasse dem og tvinge dem til at opføre sig på en måde, der er i overensstemmelse med vores lovgivning og etik,” siger hun.

Til gengæld ser hun, at historien er ved at gentage sig selv med kunstig intelligens, som hun ligeledes mener er mere markedsføring end matematik.

“Nu er skalaen bare større. Tidligere stolede folk for meget på algoritmer, men algoritmer manipulerede ikke med deres psyke i samme grad. Med store sprogmodeller er udnyttelsen af tillid meget mere ekstrem, mere direkte og mere personlig. Det føles intimt, at folks indre stemmer udnyttes, hvor det før var deres ydre levevilkår, der blev udnyttet,” siger hun.

“Kunstig intelligens får virkelig meget sendetid og ofte bliver der bare transskriberet, hvad de skøre KI-folk senest har sagt. Som for eksempel, at kunstig intelligens er bevidst. Jeg kalder det hype, men man kunne også kalde det løgne.”

/Emilie Ewald 

Er man – som Cathy O’Neil – skeptisk over for KI-hype, så er man også skeptisk over for dem, der entusiastisk taler om såkaldt bevidst kunstig intelligens. For cirka 1.000 år siden beskæftigede den persiske filosof Abu Ali al-Hussein Ibn Sīnā sig med bevidsthed. Et koncept, som forskere stadig er i færd med at begribe, og som måske kan hjælpe os til at forstå, hvorfor vi stoler så blindt på store sprogmodeller. Mere om det i næste afsnit.