Problemerne med kunstig intelligens begyndte hos Platon

Begrebet kunstig intelligens er – delvist – et produkt af snu marketing. I begyndelsen af 1950’erne forsøgte den unge amerikanske matematiker John McCarthy at etablere et nyt forskningsfelt med en mildt sagt ambitiøs målsætning: At genskabe menneskelig intelligens i en digital maskine. For at finansiere projektet måtte han finde på et navn, der tiltrak opmærksomhed: “Jeg fandt på begrebet kunstig intelligens, da vi prøvede at samle penge til en sommerskole,” sagde McCarthy selv i 1973.

Sommerskolen skulle samle forskere på tværs af datalogi, lingvistik og psykologi om at realisere visionen om maskiner, der ræsonnerede som mennesker. McCarthy var overbevist om projektets succes. “Ethvert aspekt af læring eller andre egenskaber ved intelligens kan principielt beskrives så præcist, at man kan få en maskine til at simulere det,” stod der i fondsansøgningen.

McCarthys medansøger Claude Shannon – sidenhen kendt som faderen til informationsteori – havde tidligere beklaget sig over navnet ‘kunstig intelligens’. Han mente, at det var for prangende, og foretrak det mere neutrale ‘automata studies’. Men McCarthy insisterede: Skulle fondsmidlerne i hus, måtte det klinge af sensation.

McCarthy havde ret. Penge strømmede i hvert fald ind, og kunstig intelligens blev grundlagt som forskningsfelt på The Dartmouth Summer Research Project on Artificial Intelligence i 1956, siden kendt som Dartmouth-konferencen.

I fem uger mødtes en gruppe af forskere, som foruden Shannon og McCarthy bl.a. inkluderede Marvin Minsky, Nathaniel Rochester og Allen Newell – alle senere kendt som pionerer inden for kunstig intelligens. De havde alle forskellige faglige tilgange, men delte en dybfølt optimisme på maskinernes vegne. Som psykologen Herbert Simon, som havde deltaget i konferencen, sagde i 1957:

“Det er ikke min hensigt at overraske eller chokere Dem – hvis det da overhovedet er muligt i en tidsalder med kernespaltning og forestående interplanetariske rejser. Men den enkleste måde, jeg kan opsummere det på, er at sige, at der nu findes maskiner i verden, der tænker, der lærer og der skaber. Desuden vil deres evne til at gøre disse ting tiltage hastigt, indtil – i en overskuelig fremtid – det spektrum af problemer, de kan håndtere, vil være lige så bredt som det spektrum, som det menneskelige sind er blevet anvendt på”.

Alkymi

Herbert Simon var langt fra den eneste i 1950’erne, som troede på, at der allerede dengang var maskiner, som tænkte, lærte og skabte. I 1958 præsenterede ingeniører fra den amerikanske flåde en “tænkende” computer ved navn Perceptron. Ifølge The New York Times, der overværede præsentation af det nye påfund, hævdede forskerne, at maskinen som den første kunne tænke som en menneskelig hjerne. Flådeofficerne tøvede ligefrem med at kalde den en maskine, for den var snarere “som et menneske uden liv”.

Ikke alle delte optimismen. I 1960 ankom den unge filosof Hubert Dreyfus til Massachusetts Institute of Technology (MIT) for at undervise. Med kendte navne som Marvin Minsky og John McCarthy var universitetet blevet arnested den forskning i kunstig intelligens, der var opstået i kølvandet på Dartmouth.

Dreyfus fik angiveligt øjnene op for feltet, da eleverne i hans filosofitimer talte om den friske, banebrydende forskning , som foregik nede ad gangen. Ifølge flere af eleverne var filosofien passé. McCarthy og hans kollegaer havde angiveligt løst gåderne om erkendelse og bevidsthed, som filosoffer havde bakset med i over 2000 år. Efter timerne satte Dreyfus sig – som en filosof nu gør – ned for at tænke: “Som jeg underviste, undrede jeg mig mere og mere over, hvordan computere uden krop, uden barndom og uden kulturelle praksisser (…)  fuldt udviklede, asociale, rent analytiske maskiner, overhovedet kunne være intelligente,” skrev han i Mind Over Machine (1986).

Gennem sin bror Stuart Dreyfus, der arbejdede som datalog ved tænketanken Rand Corporation, blev han hyret til at skrive en rapport om den nye forskning i kunstig intelligens. I 1965 udkom den med navnet Alchemy and Artifical Intelligence, hvor Dreyfus’ grublen havde forvandlet sig til nådesløs kritik. Hans pointe var, at de tidlige KI-forskere var som alkymister, der påstod at have opskriften på en magisk eliksir. De havde masser af penge og store løfter, men ingen pålidelig videnskab eller en korrekt forståelse af intelligens.

Filosofiens fejlskud

Efterfølgende udformede Dreyfus det 20. århundredes nok mest sofistikerede kritik af kunstig intelligens. Kritikken er ikke alene fascinerende for det, den siger om maskiners begrænsninger, men også for det den afslører om alt det, den vestlige tænkning har fortrængt om, hvad det vil sige at være menneske.

I hovedværket What Computers Can’t Do (1972) argumenterede Dreyfus for, at McCarthy og co’s vision hvilede på en fejlagtig opfattelse af intelligens, der kan spores tilbage til den antikke græker Platon, ofte regnet for den vestlige filosofis fader.

For Platon indebar sand ekspertise evnen til at formulere sin viden i eksplicitte regler og teoretiske definitioner. Når en dygtig læge opererer, kan hun forklare, hvorfor hun sætter snittet, som hun gør, med henvisning til kroppens anatomi og sygdommens årsager. Lægens ekspertise antager form af en regel: ‘Når man skærer i X, sker der Y, fordi Z.’

Platons syn på mennesket som en regelbaseret regnemaskine blev senere udviklet af den franske filosof René Descartes. Filosoffen fra 1600-tallet – som vi før har været inde over i denne serie  – så mennesket som en tænkende ting (res cogitans) adskilt fra den ydre, fysiske verden (res extensa).

Ifølge Dreyfus danner denne tanketradition – fra Platon til Descartes – det filosofiske grundlag for McCarthys idé om intelligens som en algoritmisk opskrift, der kan kopieres af digitale maskiner. For hvis intelligens dybest er noget immaterielt, kan man forestille sig en intelligens, der bor i en kropsløs computer. Og hvis intelligens derudover kan reduceres til regler og manipulation af symboler, kan det principielt reproduceres som kode i en digital maskine. Problemet er ifølge Dreyfus, at hele det billede af den menneskelige kognition er forkert.

I sit opgør med den vestlige filosofihistorie fandt Dreyfus åndelig ammunition hos den tyske filosof Martin Heidegger. I hovedværket Væren og Tid (1927) argumenterede Heidegger for, at mennesket – eller Dasein, som han kaldte det – ikke kan forstås som adskilt fra verden. Vi er med hans ord “kastet’” ind i den fra fødslen og er altid allerede i den. Heidegger gjorde samtidig op med Platon og viste, at menneskets erkendelse af verden ikke primært er teoretisk. Med begrebet Zuhandenheit beskrev han, hvordan verden først og fremmest træder frem som noget praktisk anvendeligt, som et redskab frem for en genstand, vi betragter på afstand.

På skuldrene af Heidegger argumenterede Dreyfus for, at vi mennesker ikke er regelbaserede maskiner – heller ikke, når vi løser opgaver. En medicinstuderende har muligvis brug for at huske nogle eksplicitte regler, når de først skal lære at operere. Men en kyndig læge behøver derimod ikke huske regler, men anvender sin skalpel intuitivt ud fra det Dreyfus kalder skillful coping – en praktisk fortrolighed med verden, vi mennesker tilegner os gennem levet erfaring, og som ikke lader sig kopiere af beregnende maskiner.

“Dreyfus så, at KI-forskerne arvede et bestemt billede af den menneskelige natur, nemlig at vi er rationelle regnemaskiner. Og de så ikke, at det var et ret snævert billede af, hvad det vil sige at være menneske,” siger B. Scot Rousse, underviser i filosofi på University of California, Berkeley, til Føljeton.

Kassettebånd i kælderen

Rousse har været elev og blev nær ven af Hubert Dreyfus. Han underviste med sin tidligere lærer på UC Berkeley indtil Dreyfus’ død i 2017.  Rousse fortæller om sin mentor som en generøs underviser, der tog alles bidrag lige seriøst, om de kom fra Michel Foucault eller en førsteårsstuderende:

“Bert mente, at enhver, som havde kæmpet med spørgsmål om, hvad det vil sige at være menneske, havde noget at sige i en filosofisk diskussion,” siger Rousse. “Han tænkte ikke på undervisning som en sandhed, han ville forkynde til dig, men som en kollektiv undersøgelse med et mål om at opdage sandheder med dyb menneskelig betydning,” siger han.

Tidligere i år gjorde Rousse en særlig opdagelse. I noget tid havde han hjulpet Dreyfus’ familie med at arkivere kassettebånd med optagelser fra professorens undervisning. Da han stod og hængte plakater op på universitetet for at søge økonomiske bidrag til projektet, kom dekanen for filosofiafdelingen forbi med en besked om, at han havde opdaget noget i kælderen.

Rousse spirede øjnene op, da det viste sig, at der lå yderligere 700 kassettebånd med optagelser i bibliotekets kælder. Siden begyndelsen af 1980’erne havde Dreyfus angiveligt optaget mere eller mindre al sin undervisning og hundredevis af filosofiske samtaler med kollegaer.

“Det er ekstremt spændende,” siger Rousse. “Der er optagelser af samtaler, han havde med Michel Foucault, hans diskussioner med folk som Marvin Minsky og filosoffer som Daniel Dennett og John Searle. Men der er ikke nogen, der rigtig har hørt dem endnu,” siger Rousse, som har oprettet en indsamling for at digitalisere arkivet, så alle og enhver kan få adgang til Dreyfus’ eftermæle.

Dreyfus’ tanker synes væsentlige i en tid, hvor Silicon Valleys CEO’s taler maskiner op og mennesker ned. Ifølge Rousse har Dreyfus ikke kun bidraget med en væsentlig kritik af den tidlige KI-forsknings vildfarelser, men også en påmindelse om alt, der er særligt ved mennesker, netop som vi tænker mere og mere på os selv i maskinelle termer:

“Som mennesker kan vi definere os selv ud fra det, vi elsker, ud fra det, vi er forpligtet på og  ønsker at skabe i verden – og ikke blot ud fra, hvor effektive vi kan være, hvor rationelle vi kan være, hvor optimale og maskinelle vi kan være,” siger Rousse. “Dreyfus’ bekymring var, at hvis vi tænker på os selv som computere, mister vi sansen for andre rige dimensioner af at være menneske.” /Claes T. Sørensen