Hvert år er der folk, der forlanger at blive gift med deres robot

Som mennesker har vi en forbløffende evne til at binde følelser til døde ting, og når vi taler om robotter og kunstig intelligens, er vejen til vores følelser endnu kortere. Vi skaber relationer, empati og måske ligefrem venskaber og kærlighed til væsener, vi kan kommunikere med, og som responderer, og det rejser naturligvis en række spørgsmål, der kan være svære at svare entydigt på.

Derfor talte jeg sidste år med to af dem, der har brugt mest tid til at tænke over den problemstilling i Danmark. Den ene hedder Lykke Brogaard Bertel, og hun forsker i robotters interaktion med mennesker i undervisning på Teknologisk Institut (DTI). Den anden hedder Jens Strandbech, Ph.d. i interaktion mellem mennesker og robotter. Vi kunne kalde dem en slags robotfilosoffer, selv om de er lavet af kød og blod.

Men inden vi kommer så langt, er jeg nødt til at genfortælle to historier, der tjener som baggrund for forståelsen af vores forhold til robotter. Du kan bare skimme dem, hvis det keder dig, men de siger noget om, hvorfor vi nogle steder i verden måske har lettere ved at holde af robotter end andre steder.

Nattergalen og Amaterasu

Lad os tage den bedst kendte først, nemlig H.C. Andersens ‘Nattergalen’. Eventyret om kejseren i Japan, der får fat på en nattergal, der synger så smukt, at han vil høre den nat og dag. Det kan sådan en nattergal naturligvis ikke leve op til, da den skal både spise og sove, så kongen får lavet en kunstig nattergal, der lyder fuldkommen som den rigtige. Og den kunstige nattergal kan synge både dag og nat og gå uden vådt eller tørt, indtil den en dag får en skrue løs og går i stykker. I mellemtiden er den ægte nattergal blevet forvist fra landet, men da kejseren nu er døende, er det kun nattergalen, som med sin smukke sang kan redde ham. Lige inden døden indtræffer, kommer nattergalen kejseren til undsætning og synger for ham, så han kommer på benene. Kun det ægte kan redde ham.

Den anden historie er en grundpille i den japanske kultur og en del af skabelsesmyten i shinto-religionen. Det er myten om solguden Amaterasu, og her er forskellen mellem det gode og det onde, det ægte og det uægte, en smule mere utydelige. I korte træk handler fortællingen om solguden Amaterasu, der er søster til måneguden Tsuki-yomi og stormens gud Susa-no-o. En aften konkurrerer de om, hvem der kan skabe flest væsener, og fordi den moralsk set lidt anløbne Susa-no-o stjæler Amaterasus magiske kæde, vinder han kampen. Solguden bliver rasende og gemmer sig depressivt i en mørk grotte, hvorfra hun nægter at komme op. De to andre bliver enige om, at det bliver for mørkt og for træls, hvis der kun er storm og nat i verden, så de lokker hende op ved at snyde hende nok en gang: De fortæller hende, at de har skabt en solgud, der er meget bedre end hende, og da hun skal se, om det virkelig kan passe, ødelægger de grotten. Og alle er glade. Susa-no-o er ikke en skurk i japansk kultur, lige så lidt som Amaterasu er en helt.

Hvorfor disse to resumeer? Jo, de er brugt af forskellige robotforskere som illustration af, hvordan man i en kultur som den danske hylder autenticitet og ægthed, mens den asiatiske kultur er mere åben over for alternative veje til at komme frem til målet.

”I vores kultur har vi et meget stringent forhold til det ægte,” siger Jens Strandbech. ”Det er kun den ægte vare, der er det fine, og det præger også vores forhold til robotter. Og sådan ser man ikke helt på det i den asiatiske del af verden.”

Og med det på plads kommer her syv spørgsmål til vores robotfilosoffer.

Hvad er de første følelser, en robot vækker hos et almindeligt mennesker?

Lykke Brogaard: ”De fleste mennesker, der møder en meget menneskelignende robot reagerer med en blanding af forfærdelse og fascination. Der er noget dybt fascinerende, men samtidig utrolig skræmmende ved de her maskiner, som næsten er levende, men alligevel er så langtfra. Det beskrev den japanske robotpionær Masahiro Mori allerede tilbage i 70’erne med sin Uncanny Valley-hypotese, og den teori bliver der stadig refereret til i dag i forskningen inden for menneske/robot-interaktion. Det er svært at sige helt præcist, hvad det er ved de her robotter, der får os til at reagere sådan, men vi ved, at mennesker er programmerede til at lede efter menneskelige træk – fx ansigter eller bevægelse – ved alting, og forskningen tyder så på, at vores hjerne kommer på overarbejde, når vi møder noget, som for eksempel humanoider (robotter, der ligner mennesker red.), der ikke entydigt er levende eller dødt.”

Jens Strandbech: ”En af verdens største undersøgelser på det her område blev lavet sidste år af EU. Her har man talt med mennesker i en lang række lande om, hvordan man forholder sig til robotter i forskellige dele af vores liv, og hvad der måske er det mest overraskende er, at vi helt generelt er meget positive over for robotter – både over for at skulle have dem i vores hjem eller på vores arbejde. Statistikken viser, at EU-gennemsnittet for, hvor mange der er positive over for brugen af robotter ligger på 70%, mens at vi i danmark er på 84%, hvilket gør os til det mest robotpositive land i Europa sammen med Finland. Der er mange, der tror, at vi generelt mener, at robotterne tager vores jobs, men her er danskerne altså de næstmest positive, fordi kun 56 procent af os reelt tror, at det sker eller kommer til at ske, og 88 procent af os mener, at robotter generelt er en positiv ting for samfundet. Det begynder at blive kompliceret, når vi skal forholde os til robotter, der skal ligne rigtige mennesker. Det er særligt forventningsbruddet, vi ikke bryder os om. Vi har det meget, meget svært med at føle os snydt, og her bliver vi negativt indstillet over for robotter og den såkaldte kunstige intelligens. Så jo mere en robot ligner et menneske, jo større bliver diskrepansen også og jo sværere får vi det med robotten.”

Kan et menneske få dybtfølte og komplekse følelser over for en robot?

Lykke Brogaard: ”Det er ikke svært at forestille sig, at mennesker kan opleve endda meget stærke følelser for robotter – lidt på samme måde som vi kan det over for dyr, der heller ikke nødvendigvis gengælder vores følelser. Vi ser det især med børn, som meget hurtigt kan komme til at knytte sig til robotterne, og som heller ikke er villige til entydigt at definere robotterne som levende eller ikke-levende. De skaber nærmest en slags tredje kategori midt imellem, hvor robotten er levende nok.

Nogle forskere mener, det er problematisk, at mennesker kan føle empati over for noget, som bare foregiver at være levende, men det er jo en næsten automatisk respons, som børnene bare ikke har lært at undertrykke endnu, og egentlig mener jeg, det er en ret unik evne, vi har, og som vi skal værne om, fordi det er den, der gør os til mennesker.”

Jens Strandbech: ”Mennesker kan meget let få følelser til ‘døde’ ting. Siden 90’erne er der mennesker over hele kloden, der har forsøgt at blive gift med deres tamagotchier, selv om det kun er en lille elektronisk dims. Det samme gælder sex-dukker og robotter. Når først noget opfører sig levende, skal der ikke så meget til. Vi ved godt, vi snyder os selv, og det er hele forskellen på, om vi er med på den eller ej. Så længe vi går ind i relationen med åbne øjne, kan vi gå meget langt.

Jeg underviser indimellem social- og sundhedsassistenter, og her taler jeg både om den lille robotsæl Paro, der er blevet brugt meget til ældre og personer med demens, og om robotdinosauren, der hedder Pleo, som du i dag kan købe i legetøjsforretninger. Hvis man løfter Pleo i halen, begynder den at skrige, som om det gør ondt på den, og det slår aldrig fejl: Når jeg tager fat i halen på den, begynder mine elever at vride sig og protestere og sige slip den dog. Også selv om de udmærket er klar over, at den er mekanisk.”

Tror du mennesket vil kunne bruge en robot til følelsesmæssige interaktioner?

Lykke Brogaard: ”Robotter som for eksempel Paro-sælen bliver allerede i dag brugt i terapeutiske sammenhænge, så det kan jeg sagtens forestille mig, at vi kommer til at gøre meget mere i. Når teknologien bliver lidt mere modnet, kan jeg også sagtens forestille mig personlige ‘samtale-robotter’, som spørger os om vores dag og om, hvordan vi har det. Lidt ligesom med de gamle ELIZA-forsøg tror jeg, man vil se, at mennesker oplever at få meget ud af det. En slags selvterapi, hvor robotten egentlig bare omformulerer det, du siger, eller beder dig uddybe, men hvor det at sige dine tanker højt og høre dine egne ord på nye måder eller formuleret som spørgsmål, giver dig et nyt perspektiv på dine tanker. På mange måder er det jo også det, terapeuter allerede gør i dag.”

Hvad er den største udfordring ved robotters interaktion med mennesker?

Lykke Brogaard: ”En af de største udfordringer lige nu er helt sikkert stadig teknologiens modenhed, især når det kommer til perception og kognition. Altså at koble alle de data, der kommer fra forskellige sensorer, til en samlet forståelse af verden. Sprog er en særlig udfordring i den sammenhæng, fordi det er så komplekst. Vi er kommet relativt langt med at få robotten til at høre, hvad der bliver sagt, men det er stadig meget svært at få robotter til at forstå det, der bliver sagt. Jeg tror, at efterhånden som vi begynder at forstå mere og mere af, hvordan vores egen hjerne og intelligens fungerer, vil vi blive meget bedre til også at udvikle kunstig intelligens.”

Jens Strandbech: ”I min optik er den største udfordring i forhold til udvikling inden for teknologi, der på den ene eller anden måde påvirker vores følelser – det kunne være sociale robotter eller kunstige intelligens –  at vi ikke bedrager os selv eller bidrager til, at andre kan bedrage sig selv og trække sig væk fra samfundet og menneskelig interaktion. Vi må så at sige sørge for, at det, vi udvikler, ikke erstatter den menneskelige kontakt.”

Bør man opstille universelle og gældende love for robotter?

Lykke Brogaard: ”Der er en del forskere, der beskæftiger sig med robotetik og robotfilosofi, også i Danmark, og jeg tror, der er en rimelig bred opfattelse af, at der i hvert fald er behov for etiske retningslinjer for robotter.  Men det er klart, at der er meget stor forskel på, om man taler om etik og anvendelse af robotter i folkeskolen, som jeg ser meget på, eller om vi taler om etik og anvendelse af robotter i militæret. Der kan også være meget store kulturelle forskelle på, hvordan vi bruger robotter i en skole i Danmark og i Japan, og derfor tror jeg, det er vanskeligt at opstille universelle love for robotter. Så bliver de i hvert fald så generelle, at de i virkeligheden ikke siger så meget i praksis.”

Jens Strandbech: ”Som alle andre, der arbejder med robotter, har jeg læst Isac Asimov og har naturligvis spekuleret længe over hans tre enkle love for robotter fra 1941, der den dag i dag er de mest brugte: 1) En robot må ikke gøre et menneske fortræd – eller ved ikke at gøre noget lade et menneske komme til skade. 2) En robot skal adlyde ordrer givet af mennesker, så længe disse ikke er i konflikt med første lov. 3) En robot skal beskytte sin egen eksistens, så længe dette ikke er i konflikt med første eller anden lov. Problemet er bare, at de her love sagtens kan fortolkes, sådan som man eksempelvis ser i filmen iRobot, der er lavet over en af Asimovs noveller. Her rationaliserer en kunstig intelligens sig frem til, at menneskeheden ikke kan tage vare på sig selv, og derfor skal den passe på os ved at opbygge et totalitært samfund med total kontrol. Det var jo ikke ligefrem det, der mentes med lovene.”

”Det er noget, folk i hele verden bruger helt ufatteligt mange kræfter på at tænke over og forsøge at besvare, men ingen er indtil videre kommet med et svar. En ting, der er sikkert, er, at vi nødt til at have nogle klare regler efterhånden, som vi udvikler tingene – sådan er det med knive, skydevåben og med kloning, og sådan skal det også være med robotteknologi.”

Bliver man nogensinde i stand til at genskabe følelser hos en robot?

Lykke Brogaard: ”Jeg er ikke sikker på, at man nogensinde kommer til at kunne genskabe ‘ægte’ følelser hos en robot, men hvad er ‘ægte’ følelser egentlig overhovedet? Vi ved jo, at når børn, der falder, nogle gange først græder, når de ser deres mors og fars reaktion, så er det jo, fordi følelser ikke kun er noget, der sker inden i os, men også noget, der defineres socialt, noget vi skal lære. Jeg er helt overbevist om, at man kommer til at kunne skabe meget realistiske og overbevisende følelsesmæssige reaktioner hos robotter – og betyder det så i virkeligheden så meget, om de faktisk føler det? Lige så vel som robotter i dag er i stand til at lære, hvordan en stol ser ud og ud fra det kan vurdere – altså beregne sandsynligheden for – om en anden genstand også er en stol, lige så vel vil robotter blive bedre til at lære og genkende bestemte sociale situationer, og hvordan man reagerer følelsesmæssigt på dem. Kismet-robotten fra MIT er et godt eksempel på, at det kan lade sig gøre. I den situation er jeg mere optaget af, hvordan vi så reagerer på de følelser, robotten udtrykker – hvad det gør ved os som mennesker. Hvis vi for eksempel slår på noget, som ligner os selv rigtig meget, og som reagerer på en måde, som er identisk med os, er det så i virkeligheden så meget anderledes end at slå på hinanden?”

Jens Strandbech: ”Den stærke kunstige intelligens, altså den intelligens, der er så stærk, at den kan måle sig med eller er bedre end et menneskes, den har jeg svær ved at tro på nogensinde kommer. Selv om nogle samtaler eller interviews kan være enkle at skabe, er den menneskelige samtale helt ekstremt kompliceret med et virvar af små henvisninger til ekstremt mange emner, som måske kun opstår i den ene situation, hvor samtalen sker.”

Hvornår betragter vi noget som levende?

Lykke Brogaard: ”Som sagt reagerer mennesker helt intuitivt på en social måde over for nærmest alt, der udviser bare den mindste smule social adfærd – nogle gange bare det, at noget bevæger sig, bliver fortolket som social adfærd. Fx lavede de på Stanford på et tidspunkt nogle forsøg med interaktive møbler med blandt andet en skammel, som kørte rundt i rummet. Her reagerede forsøgspersonerne helt automatisk på skamlen, som om den havde en intention, og løftede benene, når den kørte hen imod dem, fordi de gik ud fra, at den gerne ville betjene dem. I studiet undersøgte de også menneskers reaktioner på mobile skraldespande, intelligente kommoder og autonome biler og sammenfattende kunne de sige, at mennesker generelt antager, at robotterne gerne vil tjene dem – at det er mennesket, der hjælper skralderobotten, når det putter skrald i den og ikke omvendt. Det siger jo noget om de intentioner, som vi tilskriver robotter, og det siger måske også noget om det hierarki, der umiddelbart er mellem mennesker og robotter.

Selvom jeg ikke mener, at det nødvendigvis betyder, at sociale robotters juridiske status skal ændres, efterhånden som de bliver mere og mere overbevisende, så kan der være ret stor forskel på jura og praksis, og i praksis viser det sig bare, at mennesker har endog meget svært ved ikke at reagere socialt på robotter, som udviser social adfærd.”

Jens Strandbeck: ”Jeg tror, vi har en meget bred ramme for det levende. Vi er ekstremt hurtige til at projicere vores egne følelser over i andre ting. Vi besjæler alt muligt. Tænk på din bil, der ikke vil starte om morgenen, for eksempel. Har du aldrig skældt den ud?”