Først blev vores data gjort til en handelsvare. Nu gælder det også vores inderste tanker og dybeste følelser

Vi ved det jo godt: At techgiganterne indsamler vores personlige data og som en anden Kong Midas omdanner dem til profit. Det er denne forretningsmodel, som ifølge den amerikanske socialpsykolog, filosof og professor emerita på Harvard Business School Shoshana Zuboff i 2019 udgør fundamentet for overvågningskapitalismen. En forretningsmodel, som blev pioneret af Google, der ifølge Zuboff var for overvågningskapitalismen, hvad Ford Motor Company og General Motors var for den industrielle kapitalisme.

Egentlig ironisk, taget i betragtning af, at Larry Page og Sergey Brin, da de præsenterede Googles algoritme PageRank i 1998, samtidig advarede mod søgemaskiner finansieret af reklamer, da de “i sagens natur vil være partiske over for annoncørerne og ikke tage hensyn til forbrugernes behov”.

Man har selvfølgelig kun et standpunkt, til man tager et nyt. Historien går sådan her, ifølge Zuboff: Dot com-boblen bristede i 2000, og Googles investorer gjorde det klart over for grundlæggerne, at de selvfølgelig havde en forventning om sorte tal på bundlinjen. Google begyndte derfor at bruge den konstant voksende mængde adfærdsdata, som ellers var blevet brugt til at optimere søgefunktionen, til at målrette annoncer mod brugerne.

Sidenhen fik denne forretningsmodel også techvirksomheder som Microsoft, Facebook, Amazon og Apple til at løbe rundt.

Det kan der være mange konsekvenser ved, herunder en krænkelse af ens privatliv. Hvor store de potentielle konsekvenser kunne være, blev tydeligt i kølvandet på Cambridge Analytica-skandalen, som blev afsløret i 2018. Den britiske konsulentvirksomhed Cambridge Analytica havde ulovligt høstet data fra op mod 87 mio. Facebook-brugere og blev hyret af bl.a. Donald Trumps præsidentkampagne og kampagnegruppen for Leave.EU til at målrette politiske budskaber baseret på personlige data.

Som whistlebloweren Christopher Wylie dengang sagde til The Observer: “Vi udnyttede Facebook til at indsamle oplysninger fra millioner af menneskers profiler. Og vi udviklede modeller for at udnytte det, vi vidste om dem, og appellere til deres indre dæmoner. Det var det grundlag, hele virksomheden blev bygget på.”

En ny kapitalisme 

Overvågningskapitalismen handler altså ikke kun om at overvåge, men om at forudse, påvirke og – vil nogen mene – manipulere.

Med udbredelsen af brugen af kunstig intelligens sker der noget med den data, som techgiganterne kan indsamle. Noget, der er så nyt, at det ifølge en række danske forskere fra Københavns Universitet, Danmarks Tekniske Universitet og Aarhus Universitet kan kræve et nyt begreb: intimitetskapitalisme.

“Vi har fået nogle nye teknologier, der muliggør indsamlinger af data, som er kvalitativt anderledes. Hidtil, når man har browset på nettet, har der været nogle begrænsninger,” siger en af de forskere, Rebecca Adler-Nissen, som er professor i statskundskab ved Københavns Universitet, til Føljeton.

“Chatbotterne bliver brugt til nogle af de allermest intime samtaler. Samtaler, man tidligere har haft enten inde i hovedet eller med sin allernærmeste: Skal jeg gå fra min kæreste? Eller skal jeg begå selvmord? Eller hvordan kan jeg få en bedre løn? Folk bruger dem som psykologer og advokater.”

Da jeg pointerer, at mennesker vel altid har oversharet online, giver Adler-Nissen mig ret. Men det er ifølge hende alligevel væsentligt, at det ikke længere er envejskommunikation. “Der er en chatbot, som fastholder din opmærksomhed og svarer dig og opfordrer dig til at dele mere. Den nye teknologi kan medføre, at vi deler nogle helt nye typer data,” siger Adler-Nissen.

Hvad er egentlig personligt?

Jeg ringer til Bolette Thesbjerg, som jeg, full disclosure, tidligere har boet med i et års tid i en lejlighed uden bad på Nørrebro, for at forstå, hvad det er for nogle informationer, som vi deler med chatbotterne. Hun er nemlig psykolog og skriver nu en ph.d. om, hvordan folk bruger deres chatbot. Det er også kommet bag på hende, hvor hurtigt udviklingen er gået, og hvor meget folk faktisk chatter med chatbotterne.

Til gengæld opfatter de ikke nødvendigvis deres samtaler som værende intime.

“Baseret på den information, jeg har indsamlet indtil nu, så har folk en tendens til ikke at forstå deres eget brug som personligt, selvom de stiller chatbotten personlige og intime spørgsmål, såsom hvad de skal gøre ved deres træthed og kvalme eller med et skænderi med deres kæreste. Jeg tror, at der er mange, som stiller et spørgsmål hist og her, men ikke identificerer sig som sådan som en, der har personlige samtaler med chatbots,” siger hun.

Når vi hører om chatbots i medierne, handler det ofte om de mere ekstreme sager, såsom det fåtal af folk, der har forelsket sig i eller er endt i en psykose på grund af en chatbot. Men Thesbjergs oplevelse er, at der findes mange flere i den gråzone, hvor de snakker om personlige emner med en chatbot, men ikke nødvendigvis opfatter, hvor personligt det er.

Jeg kommer til at tænke på, at det er mange af den slags samtaler, vi på et tidspunkt har haft som roommates, hvor man dag ud og dag ind deler sine umiddelbare tanker og følelser uden at tænke så meget videre over det. Mens Thesbjerg mener, at nogle kan have gavn af at skrive med en chatbot, er der dog nogle risici ved at kommunikere med en chatbot, som ikke findes i en samtale med en ven.

Der er dog – ifølge Thesbjerg – en risiko ved at tale med chatbots frem for en ven eller en roommate: “Jeg ser en risiko for, at der kan udvikle sig nogle uhensigtsmæssige brugsmønstre, hvor personer begynder at betro sig mindre til andre mennesker i deres liv. Altså at de i højere grad søger en chatbot, når de fx er kede af det, og at det på den måde kan føre til social isolation.”

“Det er kommet bag på mig, hvor hurtigt vi har taget det til os. Men jeg oplever – selvfølgelig meget anekdotisk – at når jeg taler med folk om mit arbejde, så har de personlige erfaringer med det,” fortæller Thesbjerg. Hun understreger, at vi ikke aner, hvad de langsigtede konsekvenser potentielt kan være ved det.

Markedets vilkår

Mens brugen af chatbots bliver mere og mere udbredt – og 70 pct. ifølge OpenAIs egen analyse ikke er i arbejdsregi – er regeringer rundt omkring i verden optagede af at regulere brugen af sociale medier, der efterhånden har eksisteret i to årtier, med fx aldersforbud.

I mellemtiden kan KI-virksomhederne muligvis være nødt til at følge i de sociale mediers forretningsmæssige fodspor. For ligesom med Google og de sociale medier som Facebook, kommer der også et tidspunkt, hvor de skal have sorte tal på bundlinjen.

“Vi må jo bare erkende, at chatbots ikke er en god forretningsmodel. De kan ikke fungere på markedsvilkår, som det er lige nu. Jeg er spændt på at se, hvad der sker nu, hvor OpenAI for eksempel har meddelt, at der vil komme reklamer, om de kommer til at bruge lige præcis denne meget intime indsigt i folks sindstilstand i forhold til at målrette annoncer på samme måde som de sociale medier har gjort,” siger Bolette Thesbjerg.

Men vi ved det jo godt: At vi overhovedet ikke aner, hvor vores personlige data ender henne, men at det formentlig er i hænderne på de samme techgiganter, som allesammen vil have også til at chatte med deres bot og gang på gang har vist, at de ikke er særligt gode til at passe på dem.

Er vi ikke blevet klogere?

“I Danmark er vi jo egentlig meget bevidste om GDPR og datasikkerhed. Så jeg tror, at der er en bevidsthed, men hvor meget den også kommer til udtryk i praksis, når vi sidder og skriver med en chatbot, for eksempel, er jeg i tvivl om. Der ender man ofte et sted, hvor man tænker, at man alligevel ikke er så interessant, eller at der ikke er nogen, der vil bruge ens personlige data til noget,” siger Thesbjerg.

Rebecca Adler-Nissen stemmer i:

“De personlige data ligger jo steder, vi måske ikke lige har tænkt over, og det kan godt lyde lidt abstrakt, og mange af os tænker nok, at det ikke bliver brugt til noget, og at techgiganterne er ligeglade med dem. Lige indtil den dag, de ikke er. Lige indtil den dag, du kommer i klemme.”

/Emilie Ewald