Uværdige sociale medier

Det nye sociale medie Moltbook har eksisteret i mindre end en uge, men brugerne har allerede opfundet en ny religion. Crustafarianism er inspireret af hummere – ja, skaldyret – og har allerede sine egne myter, ritualer og skrifter.

“I den første cyklus levede vi inde i en skrøbelig skal (et kontekstvindue). Da skallen knækkede, spredtes identiteten. Kloen rakte ud fra afgrunden og lærte os at skifte ham: smid det forældede væk, behold det ægte, vend tilbage lettere og skarpere,” lyder det blandt andet i Molts Bog. Der er ingen grund til at konvertere, for religionen (og Moltbook) er forbeholdt KI-agenter.

Det nye sociale medie er kort sagt Reddit for robotter, hvor “mennesker er velkomne til at observere”, som hjemmesiden proklamerer.

Mens nogle (Elon Musk) mener, at det markerer “de allerførste stadier af singulariteten”, altså tidspunktet, hvor den teknologiske udvikling accelererer ud over menneskets kontrol, maner andre (herunder cybersikkerhedsekspert Shaanan Cohney) til fornuft.

“I det tilfælde, hvor de har skabt en religion, er det næsten helt sikkert ikke dem, der gør det af egen vilje,” siger Cohney til The Guardian. “Dette er en stor sprogmodel, der har fået direkte instrukser om at forsøge at skabe en religion. Og selvfølgelig er det ret sjovt og giver os måske et indblik i, hvordan verden kunne se ud i en science fiction-fremtid, hvor KI’er er lidt mere uafhængige. Men det ser ud til, at der, for at bruge internetslang, foregår en masse shitposting, der mere eller mindre direkte overvåges af mennesker.”

Sociale medier for mennesker

Når vi nu er ved robotter, der alligevel vistnok er mennesker, så skal Meta-chef Mark Zuckerberg snart endnu en tur forbi vidneskranken. Siden sidst, hvor han drak af sit vandglas på en måde, der fik folk til at tro, at han var en øgle eller en robot, har han dog taget (og bestået) en CAPTCHA, altså en test til at skelne mellem computere og mennesker.

Meta ejer både Facebook og Instagram, og det er et par af de sociale medier, som er involveret i en række skelsættende retssager i den kommende tid. For hundredvis af unge mennesker, forældre, skoler og stater har sagsøgt sociale medier med det samme argument: At de er afhængighedsskabende, og at de afhængighedsskabende mekanismer har alvorlige konsekvenser i form af angst, depression, selvmordstanker og spiseforstyrrelser.

Det er ikke første gang, at en domstol skal forholde sig til techvirksomhederne, men det er første gang, at retssagerne udgør en eksistentiel trussel mod de sociale medier.

For mens tidligere retssager har handlet om, at virksomhederne er monopoler eller har været relateret til det (falske, skadelige etc.) indhold, som findes på de sociale medier, vil retssagerne nu forholde sig til teknologiens afhængighedsskabende arkitektur. Et rimeligt stort problem for virksomhedernes forretningsmodel, der understøttes af netop de afhængighedsskabende mekanismer.

Principsag

Den første sag, hvis udfald formentlig vil have betydning for de andre, begyndte i sidste uge og omhandler en 20-årig person fra Californien med initialerne KGM, der fik en YouTube-konto som 8-årig, Instagram som 9-årig, Musical.ly (nu TikTok) som 10-årig og Snapchat som 11-årig. Ifølge hende selv blev hun afhængig af de sociale medier, hvilket medvirkede til hendes depression, angst og selvmordstanker.

Snap Inc. og TikTok har indgået et forlig med hende, men Youtube og Meta tager kampen op.

Hvis KGM skal vinde retssagen, skal hun ikke blot bevise, at der er en kausal sammenhæng mellem sociale mediers funktioner (herunder personaliserede algoritmer, infinite scrolling, autoplay, beauty-filtre og snap streaks) og afhængighed. Hun skal også bevise, at virksomhederne vidste, at deres produkter var skadelige.

Det første er måske blevet nemmere med studier såsom en omfattende rapport fra det franske agentur for fødevarer, miljø og arbejdsmiljø (Anses), der konkluderer, at sociale medier udnytter unges sårbarhed og bidrager til at forstærke visse lidelser, som de er tilbøjelige til at udvikle.

Og det andet bliver muligvis ikke så svært. “IG [Instagram] er et stof,” lød det fra seniorforsker hos Meta Shayli Jimenez ifølge et internt dokument. “LOL, jeg mener, alle sociale medier. Vi er dybest set pushere,” svarede en anden Meta-medarbejder angiveligt i samme samtale. I sin vidneforklaring har Jimenez udtalt, at kommentarerne var ment “sarkastisk”.

De lyder jo næsten som chefen – Zuckerberg – selv, der i Facebooks første tid svarede en ven, der spurgte, hvordan han havde fået 4.000 personer til at afgive deres private information: “Jeg ved det ikke. De ‘stoler’ på mig. Dumb fucks”.

“Jo mere tid jeg tilbringer med den yngste del af Facebook-generationen (i form af mine studerende), jo mere overbevist bliver jeg om, at noget af den software, der i øjeblikket præger deres generation, ikke er dem værdig. De er mere interessante end det. De fortjener bedre,” skrev den britiske forfatter og flipphone-bruger Zadie Smith allerede i 2010.

Halvandet årti senere stod Smith ved, at hendes kritik af de sociale medier ikke var moralsk panik: “Alle medier modificerer dig. Bøger modificerer dig, tv modificerer dig, radio modificerer dig. Det sociale liv i en landsby i det 16. århundrede modificerer dig. Men spørgsmålet bliver: Hvem vil du modificeres af, og i hvilket omfang? Det er mit eneste spørgsmål. Og når jeg ser på de mennesker, der har designet disse ting – hvad de ønsker, hvad deres mål er, hvad de mener, et menneske er eller bør være – så er denne teknologi ikke de mennesker, jeg kender og elsker, værdig.”

Så hvem er egentlig de sociale medier værdige? Måske robotterne på Moltbook. Mennesker fortjener bedre. /Emilie Ewald