Er fremtidens socialrådgiver en chatbot?

I begyndelsen af december fremlagde digitaliseringsminister Caroline Stage (M) og finansminister Nicolai Wammen (S) regeringens nye strategi for kunstig intelligens, som skal implementere teknologien i den offentlige sektor “i stor skala.” Indsatsen består af fire konkrete initiativer, herunder et nyt center for rådgivning om ansvarlig brug af KI, og en såkaldt digital taskforce, som har fået til opgave at finde mellem 10.000 og 99.000 årsværk, der kan frigøres i det offentlige ved hjælp af teknologien.

Ifølge Rolf Lyneborg Lund, som forsker i kunstig intelligens på Aalborg Universitet, handler regeringen forkert, når den på forhånd beslutter, at teknologien skal frigøre ressourcer i det offentlige:

“Det er lidt som hvis man har en bådmotor, men ikke har nogen båd – og så siger man, lad os prøve at sætte den i vandet og se, om den kan sejle,” siger han til Føljeton.

Båden repræsenterer ifølge forskeren de rammer der skal være på plads, før man bør overveje at udrulle kunstig intelligens i den offentlige sektor. Fx solide juridiske retningslinjer og medarbejdere, der er kvalificerede til at bruge teknologien.

“Hvis man sparer på socialrådgiverområdet, for eksempel, så er det jo ikke socialrådgivere, du sparer væk, men x-antal dele af socialrådgiverens arbejde. Er organisationen gearet til det? Er vi klar til at opkvalificere de medarbejdere, der nu skal agere på en ny måde til at forstå, hvordan det her virker? Det tror jeg ikke, vi er,” forklarer han.

Rets(u)sikkerhed

Caroline Stage (M) har foreslået, at socialområdet bl.a skal bruge sprogmodeller til at spare tid i sagsbehandlingen: ”Sprogmodeller kan understøtte hurtigere sagsbehandling i eksempelvis ældreplejen og derved også give mere tid til menneskelig nærvær,” sagde hun til Ritzau i december.

De hidtil spredte forsøg med brugen af sprogmodeller på socialområdet har ikke ligefrem været lovende. I Socialforvaltningen i Københavns Kommune undersøger man i et pilotprojekt, om sprogmodeller kan hjælpe sagsbehandlere, når de skal dokumentere deres arbejde med borgere. I stedet for at skrive hele dokumentationen selv kan sagsbehandlere indtaste stikord om kunstige borgerdata i en sprogmodel, som konverterer dem til en færdig rapport.

Ifølge digitaliseringschef i Socialforvaltningen Katja Prause er målet at undersøge, om sprogmodellen kan spare tid og styrke kvaliteten i medarbejdernes skriftlige dokumentation. Projektet indeholder dog en række svære etiske og juridiske dilemmaer.

“Der en kæmpe udfordring med det her, fordi vi ender at bruge følsomme persondata om borgerne,” fortæller Katja Prause og tilføjer: “Desuden er der en risiko for, at en generativ AI kan blive biased, kan hallucinere, kan foreslå medarbejderne noget, som de overhovedet ikke selv ville have tænkt på.”

Rolf Lyneborg Lund bekræfter, at sagsbehandleres brug af sprogmodeller kan skabe problemer for borgernes retssikkerhed. Som borger har man krav på at få at vide, hvordan beslutningen i ens sag er blevet truffet. Men en chatbots arbejdsproces er ikke gennemsigtig.

“Personen, der bruger robotten som beslutningstøtte, skal kunne sige, hvordan den cirka er kommet frem til en bestemt afgørelse. Det er naivt at tro, at man kan lave modeller, som kan det,” siger han.

Selv hvis sprogmodellen kunne bryde sin beslutning ned i mindre dele, ville delene ifølge forskeren også være baseret på skjulte antagelser. Og så står medarbejderen med et nyt problem:

“Så du kan vælge imellem, at modellen fortæller dig hele sagsforløbet – og så er du tilbage til, at du bare gør dit arbejde, som du plejer. Eller den reducerer sagsforløbet, og så har den allerede der aktivt fjernet nogle ting, som kan være vigtige for sagen.”

Robotten bestemmer

Katja Prause ser potentiale i sprogmodellers evner til at frigøre tid i administrative processer, som ikke involverer data om borgerne. Samtidig udelukker hun ikke, at teknologien i fremtiden kan bidrage til faglige vurderinger i mere følsomme sager. Hun har dog en rød linje:

“Vi kunne aldrig drømme om at bruge AI til at træffe afgørelser. Det er fuldstændig no go,” siger hun.

Forhenværende digitaliseringsminister Marie Bjerre (V) har også sagt, at mennesket altid bør træffe den endelige afgørelse i sager, hvor de har fået hjælp af en sprogmodel: “Jeg tænker også, at kunstig intelligens kan bruges i eksempelvis sager om tvangsfjernelse af børn, hvor vi ellers har været berøringsangste. Det afgørende må være, at der altid er et menneske, der faktisk træffer beslutningen,” sagde hun til Altinget i juli.

Men Rolf Lyneborg Lund afviser, at man løser problemerne ved at lade et menneske træffe beslutningen i sager, hvor en chatbot har bidraget. For menneskets beslutning vil altid være farvet af robottens rådgivning:

“Al forskning viser, at så snart en computer siger ‘jeg tror det her,’ så bliver vi ekstremt påvirket af det. Ligesom med autoriteter – hvis nogen med en uniform på fortæller os, at vi skal gøre noget, er vi også mere villige til at gøre det, selvom vi ved, det er forkert,” siger han.

Efter eget udsagn er det Rolf Lyneborg Lunds største bekymring: At digitale maskiner i stigende grad vil få indflydelse på menneskers beslutninger i komplekse sociale problemstillinger.

“Computeren gør bare det, den historisk set har lært, den skal gøre. Hvis den ved, at når man skriver sådan her i indberetninger, eller sådan her i sager om partnervold, eller andre situationer, der kan være ekstremt komplekse, så vil den i bedste fald kun kunne træffe beslutninger baseret på tidligere hændelser. Men tiden går, og mennesker bliver anderledes,” fortæller han.

Rolf Lyneborg Lund påpeger, at han ikke er dommedagsprofet, og han ser masser af potentiale i anvendelsen af kunstig intelligens. Han ville dog ønske, at regeringen havde en mere forsigtig og nysgerrig tilgang til at implementere teknologien.

“Det er et problem, hvis man ikke for alvor spekulerer igennem fra A-Z, hvordan man implementerer det her. Hvis man ikke på forhånd sagde, at vi skal udrulle det alle steder, så kunne man måske lave noget, der fungerer. Men jeg har svært ved at se retorikken som andet end, at man skal virke dominant på et område, der er som det vilde vesten lige nu,” siger han.

Digitaliseringsminister Caroline Stage (M) afviser imidlertid kritikken i et skriftligt svar til Føljeton:

“Jeg mener ikke, at kunstig intelligens skal bruges til alt og det hele. Formålet med regeringens strategiske indsats er netop at få sat retning på både brug og udvikling af kunstig intelligens i Danmark.

Teknologien skal bruges der, hvor den kan skabe værdi. Det kan den heldigvis rigtig mange steder. Samtidig skal vi altid bruge kunstig intelligens ansvarligt og have borgeren i centrum for den måde, vi udvikler og anvender teknologien på.

Det er præcis derfor, vi har præsenteret en strategisk indsats for kunstig intelligens og har nedsat en digital taskforce for kunstig intelligens i den offentlige sektor. Så vi får løsningerne til at passe til problemerne – samtidig med, at vi har blik for de vigtige etiske, juridiske og organisatoriske hensyn.

Det er afgørende, at vi i fællesskab får sat skub i udbredelsen af de bedste løsninger i hele den offentlige sektor, så vi kan sikre mere tid til nærvær ved at bruge teknologien klogt.

Det handler nemlig ikke bare om frigøre arbejdskraft. Det handler i lige så høj grad om at øge kvaliteten i den offentlige sektor til gavn for borgere og virksomheder.”

/Claes T. Sørensen