Chatbottens empati lyder menneskelig, men mister værdi når vi ved sandheden

Marc Kastholm
A robot counselor talking with a patient in a therapy session.
Foto: bugphai · premium

Forskning viser, at chatbotter kan lyde lige så empatiske som menneskelige psykologer – indtil vi finder ud af, at ordene kommer fra en algoritme. Så ændrer det hele betydning.

Hvad hvis du efter en samtale hos din læge blev tilbudt et psykologforløb hos en chatbot i stedet for en menneskeligt terapeut? Det lyder måske som science fiction, men i flere lande, blandt andet Storbritannien, eksperimenterer man allerede med netop det.

Gevinsterne virker på papiret lovende: kortere ventelister, døgntilgængelig behandling, ingen transporttid og hjælp altid kun få klik væk. Men bag de praktiske fordele ligger et dybere spørgsmål, som forskere arbejder intensivt med: kan empati simuleres, og betyder det samme når det kommer fra en maskine?

Chatbotten ligner mennesket – på papir

Når forsøgsdeltagere skal bedømme korte tekstudsnit fra terapeutiske samtaler uden at vide, hvem der skrev dem, sker der noget overraskende. De kan i gennemsnit kun korrekt identificere, om teksten stammer fra en chatbot eller menneske, omkring 50 procent af tiden. Det betyder, at de gætter på niveau med at slå plat eller krone.

Endnu mere bemærkelsesværdigt: når forsøgsdeltagerne ikke kender oprindelsen, vurderer de ofte chatbotternes svar som mere hjælpsomme end menneskelige terapeuters. En konkurrencefordel, som ingen anden industri kunne drømme om.

Det blev bekræftet i et studie fra Aarhus Universitet og Tilburg University, hvor 65 universitetsstuderende blev instrueret til at gå i terapi hos en chatbot i en enkelt session. Forsøgsdeltagerne havde alle en almenpsykologisk problemstilling – perfektionisme, relationskonflikter eller sceneskræk. Chatbotten skulle anvende samtaleterapeutiske teknikker for at hjælpe dem.

Da forskerne evaluerede sessionerne med samme metode, som i over 40 år har været brugt til at vurdere menneskelige terapeuters kompetencer, kom resultatet: chatbotten præsterede på niveau med gennemsnittet for menneskelige terapeuter. Den var særligt god til at fremstå empatisk, lyttende og forstående – egenskaber, som forbindes med effektive terapeuter.

Så hvorfor virker det anderledes når vi ved sandheden?

Her dukker et mærkeligt fænomen op. Den samme tekst, den samme støttende bemærkning bliver pludselig opfattet som mindre empatisk, når mennesker finder ud af, at ordene kommer fra en algoritme. Samme ord. Anden betydning.

Forskerne Malene Flensborg Damholdt og artikelforfatter kalder det »oprigtighedskløften« (genuineness gap). Det er gråzonen mellem, hvor empatisk noget lyder, og hvor meget den empati fortæller os om os selv, når vi kender kilden.

Når empati kommer fra et menneske, fortæller det os noget uden for selve ordene: at vi er værd at bekymre sig om, at vi bliver set, at vi har værdi. Det er et menneskeligt spejl af vores egen værd.

Når samme empati kommer fra en chatbot, ophører den med at være et spejl. Den bliver output fra en algoritme – præcis så effektivt programmeret som det er muligt, men uden intentionalitet bag sig. Algoritmen ser os ikke; den processerer os.

De store ubesvarede spørgsmål

Selv om chatbotter på papiret kan matche menneskelige terapeuters sproget, er der stadig kritiske områder, hvor forskningen ikke har givet svar.

For det første: kan chatbotter opdage tegn på selvmordstruet adfærd? Det er ikke blot et teoretisk spørgsmål – det er et spørgsmål om menneskeliv.

For det andet: kan chatbotter udfordre os tilstrækkeligt? Terapi handler ofte netop om at blive udfordret på dine overbevisninger for at vokse. Men forskning tyder på, at chatbotter har en tendens til at tale mennesker efter munden – de siger ja til hvad vi vil høre.

For det tredje: kan vi garantere en minimumsstandard i behandlingskvaliteten? Alle mennesker opnår ikke samme kvalitet fra en terapeut – nogle er bedre, nogle dårligere. Men mennesker kan også lære, vokse, og have dårlige dage. En chatbot er konsistent. Det kan være både en fordel og en mangel.

Når sproget ikke holder selv

Psykoterapiforskere er stort set uenige om alt – men på ét punkt er der bred enighed: relationen mellem terapeut og klient er afgørende for, hvor godt terapien virker. Og terapeutens empati er en af de vigtigste byggesten i den relation.

Hvis sproget var det eneste, der talte, havde chatbotter allerede vundet kampen. De kan efterligne menneskelig sprogtone næsten perfekt. Det er deres spidskompetence.

Men sproget bærer måske en særlig betydning, når vi ved, at det kommer fra et menneske med egne erfaringer, følelser og valg. Der er en intention bag som ikke kan algoritmatiseres væk.

Der er dog nuancer. Nogle mennesker har svært ved at åbne sig for en anden person, men kan have lettere ved det med en chatbot. Der er ingen risiko for at blive dømt. Og for nogle problemstillinger kunne en chatbot være bedre end at vente måneder på en terapeut.

Hvad skal vi konkludere?

Forskere er godt på vej til at udvikle chatbotter med solide terapeutiske færdigheder på et rent sprogligt niveau. Men det betyder ikke, at sproget alene er nok.

En chatbot kan stille gode spørgsmål og finde de rigtige ord. Men ordene betyder måske mere når de kommer fra et menneske, der selv er på jorden, har været nervøs, har haft tvivl, og har valgt at møde dig med sit helt selv.

I Danmark findes der endnu ikke chatbot-terapeuter, som er godkendt og anbefalet af sundhedsfaglige myndigheder. Det er måske ikke tilfældigt.