EU-Kommissionen går nu direkte efter selve motoren i TikTok: platformens For You-feed, som bestemmer, hvilke videoer brugerne får serveret.
Ifølge The Verge mener Kommissionen foreløbigt, at TikTok bryder EU’s regler for onlineplatforme, fordi anbefalingsalgoritmen kan skabe en såkaldt rabbit hole-effekt. Det betyder, at brugere igen og igen bliver præsenteret for samme type indhold og kan have svært ved at slippe ud af det spor.
EU peger især på, at brugere kan blive udsat for “endless and repeated exposure” til indhold om tristhed, isolation eller kropsbillede. Sagen handler altså ikke om ét enkelt klip, men om den samlede effekt, når mange videoer om samme tema bliver vist i træk.
Kommissionen mener beskyttelsen ikke virker
Undersøgelsen er en del af en bredere sag, som blev åbnet i februar 2024 under Digital Services Act. Det er EU’s regelsæt for store internetplatforme, som skal holde selskaber ansvarlige for den påvirkning, deres tjenester har på brugerne.
Ifølge The Guardian vurderer EU, at TikToks nuværende sikkerhedsforanstaltninger ikke virker godt nok. Mediet skriver blandt andet, at et tryk på “not interested” ved en video om spisevaner stadig kunne føre til lignende indhold om slankekure og kropsidealer, og at en opdatering af feedet kun gav en kort pause fra samme emne.
Henna Virkkunen, der er EU-Kommissionens ledende næstformand med ansvar for techsuverænitet, sikkerhed og demokrati, siger i Kommissionens pressemeddelelse: “Every time a user scrolls or likes a video on TikTok, the algorithm serves more of the same leading users down rabbit holes they cannot easily escape from.”
Kan ende med bøde på 6 procent
Det er foreløbige konklusioner, og TikTok får nu mulighed for at gennemgå sagen og forsvare sig. Men hvis EU fastholder vurderingen, kan selskabet blive tvunget til at ændre designet af For You-feedet for at give brugerne større kontrol over, hvad de ser.
Hvis TikTok ikke retter ind, risikerer platformen en bøde på op til 6 procent af sin globale årlige omsætning. The Guardian skriver samtidig, at TikTok også kan vælge at ændre sit anbefalingssystem for at undgå en bøde.
Sagen er opsigtsvækkende, fordi det ifølge Politico, gengivet af The Verge, er første gang, EU-Kommissionen direkte bruger en anbefalingsalgoritme som begrundelse for et muligt brud på reglerne. TikTok har ifølge The Guardian 189 millioner brugere i EU.
Del af et større pres på TikTok
Kommissionen har allerede tidligere sagt, at TikToks design er for “addictive”, blandt andet på grund af funktioner som uendeligt scroll. Ifølge The Guardian afviste selskabet dengang kritikken og kaldte Kommissionens foreløbige konklusioner for “a categorically false and entirely meritless depiction of our platform”.
TikTok er heller ikke alene om at være i EU’s søgelys. The Verge skriver, at Kommissionen siden Digital Services Act trådte i kraft i 2023 også har rettet sager mod blandt andre X, Meta, Temu og AliExpress.
For TikTok rammer sagen kernen i forretningen. Ifølge The Guardian bygger platformens model på at holde brugerne scrollende så længe som muligt. Netop derfor kan et krav om at ændre anbefalingssystemet få betydning langt ud over én enkelt funktion i appen.