
Algoritmer spreder ufiltreret vold på sociale medier
Forskning afslører hvordan teknologi gør krimiknytindhold til daglig virkelighed for millioner
Grafisk voldelig indhold — herunder stikkeri og politiske attentater — dukker op ufiltreret og usorteret på sociale mediers feeds uden, at brugerne aktivt søger efter det. Det afslører en kritisk udvikling i, hvordan teknologi både udsætter mennesker for ekstrem indhold og potentielt præger samfundets forhold til kriminalitet.
Algoritmerne på sociale medieplatforme er ikke neutrale værktøjer. De pusher voldelig indhold direkte ud til brugere, selvom disse ikke har søgt efter det. Denne automatiserede spredning betyder, at millioner af mennesker dagligt møder ufiltreret krimiindhold blot ved at scrolle gennem deres feeds.
Forskning påpeger en alvorlig konsekvens: Gentagen eksponering for voldelig indhold fører til følelsesmæssig udmattelse og desensibilisering. Brugere bliver mindre engagerede i deres lokalsamfund, og deres normale menneskelige empati udslides gradvist af konstantfloden af voldelige billeder og videoer.
Børn står særligt sårbare. De mangler den moralske dømmekraft, som voksne besidder, og gentagen udsættelse for voldelig indhold normaliserer vold som en naturlig del af deres virkelighed. Når børn og unge påtvunget modtager grafisk krimiindhold gennem algoritmer, påvirker det deres udvikling på fundamentale måder.
Teknologien bag problemet bliver stadig mere sofistikeret. AI-drevne redigeringsværktøjer har intensiveret spredningen af grafisk materiale ved at muliggøre hurtig generering af utallige varianter af samme indhold. Disse varianter undgår de hash-baserede moderationssystemer, som platformene ellers benytter — en klassisk digitalt våbenkapløb mellem moderatorer og dem, der ønsker at cirkulere voldelig indhold.
Mordet af to piger i Delphi, Indiana illustrerer denne teknologis uhyggelige rolle i virkelighed. Efterforskningen afslørede, hvordan sociale medier kunne påvirke og potentielt undermine arbejdet, samtidig med at platformene selv blev arenaer for usorteret formidling af krimiinformation uden kvalitetskontrol.


