Grafisk voldelig indhold — herunder stikkeri og politiske attentater — dukker op ufiltreret og usorteret på sociale mediers feeds uden, at brugerne aktivt søger efter det. Det afslører en kritisk udvikling i, hvordan teknologi både udsætter mennesker for ekstrem indhold og potentielt præger samfundets forhold til kriminalitet.

Algoritmerne på sociale medieplatforme er ikke neutrale værktøjer. De pusher voldelig indhold direkte ud til brugere, selvom disse ikke har søgt efter det. Denne automatiserede spredning betyder, at millioner af mennesker dagligt møder ufiltreret krimiindhold blot ved at scrolle gennem deres feeds.

Forskning påpeger en alvorlig konsekvens: Gentagen eksponering for voldelig indhold fører til følelsesmæssig udmattelse og desensibilisering. Brugere bliver mindre engagerede i deres lokalsamfund, og deres normale menneskelige empati udslides gradvist af konstantfloden af voldelige billeder og videoer.

Børn står særligt sårbare. De mangler den moralske dømmekraft, som voksne besidder, og gentagen udsættelse for voldelig indhold normaliserer vold som en naturlig del af deres virkelighed. Når børn og unge påtvunget modtager grafisk krimiindhold gennem algoritmer, påvirker det deres udvikling på fundamentale måder.

Teknologien bag problemet bliver stadig mere sofistikeret. AI-drevne redigeringsværktøjer har intensiveret spredningen af grafisk materiale ved at muliggøre hurtig generering af utallige varianter af samme indhold. Disse varianter undgår de hash-baserede moderationssystemer, som platformene ellers benytter — en klassisk digitalt våbenkapløb mellem moderatorer og dem, der ønsker at cirkulere voldelig indhold.

Mordet af to piger i Delphi, Indiana illustrerer denne teknologis uhyggelige rolle i virkelighed. Efterforskningen afslørede, hvordan sociale medier kunne påvirke og potentielt undermine arbejdet, samtidig med at platformene selv blev arenaer for usorteret formidling af krimiinformation uden kvalitetskontrol.

Problemet ligger således ikke udelukkende ved manuelt tilføjet indhold. Det er systemisk. Algoritmer er konstrueret til at skabe engagement gennem provokation, og intet engagerer som vold og kriminalitet. Platformene profiterer af denne mekanisme, hvilket betyder, at der ingen indbygget incitament findes til at stoppe spredningen.

For Danmarks vedkommende rejser dette kritiske spørgsmål: Hvordan påvirkes danske brugere, når amerikanske tragedier og voldelige indhold automatisk kanaliseres ind i deres dagligdag? Og hvilke pligter har platformene over for brugere, der påtvinges indhold de ikke har søgt?

**Kilder:**

https://cbs12.com/news/local/scroll-shock-the-hidden-toll-of-violent-content-online

https://ctc.westpoint.edu/true-crime-community-understanding-the-depths-of-digital-fandom-and-performative-violence/

https://www.cwtvpr.com/the-cw/shows/crime-nation/episodes