Under hashtaggen #wakeupyoutube är det nu många som rasar mot att sociala medier-jätten Youtube gör för lite för att förhindra att pedofiler kan använda plattformen för att sprida och med algoritmens hjälp hitta nya bilder på barn i utsatta positioner. Bilderna ovan är genrebilder och har inget med händelsen att göra. Foto: TT

Pedofiler utnyttjar Youtubes algoritm – hittar klipp på barn

Publicerad

Pedofiler använder Youtubes algoritm för att hitta klipp på barn. Men barnens till synes oskyldiga bilder från vardagen attraherar även andra individer. Men hjälp av tidskoder och företagets algoritm skapas en miljö där man med bara några klick snabbt rekommenderas liknande klipp med barn i komprometterande situationer. Under hashtaggen #wakeupyoutube reagerar nu många mot sociala mediejättens agerande.

I november 2017 gick Youtube ut med att företaget raderat mer än 150 000 filmer som ska ha attraherat pedofiler. Men helt till rätta med problemen förefaller man inte ha kommit.

I en internationellt uppmärksammad video som fått spridning på nätforumet Reddit har nu debatten tagit ny fart.

Okunskap kring algoritmen

Det är företagets berömda algoritm, en matematisk formel som listar ut vilket innehåll du vill se, som gör att pedofilerna lätt kan klicka sig vidare till nästa klipp på ett barn i en utsatt situation.

– Få utanför Youtube vet hur deras algoritmer fungerar i detalj, vilket är ett problem i sig, men det fungerar ungefär så att utifrån vad du tittat på historiskt rekommenderas du liknande innehåll. Tittar du på klipp med yoga så kommer det fler klipp med yoga, förklarar Gustav Martner, digital strateg.

Han berättar att rekommendationerna också kan ha att göra med att människor som liknar dig på andra sätt klickat på visst innehåll och att algoritmen då tänker att du också skulle gilla de förslagen.

Använder tidkoder

Bland kommentarerna kan man märka det misstänkta beteendet genom att personer skriver in en kommentar med en tidskod, som gör att videon hoppar fram till den exakta punkten där barnen, som lagt ut helt vanliga videor med allt från lek på studsmattor till glassätande i en park, befinner sig i en komprometterande situation.

– Här är det extra komplicerat eftersom det mycket handlar om hur betraktaren ser på innehållet, snarare än innehållet i sig. Det kan vara så att den som postar en tidskod i kommentaren är ett annat barn, även om det kanske statistiskt är mindre troligt. Men fenomenet väcker helt klart återigen frågan kring i vilka digitala miljöer vi faktiskt vill att våra ska barn umgås i. Vilka plattformsalternativ erbjuder vi våra barn och vilken grad av påverkan kan vi ha på dessa?

Svarar inte på följdfrågor

Efter att via mejl fått kontakt med Youtube kommenterar en talesperson:

”Innehåll, inklusive kommentarer, som utsätter minderåriga för fara är avskyvärt och vi har tydliga policyer som förbjuder detta på YouTube. Vi verkställer dessa policyer aggressivt – och rapporterar det till relevanta myndigheter, tar bort det från vår plattform samt stänger ned konton. Vi fortsätter att investera i teknologi, människor och partnerskap med välgörenhetsorganisationer för att tackla detta problem”.

Men när SVT Nyheter ställer följdfrågor uteblir svaren. Frågorna till Youtube som lämnades obesvarade var:
Men kritiken som riktas mot Youtube tar väl upp att detta trots allt finns på er plattform, inte försvinner samt att det är ett problem. Hur ställer ni er till det? Du nämner att ni rapporterar till myndigheter. Hur många anmälningar har ni skickat in till svenska myndigheter?

”Behöver göra mer”

Gustav Martner tror ändå att Youtube tar den här problematiken på allvar.

– Man tar nog problemen med avarter som pedofili på väldigt stort allvar. Men man tar inte barnens kvalitativa mediemiljö på stort allvar, och det är kanske inte så konstigt eftersom det inte är Youtubes affärsidé, säger han och menar att det finns en omogenhet i tänket kring hur samhället skapar goda mediamiljöer för barn och att vuxenvärlden behöver göra mycket mer.

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer