Není tajemstvím, že YouTube je už nějakou dobu skrytou oázou pro řadu periferních a radikalizovaných skupin - od krajní pravice až po kampaně rekrutující nové členy Islámského státu. V posledních měsících se obdobně také řeší, jak YouTube slouží zájmu pedofilů. Ti už se začátkem roku dostali do informačního toku s buňkou, která zaplavuje komentáře u videí, na nichž se objevují polonahé děti během her či u tradičních videoblogů.

Taková videa mohou bezděky zveřejňovat jak rodiče těchto dětí, tak samotní mladí youtubeři, a mívají statisíce zhlédnutí. Často jsou na nich samozřejmě reklamy, a autoři - a především YouTube - tak na nich vydělávají. Pod takovými videi bývají stovky komentářů, které sdílejí specifické časy, kdy je dítě nejodhalenější. Většinou jde o mladé dívky, leckdy jen pětileté. A YouTube má problém je zastavit - i přesto, že téma sahá až do roku 2013, kdy se Google a potažmo YouTube poprvé pokusily ve svých algoritmech znemožnit šíření obsahu, který ukazuje děti v nevhodných, často dokonce nelegálních situacích.

To, že má YouTube problém chránit děti, navíc platí i pro mladé diváky. O populární službě YouTube Kids, tedy obsahu filtrovaném pod unifikovaným rodičovským zámkem, se psalo v roce 2017. Tehdy vyšlo najevo, že dospělí převlékající se za oblíbené postavy z dětských pohádek, například kasovního trháku Ledové království, točí videa plná sugestivního humoru i simulace sexuálního chování. To by samo o sobě nebyl problém, videa ale prošla přes filtr, který měl děti chránit právě před sexuálním a jinak nevhodným obsahem.

Doporučená videa pro pedofily

Začátkem června téma oprášil list New York Times, který přišel se zprávou, podle níž algoritmus prostřednictvím funkce "doporučená videa" nasměrovává osoby s pedofilními sklony k obsahu, který zobrazuje děti. Dospělý uživatel, který se dívá na náctileté dívky v sugestivních situacích, by tak například ve svých doporučených videích nalézal stále mladší dívky - až by se dostal na videa pětiletých holčiček v plavkách.

Jedno z navrhovaných řešení se zdá být velice snadné: YouTube by podle expertů mělo veškerý obsah, který zobrazuje děti, z doporučených videí úplně vyřadit. Vůbec by tak nenastala situace, kdy algoritmy identifikují osobu s pedofilními sklony a nabídnou jí to, co ji udrží u sledování youtube - tedy videa dětí. Problém ale je, že YouTube toto řešení zatím odmítá, a to navzdory vlně veřejného odporu.

Je třeba zmínit, že algoritmy skutečně rozhodují o tom, jaká videa a za jakou cenu bude kdo sledovat. Momentálně platí, že nejvíce narůstá sledovanost kanálů, které zveřejňují dlouhý obsah, a to pravidelně - nejlépe několikrát denně. Tvořit videa s náročnější produkcí, která mají přes dvacet minut, a vydávat je několikrát denně, přitom není v možnostech většiny grassrootových youtuberů, kteří stáli v začátcích stránky ještě dávno předtím, než vůbec začala zajímat inzerenty.

Zajímavým příkladem pro moc algoritmů je video, které před několika dny zveřejnil Felix Kjellberg, přezdívaný PewDiePie, majitel druhého nejúspěšnějšího kanálu na YouTube, který má přes 96 milionů odběratelů. Ve videu se zmiňuje o svém sporu s indickým gigantem T-Series, s nímž vedl táhlou bitvu o první místo na žebříčku nejpopulárnějších youtuberů světa. Ve videu s názvem Looking at my Analytics odhaluje statistiky svého kanálu - přesněji řečeno graf toho, jak rychle mu od jeho založení přibývají odběratelé.

Během boje s T-Series šla Kjellbergova čísla nahoru velmi rychle, a to díky masivní multiplatformové kampani, kterou nevedli jen jeho fanoušci, ale i velká část youtubové komunity, jež souboj pojala jako boj o vlastní budoucnost - tedy o to, zda budou na prvním místě korporáty, nebo grassrootoví tvůrci. Kjellberg kampaň zastavil poté, co její hlavní slogan Subscribe to PewDiePie! zvolal jeden z pachatelů atentátu na dvě novozélandské mešity, při němž zahynulo přes 50 lidí. Kjellberg se od útočníků, kteří podle něj kampaň zneužili, aby získali ještě větší pozornost pro své zločiny, chtěl co nejvíce distancovat a udělat tečku za všemi spekulacemi o tom, že s krajně pravicovou agendou sympatizuje.

Jak udržet diváka? Za každou cenu!

Jeho zásadním odhalením je, že bez masivní komunitní kampaně se růst jeho kanálu prakticky okamžitě zastavil. Subscribery získal z kampaní na twitteru, facebooku, instagramu nebo redditu či z komentářů u videí své youtubové konkurence. Je tedy vidět, že algoritmy stránky organicky téměř neukazují novým odběratelům, zatímco početně produktivnější indický korporát jde stále nahoru.

Když rozhoduje algoritmus, automaticky se dostáváme na problematickou půdu. Umělá inteligence dosahuje kýžených cílů - ve většině případů maximalizaci zisku. V současnosti ale o metodách a updatech rozhoduje bez intervence svých programátorů, stále se aktualizuje a hledá nové způsoby, jak co nejlépe upoutat a udržet pozornost.

YouTube před několika lety zavedlo algoritmickou novinku, jejímž cílem je udržet diváky prostřednictvím vytvoření individuálního profilu každého uživatele a hledání obsahu, který je příbuzný jeho zájmům, a potenciálně tak může rozšířit škálu toho, co na YouTube konzumuje. A právě tento systém také identifikoval pedofilní tendence a nabídl uživatelům stále mladší děti. To stojí za většinou problémů, jimž teď YouTube čelí. Vedle kauzy kolem pedofilie je podobným případem například radikalizace prostřednictvím doporučování stále okrajovějších politických komentátorů.

Zásadní přitom je, že na všech těchto videích YouTube vydělává úplně stejně jako na obsahu, který problematické konotace nemá. A to se nemůže příliš změnit, dokud lidé, kteří určují cíle algoritmů, nezačnou uznávat jiné hodnoty než čistý zisk.