Raději pandy než protesty. Sociální síť TikTok k službám čínskému režimu

Do strategie komunistické Číny vytvářet ve světě vlastní pozitivní obraz dobře zapadá TikTok, čínská sociální síť s 1,5 miliardy uživatelů. Kromě obav z možných úniků dat TikTok opakovaně čelí také kritice kvůli cenzuře „politicky citlivého“ obsahu, například o pronásledování Ujgurů v Sin-ťiangu.

Poté, co americký Pentagon začátkem roku varoval před používáním mobilní aplikace TikTok na zařízeních zaměstnanců bezpečnostních složek a armády, přidalo se v lednu také australské ministerstvo obrany. Bezpečnostní služby obou zemí upozorňují na rizika aplikace vlastněné čínskou firmou ByteDance, jejíž hodnota během dvou let vystoupala ke sto miliardám dolarů, a je tak v současnosti považována za nejcennější technologický start-up na světě.

K radikálnímu kroku včera přistoupila Indie: zakázala skoro šedesát čínských aplikací – včetně TikToku a WeChatu. Po týdnech konfliktu opět eskalujícího na indicko-čínských hranicích, v němž už zemřelo dvacet indických vojáků, se v zemi ozývají také hlasy požadující bojkot čínských výrobků.

Indické ministerstvo pro informační technologie prohlásilo, že 59 čínských aplikací zakazuje poté, co obdrželo „mnoho stížností z různých zdrojů“ na aplikace, že „kradou a tajně přenášejí uživatelská data nepovoleným způsobem“. „Sběr těchto dat a jejich vytěžování subjekty nepřátelskými pro bezpečnost a obranu Indie, které v konečném důsledku zasahují do její suverenity a integrity, budí hluboké bezprostřední obavy a vyžadují okamžitá opatření.“

Oddělené světy

Kromě obav z možných úniků dat TikTok opakovaně čelí také kritice kvůli cenzuře „politicky citlivého“ obsahu. Objevily se studie potvrzující, že aplikace blokuje videa upozorňující na situaci Ujgurů v Sin-ťiangu, a to přesto, že její mezinárodní verze není z ČLR přístupná. Mateřská společnost ByteDance totiž zcela oddělila globální verzi TikToku provozovanou z Kalifornie a jeho jinak zcela identickou verzi pro čínský trh, která je známá pod označením Douyin 抖音. Z pohledu čínských úřadů je toto řešení ideálem digitálně-autoritářského režimu: produkt vlastněný čínskou firmou vytváří dva zcela oddělené virtuální světy, které se vzájemně vůbec nepotkávají.

Mnoho zahraničních aplikací vyvíjených americkými společnostmi, giganty jako Google a Facebook i progresivními start-upy, je v pevninské Číně blokováno, protože jejich obsah není pod kontrolou Pekingu. Zato čínské aplikace, jako například WeChat nebo Weibo, jsou více méně volně přístupné zahraničním uživatelům. Kontrola obsahu, který je zde zveřejňován, tak vyžaduje poměrně značné úsilí cenzorů.

Přibývá studií odhalujících čínské vlivové aktivity v zahraničí, ať už se jedná o využívání domácích i zahraničních médií pro účely propagandy nebo aktivity spadající pod Oddělení práce na jednotné frontě, například různé krajanské organizace, obchodní či profesní komory a sdružení, instituce zabývající se organizací kulturních akcí apod. – a TikTok může představovat potenciální riziko k dalšímu pronikání tohoto vlivu. Z toho důvodu byl americkými a australskými bezpečnostními složkami vyhodnocen jako rizikový z hlediska bezpečnosti individuálních uživatelů, jakož i národní bezpečnosti západních demokratických zemí.

Co je TikTok? Návyková vteřinová videa

V roce 2018 pekingská společnost ByteDance koupila zavedenou americkou aplikaci nazvanou Musical.ly, kterou vyvinula firma registrovaná na Kajmanských ostrovech a podnikající v čínské Šanghaji. V době akvizice měla aplikace registrovaných již zhruba 60 milionů uživatelů převážně v USA a v Evropě. Čínskou verzi Douyin uvedl ByteDance už v roce 2016 a mezinárodní TikTok o rok později. Skutečný globální boom však odstartovalo až sloučení s Musical.ly. Začátkem roku 2020 měla aplikace v Číně i zahraničí podle některých informací celkem téměř 1,5 miliardy uživatelů. Počet jejích stažení měsíčně i meziročně v posledních dvou letech dalece přesáhl zavedené aplikace, jako je Facebook, Youtube nebo Instagram.

TikTok, jehož výkonným ředitelem se před pár dny stal někdejší ředitel zákaznického a mezinárodního oddělení společnosti Disney Kevin Mayer, se specializuje na zveřejňování videí s průměrnou délkou 15 sekund, většinou se jedná o rozpustilé tanečky, drobné legrácky, jako vystoupení s playbackem, komické výstupy apod. Od ostatních aplikací ji odlišuje hlavně její vysoce návykový formát umožňující nepřetržité sledování automaticky vyskakujících videí, která se uživateli nabízejí podle jakýchsi algoritmů. Uživatel nic nevyhledává, obsah se mu nabízí sám. V tom je zvláštní kouzlo, které přitahuje zejména mladou generaci – tedy děti už od věku 8-10 let, které se této „nevinné“ zábavě s oblibou věnují. Právě onen záhadný algoritmus, který nabízí potenciálně zajímavá videa, však představuje jedno z rizik aplikace. Lze totiž manipulovat s tím, jaká videa se primárně „divákovi“ ukazují, a tak lze de facto určovat, co uživatel sleduje a co ne.

Podle serveru Mediakix.com je TikTok přístupný celkem ve 155 zemích či regionech světa v 75 jazykových mutacích. Tři čtvrtiny jeho uživatelů jsou ve věku do třiceti let, velkou část představují děti a mladiství. Přesto však aplikace nemá jasná pravidla na kontrolu nevhodného obsahu a poskytuje široké pole pro zneužití nejen dat uživatelů, ale právě i samotného obsahu nahrávaného a konzumovaného z velké části nezletilými. Z toho důvodu firma už v loňském roce čelila skandálu v Indii, která byla do včerejšího zákazu pro TikTok s téměř 200 miliony uživatelů nejrychleji rostoucím trhem. Indický soud dokonce aplikaci dočasně zakázal už jednou v dubnu 2019: byla obviněna z poskytování prostoru pro pedofily, sexuální predátory, pornografii či kybernetickou šikanu. Kontroverze kolem TikToku v Indii nicméně pokračovala i v letošním roce. Server India Times uvedl, že TikTok si jen v dubnu stáhlo celosvětově 107 milionů uživatelů, přičemž 22 % z nich bylo právě z Indie. Množily se však další skandály a také obvinění z nedostatečné kontroly obsahu.

Rizika TikToku

Prudce narůstající obliba aplikace přitahuje pozornost médií, analytiků i odborníků na marketing. Jsou tu však závažná bezpečnostní rizika daná primárně tím, že aplikaci vlastní čínská společnost, která navíc až donedávna příliš navenek nekomunikovala. Po skandálu se závadným obsahem v Indii, obviněních z posílání dat do Číny a informacích o cenzuře videí z politických důvodů si tak americká vláda na podzim vyžádala národní bezpečnostní prověrku tohoto produktu.

Za připomenutí jistě stojí čínský zákon o celonárodní špionáži, který země přijala v roce 2017, a který výslovně vyžaduje, aby všechny čínské firmy spolupracovaly při sběru informací a v případě potřeby vykonávaly špionážní činnost. Americká komise pro zahraniční investice proto prověřovala rovněž miliardovou akvizici Musical.ly. Vládní a bezpečnostní složky po celém světě jsou nyní ohledně používání mobilních aplikací mnohem opatrnější, zejména po skandálu s aplikací Strava, s níž šikovný student dokázal identifikovat americké vojenské základny a pohyb vojáků. Ve stejném roce, 2018, také jak americké, tak australské bezpečnostní složky a vládní instituce zakázaly i používání čínské aplikace WeChat.

Podle mnohých se ByteDance snaží problémy spojené s nedůvěrou čínským firmám řešit přetahováním amerických talentů z jiných technologických firem a ze stejného důvodu nyní najaly také nového výkonného ředitele Mayera. Pokouší se řešit i problémy s ochranou mladistvých, v dubnu např. zakázal používání funkce osobních zpráv (direct message) dětmi do 16ti let.

Všechny mobilní aplikace vyžadují souhlas uživatele s celou řadou operací, například přístup k fotoaparátu, mikrofonu nebo kontaktům. Mnoho z nich také zaznamenává přesnou geografickou polohu podle GPS. V případě aplikací sloužících k nahrávání zábavných videí, jako je právě TikTok, se však tato funkce zdá nadbytečná. Odborníci na bezpečnost, jako např. Fergus Ryan z australského Institutu pro strategickou politiku (ASPI) nebo členové americké komise pro zahraniční investice, označují TikTok za bezpečnostní hrozbu z důvodu možného monitorování a ovlivňování uživatelů. Toto podezření dokonce už v květnu 2019 částečně potvrdil americký soud v Kalifornii, který řešil žalobu podanou na aplikaci fyzickou osobou. Vyšetřování ukázalo, že data amerických uživatelů jsou sice zálohována na serverech v Kalifornii a Singapuru, nicméně pekingští „vývojáři“ k nim mají přístup. Navíc podle analýz není vůbec jisté, kde jsou zálohována data ostatních uživatelů, protože například zásady ochrany osobních údajů TikToku pro země EU pouze uvádějí, že data uživatelů jsou „odesílána a zálohována mimo oblast EU“.

Kosmetické tipy nebo lidská práva?

Dalším rizikovým faktorem spojeným s aplikací je zmíněná cenzura. O tom, že čínský Douyin je cenzurován stejně jako ostatní čistě čínské aplikace, nebylo žádných pochyb. Studie prokazují například cenzurování videí z Ujgurské autonomní oblasti Sin-ťiang, kde je dosud na milion lidí internováno v reedukačních táborech a desítky tisíc Ujgurů je posíláno na nucené práce do továren na východě ČLR. Na cenzuru na mezinárodním TikToku však v loňském roce výrazněji upozornilo až virální video nahrané americkou muslimkou, které maskovalo kritiku porušování lidských práv v Sin-ťiangu do podoby oblíbeného kosmetického tutoriálu. Dívka si v něm líčila řasy, a přitom popisovala, co se Ujgurům v Sin-ťiangu děje. Video bylo aplikací dočasně zablokováno a znovu se objevilo až poté, co kauza rozvířila pozornost médií. Skutečným rizikem však není ani tak tato přímá cenzura, jako spíše mnohem subtilnější a skrytější manipulace, například zmíněné algoritmy, které určují, jaká videa budou vidět a jaká naopak ne. Mluvčí TikToku ohledně cenzury politicky citlivých témat pro New York Times prohlásil, že aplikace je určena primárně pro zábavu a politika zde tak nemá místo.

I přes raketově rostoucí popularitu TikToku zejména mezi mladou generací se zde např. objevovalo podezřele málo obsahu týkajícího se hongkongských protestů, jejichž hybnou silou jsou právě mladí příslušníci generace Z, která internetem žije. O cenzuře videí, „která se nelíbí Pekingu“, již vloni psal např. také list The Guardian. Společnost ByteDance však tato obvinění odmítla s tím, že sami nezaznamenali žádné žádosti o odstranění videí směřovaných z Pekingu, zatímco z jiných zemí, včetně USA nebo Austrálie, takových nahlášení „závadných videí“ chodí desítky. Což ovšem není nijak překvapivé, vzhledem k tomu, že aplikace má hermeticky oddělenou čínskou a mezinárodní verzi a případná cenzura obsahu jistě nemusí jít oficiální cestou.

Anatomie cenzury

Německý server Netzpolitik.org se pokusil popsat, jak TikTok vlastně funguje:

TikTok vyvinul sofistikovaný systém pro identifikaci, kontrolu, prosívání a regulování obsahu. Platforma má v souladu s nastavenými pravidly možnost přiškrtit [frekvenci zobrazování] videí zachycujících protesty a demonstrace.

Záměrně se snaží profilovat jako platforma poskytující prostor pro bezbřehou zábavu a digitální kreativitu, kde politická témata nemají místo. Jedním z problémů je ovšem vysoká obliba TikToku mezi školou povinnými dětmi. I proto jsou na místě obavy, pokud aplikace reguluje obsah na základě politické citlivosti, avšak nemá jasně nastavené kontrolní mechanismy pro jiné typy závadného obsahu ohrožujícího děti a mládež, jak je běžné u západních aplikací typu Facebook nebo Youtube. Analytici z Netzpolitik se zaměřili na jednu ze starších verzí „pravidel pro regulaci obsahu“ firmy ByteDance a poté experimentovali se zakládáním účtů postujících videa kritická vůči Číně. Podrobně popsali, jakým způsobem je obsah na TikToku „regulován“. Děje se tak ve třech krocích a konečné slovo má Peking. Specifikem zmíněných pravidel je, že jsou „pozoruhodně vágní a volně interpretovatelná“, což lze označit za jeden z rysů čínské cenzury obecně. Hlavní strategií podle nich je „poskytnout určitému typu obsahu největší možný dosah, zatímco jiný typ obsahu je záměrně potlačován.“ Nežádoucí obsah se tak po příslušném označení již neobjevuje ve feedu, který je generovaný na základě daných algoritmů, a je znevýhodněn i při vyhledávání např. přes hashtagy. Některá videa se tak zkrátka nedostanou ke konzumentům, zatímco jiná, např. v případě placeného marketingu, je naopak najdou snadněji. Celé to nápadně připomíná fungování cenzury v samotné ČLR, kde také dochází k radikálním a viditelným zásahům imaginárních „cenzorů“ jen zřídka.

Interní dokumenty pro „moderování“ toku videí nedávno zveřejnil také server The Intercept. Dokumenty, které podle autorů svou „trapně špatnou“ angličtinou působí jako přeložené z čínštiny, se vyjadřují jednak k „ideologicky nevhodnému“ obsahu, jednak k obsahu, který zobrazuje fyzicky „neatraktivní a uboze působící“ uživatele. Nežádoucí videa jsou v algoritmech aplikace „penalizována“, tedy znevýhodněna s ohledem na viditelnost i možnosti vyhledávání. Mluvčí TikToku tato pravidla označil za již neplatný „nepříliš vhodný pokus předejít kyberšikaně“. Z „politických důvodů“ pak TikTok blokuje videa, která se zdají „ohrožovat národní bezpečnost, čest a zájmy“ (jakéhokoli státu), stejně jako „znevažování či překrucování historie“. Nesmí se také postovat o „státních úřednících a politických či náboženských vůdcích“. Instrukce, které na první pohled připomínají snahu o „bezpečnost a korektnost“ západních technologických firem, lze tudíž snadno aplikovat tak, že ve výsledku slouží potřebám čínského režimu.

Raději jen roztomilé pandy

Vezmeme-li v úvahu širší kontext čínských vlivových operací v zahraničí, počínaje šířením soft power v podobě „kulturní diplomacie“ a konče snahami o kooptaci ekonomických a politických elit, TikTok do celé strategie dobře zapadá. Jedním ze záměrů pekingské vlády je vytvořit pozitivnější obraz ČLR a jejího totalitního režimu, mimo jiné právě za pomoci jak tradičních médií, tak i sociálních sítí. Čínský režim usiluje o to, aby světu mohl sdělit „čínský příběh,“ v němž defilují roztomilé pandy a tančící a zpívající menšiny v barevných krojích, zato zde však chybí jakákoli debata o společenských problémech a lidských právech a dochází k manipulaci s historickou pamětí skrze tabuizaci některých témat. TikTok cílící na nejmladší generaci, která konzumací obsahu na internetu tráví naprostou většinu svého volného času a sociální sítě jsou pro ně rozhodujícím zdrojem informací formujících jejich názory a vnímání světa, se tak může stát mocným nástrojem, který napomůže tomu, aby se „čínský příběh“ dostal do světa.

S ohledem na skandály s úniky dat skrz západní technologické giganty jako Facebook nebo nedávno Avast je určitě důvod se zamyslet, komu coby uživatelé svěřujeme svá data. Je však třeba počítat také s tak nenápadným ovlivňováním, jaké představuje výše zmíněná “regulace obsahu” ze strany čínské firmy. Sarah Cook z organizace Freedom House ve své zprávě z letošního ledna referuje o narůstajícím vlivu čínské komunistické strany v zahraničních médiích. Píše zde:

Díky čínským technologickým firmám s blízkými vazbami na komunistickou stranu, které skupují nebo budují platformy pro šíření obsahu s dosahem desítek milionů konzumentů, získává Peking v některých zemích vliv nad klíčovými složkami informační infrastruktury.

A jednou z takových platforem  – s dosahem více než jedné miliardy uživatelů – je potenciálně i TikTok.

Publikace tohoto článku: Hlídací pes, 25.6.2020