Umělá inteligence ve službách státní bezpečnosti

Rok 2017 se možná jednou zapíše do dějin ne jako rok, kdy nastoupil prezident Trump a USA se rozhodly jít cestou úpadku, nýbrž jako rok technologie rozpoznávání lidských tváří. Ta sice existuje již delší dobu, ale letos se začala masivně používat v Číně. A už to stojí za to: Umělá inteligence bojuje proti přecházení na červenou, proti jízdě ve špatném jízdním pruhu, chytá hledané osoby, omezuje použití toaletního papíru, ale také umožňuje platit v obchodě úsměvem.

Umělá inteligence a Strana

Komunistická strana Číny si uvědomuje velký potenciál umělé inteligence pro budoucí vývoj země. A myslí to vážně. Na podporu vývoje těchto technologií dává v přepočtu miliardy korun. Navíc se snaží o posílení spolupráce mezi soukromým a státním (i stranickým) sektorem například v armádní sféře. Velké čínské technologické společnosti, jako jsou Baidu (čínská obdoba Google) nebo Tencent, již této spolupráce využívají, a navíc mají k dispozici data o stovkách milionů uživatelů chytrých telefonů (v Číně jich je přes 700 milionů). Ochrana osobních dat neexistuje, a tak jsou v ČLR pro tuto oblast výzkumu ideální podmínky. Podle KS Číny bude do roku 2030 nejlidnatější země planety také jedničkou v tomto oboru.

Roje dronů

Předpokládá se, že ČLR bude umělou inteligenci (AI) využívat při automatizaci (robotizaci) průmyslu. Světová dílna  se totiž začíná potýkat s nedostatkem pracovní síly.

Vedle průmyslových aplikací vidí autokratický režim přínos AI především v kontrole obyvatelstva. Efektivní se ale zdá také využití pro vojenské účely – v červnu čínská armáda vyzkoušela nasazení rekordně velikého roje malých dronů. Ty potřebují AI ke koordinaci a dá se také očekávat, že budou využity ke zneškodňování cílů. Před umělou inteligencí s povolením zabíjet sice světová vědecká veřejnost varuje, ale čínští politici se o mínění světové veřejnosti nezajímají o nic více než o veřejné mínění své vlastní země.

Šmírování nebo optimalizace bezpečnosti?

Nejvíce skloňovanou technologií založenou na umělé inteligenci je ve spojení s Čínou rozhodně schopnost počítačů rozpoznávat tváře lidí. Ředitel firmy Megvii, která tuto technologii pro čínské úřady a společnosti vyvíjí, však ve všudypřítomných kamerách, jež o nás vědí téměř vše, nevidí hrozbu. Vždyť to pouze „pomáhá chytat padouchy“! Je samozřejmě dobré vědět, že to firma nedělá jen pro peníze, ale kvůli myšlence. Nicméně s ohledem na absenci jakékoliv legislativy, pojistek či vůbec nějakého ukazatele, který by člověku ohlašoval, že se nachází v ostře sledované zóně, je velmi těžké říct, nakolik je tato technologie neškodná a do jaké míry se již jedná o “šmírování”. Komparativní výhodou zůstává, že v Číně se nikdy otázka soukromí moc neřešila – stačí se podívat na tamní toaletní kulturu. Pokud je pravda, že jen firma Yitu má databázi s 1,5 miliardou obličejů, které jsou jejich systémy schopné odlišit a přiřadit k nim další data (jako jméno a kriminální záznamy), je možné, že v čínské databázi jste i vy.

Usmějte se a neplýtvejte toaletním papírem

Systémy zatím byly použity v Šanghaji proti chodcům přecházejícím na červenou, cyklistům a motorkářům jezdícím ve špatném pruhu. V řadě čínských velkoměst se musíte při vstupu do metra nechat zkontrolovat fotobuňkou a ve Fu-čou (Fuzhou 福州) bojuje na záchodech stroj vybavený AI proti plýtvání toaletním papírem. Také je ale nyní možné v KFC platit úsměvem a v Nankingu je díky této technologii možné nakupovat v automatizovaném obchodě. Největší kontroverzi však zatím vyvolalo masivní využití kamer s umělou inteligencí na pivním festivalu ve východočínském městě Čching-tao  (Qingdao青岛) v srpnu. Na základě automatického rozpoznání hledaných osob tam bylo zadrženo celkem 25 podezřelých. Mezi nimi byli například narkomani vytipovaní na základě předchozího záznamu. To  už zavání státní šikanou osob, které mají záznam v rejstříku nebo se v minulosti nechovaly úplně dle představ režimu. To je ostatně základním bodem veřejné debaty, která je na Západě v plném proudu, ale ČLR se jí neúčastní. Ta rovnou zavádí regulací neošetřené technologie a postupy. A dá se očekávat, že diktatury všude po světě budou čínský příklad následovat.

Nebude úniku

Rychlost, s níž se obyvatelé Země a především USA přestali po 11. září 2001 starat o své soukromí, není nic proti tomu, co se děje v Číně. Všudypřítomné kamery budou brzy  doplněny o „systém společenské důvěryhodnosti“ společnosti Sesame Credit; v ten moment budou o čínských občanech bezpečnostní složky a úřady vědět v přímém přenosu úplně všechno. Diskriminace a perzekuce dosáhnou nové úrovně ve formě čínské policejní sítě Skynet. Ta má v Číně dvojí podobu. První, méně související s vražedným počítačem z Terminátora, byla Si Ťin-pchingova operace na sledování a zatýkání nepohodlných politických špiček. Druhý je systém vyvinutý již zmíněnou společností Megvii, který pomocí 20 milionů bezpečnostních kamer v přímém přenosu sleduje čínské obyvatele a dokáže je rozpoznat. Když se dají oba Skynety dohromady, Si Ťin-pchingovi už nikdo neuteče.