Firma Apple, největší výrobce smartphonů světa, si už víc než deset let buduje pověst společnosti, které záleží na soukromí jejích zákazníků. Na rozdíl od Googlu či Facebooku neprodává Apple reklamu, a nemá tak důvod šmírovat všechny pohyby a myšlenky lidí, kteří využívají jeho službu. Apple se několikrát veřejně postavil americkým úřadům požadujícím odemknutí zabavených telefonů (i když nevíme, co se pak dělo v zákulisí) a patřil mezi první technologické giganty, kteří u svých produktů zavedli silné šifrování. Nechává si za to také adekvátně zaplatit. Cena nového iPhonu s dobrou výbavou už se blíží ceně ojetého auta v bazaru a lepší notebooky značky Apple běžně překonávají stotisícovou hranici.

Srpnová zpráva, že budoucí operační systém iOS 15 bude automaticky skenovat fotografie v mobilu a odhalovat přítomnost dětské pornografie, vyvolala mezi uživateli Applu skandál. Nešlo přitom o povstání skrytých pedofilů; problémem bylo samotné narušení soukromí. Z hlediska PR to byla katastrofa, ze které Apple po několika dnech raději vycouval. „Prozatím“ se tedy obrázky na mobilech skenovat nebudou.

Něco jiného jsou ovšem fotografie uložené v cloudu.

Oblak plný očí

Cloudové služby se s rozvojem vysokorychlostního připojení staly extrémně populárními. Řeší totiž logistický problém, který znali už uživatelé starého MS-DOSu. Digitální data jsou křehká, jejich zálohování vyžaduje pozornost a péči, zálohy se snadno ztrácejí nebo stávají nečitelnými (tomu, kdo pamatuje snahu přečíst poškrábané CD s jedinou kopií diplomky, právě přeběhl mráz po zádech). Pevné disky a flash paměti odcházejí do věčných lovišť, často bez předešlého varování, a berou s sebou obsah, který na nich byl nahrán. A konečně lidé používají čím dál víc zařízení a svá data mají „rozkouskována“ mezi nimi. Chytrý telefon, notebook, velký počítač, tablet, chytrá televize – seznam přístrojů, na kterých se může nebo také nemusí vyskytovat právě ta fotografie, kterou hledáte, je rok od roku delší.

Cloud tento synchronizační a zálohovací problém řeší, přičemž navíc neklade na uživatele téměř žádné nároky. Vyfotografujete, co chcete, a systém už se postará o to, aby přenesl kopii na vzdálený server a „rozstrkal“ ji po všech přístrojích, kde ji chcete mít. Přitom ještě může analyzovat, kde jste snímek pořídil, zařadit ho do správné složky, identifikovat tváře lidí, kteří se na něm objevili, atd. A zejména vám zajistí, že o něj nikdy nepřijdete. Zálohovací funkcionalita na cloudech funguje vesměs bezchybně.

Všechny tyto výhody jsou provázeny jednou velkou nevýhodou. Nejste-li technicky zdatný jedinec, nedokážete si cloudovou službu zajistit vlastními silami. Existují sice cloudy, které jsou pod vaší plnou kontrolou, například opensourcové balíky ownCloud či NextCloud, které si můžete nainstalovat na vlastní server – a pak slouží opravdu jenom vám. Jenže nastavení a zajištění takového cloudu proti nezvaným návštěvníkům je náročné na odborné znalosti, takže nejste-li IT profesionál nebo nejste ochoten si takového profesionála zaplatit, musíte spoléhat na cloudy provozované Applem, Googlem či Microsoftem.

Tyto velké cloudy jsou vesměs do systémů integrovány hluboko a k jejich nastavení stačí pár kliknutí. Pro uživatele smartphonů je nejsnazší použít to, co jim telefon nabízí; a ten jim už po vybalení z krabičky nabídne cloud provozovaný výrobcem operačního systému, jak jinak. V základní podobě dokonce zdarma, i když s omezenou kapacitou. (Ani Google, ani Apple nejsou takoví lidumilové, aby provozovali neomezený datový sklad pro světovou veřejnost zadarmo.)

Tím ale zároveň ztrácíte kontrolu nad vlastními daty. Typickou „mzdou“, kterou za svoji službu velké cloudy chtějí, je možnost analyzovat vaše data ke svým účelům. U firem prodávajících reklamu jde zase hlavně o zpřesňování vašeho osobního profilu. Možnost využití dat nasbíraných v cloudu ale čím dál víc zajímá i policii a jiné bezpečnostní složky. Patrně nebude náhoda, že jeden z prvních států, které uložily svým firmám povinnost udržovat datová úložiště výlučně na svém území, je Čína.

Návrh Applu ale zacházel ještě dál. Skenovány měly být nejen obrázky, které jste si dobrovolně uložili na iCloud, ale všechny obrázky v telefonu. Cílem detekce měla být dětská pornografie.

Zakázané nezralé ovoce

Dětská pornografie je zakázaná ve všech vyspělých zemích světa, i když právní detaily se liší. Zákazy šíření hanbatých obrázků a videí bývají ještě přísnější než zákazy samotného pohlavního styku. Typicky bývá ilegální šířit i přechovávat pornografická díla, jejichž účastníci jsou mladší 18 let; v nejextrémnějším případě mohou přestoupit zákon i dva sedmnáctiletí milenci, kteří poslali nahé fotografie jeden druhému. Na hranici legality bývá virtuální dětská pornografie, média kompletně vygenerovaná počítačem bez účasti skutečných dětí. Zastánci kriminalizace virtuálního porna tvrdí, že může své konzumenty vést k útokům na děti reálné. Odpůrci namítají, že bez konkrétní oběti nemá smysl někoho trestat a že podobná debata už se vedla kolem virtuálního „vraždění“ v počítačových hrách. Tato diskuse se asi ještě přiostří s vývojem počítačové techniky, jejíž schopnost generovat čím dál věrohodnější simulace se zlepšuje, takže časem budou virtuální výstupy nerozlišitelné od reálných.

(Na osobní notu: autor článku se tak trochu děsí, jakou že stopu v Googlu po sobě zanechal při hledání podkladů k předchozímu odstavci .)

Valná většina úsilí policejních orgánů se ovšem soustřeďuje na pornografii skutečnou, k jejíž výrobě byly zneužity reálné, existující děti. Ta koluje skrz světovou pedofilní komunitu už desítky let a souboj mezi policisty a pedofily je veden na nejvyšší technologické úrovni. Na rozdíl od hackerů se pedofilové neskrývají v zemích, které by je chránily, a na rozdíl od teroristů, kteří začali zase dávat přednost osobnímu kontaktu, vesměs komunikují na dálku a často se osobně ani neznají. Tím pádem mají silnou motivaci ovládat a využívat prostředky sloužící k zamaskování vlastní identity – steganografii, šifrování, anonymizující sítě jako Tor.

Jedním z nástrojů, který se proti šíření dětské pornografie používá, jsou databáze známých obrázků. Ty jsou indexovány pomocí otisků, tzv. hashů; jde o krátké číselné řetězce, které se dají poměrně snadno spočítat a zejména porovnávat. Výhoda hashovacího systému je, že umožňuje prokázat identitu obrázku s téměř absolutní spolehlivostí – mají-li dva obrázky stejný hashový řetězec, je prakticky jisté, že jsou totožné. Nevýhoda hashovacího systému je ta, že i drobné odlišnosti jej zcela „rozhodí“. A nové obrázky či videa nedokáže takový detektor poznat vůbec.

Skenování obrázků v Applu mělo při rozeznávání dětské pornografie spoléhat hlavně na existující hashové databáze, čímž ihned vznikala otázka, k čemu má vlastně být. Typicky se totiž v mobilu nacházejí hlavně nově pořízené fotografie, které v policejní databázi ještě nejsou, tím pádem by detekci unikly. Skenovacím mechanismem by se dal chytit jen ten pachatel, který by se později o snímky podělil s jinými lidmi a umožnil jejich následné „odchycení“ policejními orgány a zařazení do databáze. Což by byl v poměrech dnešní pedofilní komunity amatér.

Hákový kříž a prázdná židle

Málokdo bude hájit pedofily, ale při různorodosti zákonů napříč světem vyvolala zamýšlená akce Applu i další logickou otázku: co jiné typy zakázaného obsahu? Vznikne-li už jednou takto robustní nástroj na plošné skenování mobilů v kapsách lidí, co bude bránit jiným státům, aby začaly po Applu požadovat hledání obrázků, videí či textů, které jsou zakázány u nich?

Na seznamu by se tak například mohly ocitnout organizace, které odporují německé ústavě a jejichž symboly je zakázáno v Německu šířit. Na tomto seznamu se (očekávatelně) nacházejí zejména různé symboly nacismu, ale také (už poněkud překvapivě) i vlajka a znak kurdského hnutí YPG, které má vztahy k ilegální organizaci tureckých Kurdů PKK. Samo jejich držení sice v Německu zakázáno není, ale snadno si lze představit například to, že by německé úřady vyžadovaly ohlášení skutečnosti, že se někdo pokusil například rozeslat je e-mailem jiným osobám.

Kromě demokratických států je tu ovšem i Čína a další autoritářské režimy, které toho zakazují daleko víc, a těm Apple svou iniciativou jako by strkal do ruky další zbraň. Už teď se data čínských uživatelů Applu ukládají v nešifrované podobě na servery v Číně. A k tomu by mohla přibýt i úřední kontrola zakázaných myšlenek a obrázků přímo na mobilech, třeba „prázdné židle“, která na čínském internetu slouží jako jedna z alegorií cenzury. Velké korporace mívají málokdy svědomí samy od sebe, ale podobný druh zneužívání iPhonů a iPadů proti svým vlastním uživatelům by Apple světové veřejnosti jen obtížně vysvětloval.