Liberální část veřejnosti míří za hranice absurdity

Dokud vás algoritmus nerozdělí

Liberální část veřejnosti míří za hranice absurdity
Dokud vás algoritmus nerozdělí

Obsah dostupný jen pro předplatitele.
Přihlásit se můžete zde.

Pokud nemáte předplatné, nebo vám vypršelo, objednat si ho můžete zde.

Obsah dostupný jen pro předplatitele.
Předplatné můžete objednat zde.

Pokud nemáte předplatné, nebo vám vypršelo, objednat si ho můžete zde.

Americký komentátor Scott Alexander má schopnost vyhmátnout ty nejzajímavější problémy a předložit je veřejnosti způsobem, který nutí k zamyšlení – a ne ke vzteku, nesouhlasu či nadšení. To jméno je pseudonym, prozrazuje o sobě jen to, že je psychiatr a žije někde na západě USA. A nepíše pro žádné zavedené médium, ale na svůj vlastní web Slate Star Codex. To a jeho anonymita jsou patrně důvody, proč dokáže uvažovat nahlas, aniž by ho semlela kmenová povaha současné politiky.

Před několika měsíci přibyla na jeho webu povídka, a to dokonce sci-fi povídka, jménem Sort by Controversial, po jejímž přečtení budete současné společenské spory vnímat jinak než dřív.

Nabízí odpovědi na otázku, proč jsou naše současné spory neúprosné a zároveň je v nich zpětně cosi předvídatelného a opakujícího se. A dál, proč jsou spory na sociálních sítích tak vlivné a určují politickou agendu, přestože čistě statisticky vzato jejich nejagilnější uživatelé nejsou společensky reprezentativní. A taky proč tento řetězec jen tak neskončí, jakkoli si řada účastníků periodicky říká, že blbější už to snad být nemůže.

Brett Kavanaugh se stává 114. soudcem Nejvyššího soudu USA. V Bílém domě u toho jsou jeho dcery Liza a Margaret a ovšem prezident Donald Trump. Washington 8. října 2018. - Foto: Reuters

Příběh se odehrává v prostředí programátorů, takže je zprvu pro nezasvěceného čtenáře trochu neschůdný, ale vynaložená pozornost se vyplatí.

Vypravěč pracoval ve start-upu, který chtěl radit inzerentům, jak na to, aby jejich reklamy získaly na internetu a sociálních sítích co nejvíce kliků. Jeho specialitou měla být umělá inteligence – deep learning, „protože investoři jsou ochotní sypat peníze kamkoli, kde se vyskytují slova deep learning“. Svou technologii cvičili na sociální síti Reddit. Je méně známá než Facebook nebo Twitter – je to síť pro nerdy. Ale umělá inteligence, jak známo, potřebuje ke svému učení velké množství dat a u Redditu existuje archiv 1,7 miliardy anonymizovaných komentářů. Je výzkumníkům veřejně k dispozici, nikdo ho nemusí krást jako Cambridge Analytica. A ještě jednu příhodnou vlastnost má Reddit. Facebook i Twitter se rozhodly (a zdálo by se, že z dobrých důvodů) umožňovat uživatelům příspěvky ostatních „lajkovat“, ale ne „dislajkovat“. Chtějí upřednostňovat pozitivní emoce. Reddit má ale jednu funkci, která vyjádření onoho palce dolů umožňuje – tzv. downvote, tedy hlasování, aby se příspěvek přesunul níž od vrcholu titulní strany. A taky umožňuje seřadit příspěvky podle jejich kontroverznosti – poměru celkového počtu hlasů a podílu „upvotes“ a „downvotes“. Ty zaručují největší „engagement“, jak se říká v marketingové hantýrce – výroky, s nimiž všichni souhlasí nebo všichni nesouhlasí, bývají banální.

Programátoři ve start-upu učili svou technologii nejen předvídat nejchytlavější výroky, ale taky je generovat. Dělali zhruba to, co dlouho známe od různých „botů“, které třeba generují výroky ve stylu nějaké osoby (známý je experimentální bot Microsoftu z roku 2016, který měl „hravým způsobem“ konverzovat na Twitteru s mladými lidmi a během několika hodin musel být stažen, protože začal chválit Hitlera). Říkali tomu projektu „Širiiny nůžky“ podle jména indické programátorky, která ho měla na starosti.

Hráč amerického fotbalu Colin Kaepernick. - Foto: Reuters

Krátká verze povídky by byla taková, že vypravěčovu týmu projekt Nůžky moc nešel. Až se kvůli němu jednoho dne všichni příšerně pohádali a dva ze čtyřčlenného programátorského týmu byli vyhozeni. A teprve v tu chvíli těm zbývajícím došlo, že jejich projekt zafungoval: vytvořili dokonalý algoritmus na rozeštvávání lidí. Ale bylo už pozdě. Dva vyhození programátoři firmu žalovali, načež majitel firmy vyhledal jednoho z žalujících a pokusil se ho zmlátit, ocitl se ve vězení a to byl konec firmy.

To bylo v roce 2017. Vypravěč si našel jinou práci a Širiiny nůžky pustil z hlavy. Ale vzpomněl si na ně po roce při sledování zpráv. V Senátu probíhalo kontroverzní slyšení soudce Nejvyššího soudu Kavanaugha, jehož demokraté obvinili ze sexuálního deliktu, kterého se měl dopustit v patnácti letech. A vypravěč si najednou vzpomněl, že mu Širi ukazovala, že „nůžky“ trénovala taky na databázi komentářů z Redditu věnovaných všeobecnému dění. A mezi hypotetickými kontroverzními scénáři, které algoritmus vyplivl, byla přesně tato situace – republikánský kandidát na soudce Nejvyššího soudu je obviněn, že se jako teenager dopustil sexuálního útoku.

A tak vypravěč program ze zbytků kódu, které měl k dispozici, rekonstruoval a nechal ho vygenerovat soubor sta nejkontroverznějších politických událostí. A skutečně byl mezi nimi Kavanaughův případ. Ale nejen on. Bylo tam i několik dalších politických kontroverzí posledních let, často přesně popsaných. Případ hráče amerického fotbalu, který na protest proti násilí na černoších odmítá stát při hraní americké hymny (to začal dělat Colin Kaepernick v roce 2016). Pokus o stavbu mešity v blízkosti bývalého World Trade Center v New Yorku (odehrál se v roce 2009). Pekař, který odmítne upéct dort pro svatbu gayů. A další události, které hýbaly americkou společností.

Zkrátka jako by někdo Širiiny nůžky už před časem sestrojil a pak jakýmsi ďábelským způsobem vygenerované scénáře uváděl do pohybu a vypouštěl je na americkou společnost.

Je to variace na motiv známý ve sci-fi: náš svět je ve skutečnosti někým konstruovaný a ovládaný „matrix“, je projekčním plátnem nějakého jiného vědomí. Kdo tím někým může být, se vypravěč nedovtípí. Vyvrací jen domněnku, že by to mohl být Putin.

To zajímavé ale je, jak vypravěč popisuje své reakce. Události, které vyjmenovává, obsahují to, co politická psycholožka Karen Stennerová v roce 2005 popsala jako „normativní hrozby“ – činy, které ohrožují principy řádu, na nichž stojí společenství či skupina, jejichž je člověk členem. Stennerová ukázala, jak tyto hrozby vedou k aktivizaci populistických hnutí a autoritářských vůdců. Alexander zase ukazuje psychologický mechanismus, jakým se jednotlivce v éře sociálních sítí zmocňují.

Zaprvé, ten ohrožovaný princip je ve společenské skupině, v níž se pohybujeme, tak samozřejmý, že nás ani nenapadne, že by s ním někdo mohl nesouhlasit. „Širi mi přečetla na ukázku dva nebo tři výroky z Nůžek. Neřekla mi, jestli s nimi souhlasí, nebo ne. Já jsem jí neřekl, jestli s nimi souhlasím, nebo ne. Byly neškodné,“ vzpomíná vypravěč na dobu, kdy se jim zdálo, že algoritmus stále nefunguje. Kontroverze se aktivuje, když zjistíte, že někdo někde má na něco důležitého jiný názor než vy. Jak vůbec někoho může napadnout chtít postavit ohromnou mešitu na místě, kde byl spáchán strašlivý útok na Ameriku ve jménu islámu? Nikoho takového si neumím představit, řekne si někdo. A šokován sleduje, jak se ozývá spousta lidí: Jak můžete v Americe, jež vznikla jako útočiště náboženské svobody, někomu nakazovat, kde si smí postavit modlitebnu své víry a kde ne? To je neamerické!

Zadruhé, rozhoří se spor, v němž padají veškeré zábrany. V jeho průběhu se ujistíte o tom, že protistrana se skládá z méněcenných lidských bytostí, které se při prosazování svých hnusných názorů neštítí ničeho, jsou hanbou národa a není možné s nimi žít v jedné zemi. Jejich podlosti jim nezapomenete a příště jim je vrátíte. To se rozumí, že vy si taky ve sporu s nimi servítky neberete – normálně jste slušný člověk, ale po tom, jak s vámi zacházeli… A hlavně – co když svými lžemi přesvědčí ostatní?

Silicon Valley (Křemíkové údolí) v Kalifornii. - Foto: Shutterstock

Vypravěč při tom nikdy nedá najevo svou politickou orientaci ani to, na jaké straně ve vyjmenovaných kontroverzích stojí. Říká nám tím: Myslíte si, že vy jste ti normální a slušní a „oni“ ti nebezpeční? To si „oni“ myslí taky.

To, že vypravěč má v ruce možný důkaz, že všechny ty kontroverze nevznikají přirozeně, ale někdo je záměrně vyvolává, ho vůči spirále rozhořčení nijak neobrní. Naopak. Má k dispozici celý seznam, na němž jsou již proběhlé spory relativně nízko v žebříčku kontroverznosti. Ale co až ten někdo uvede do pohybu jeden z těch opravdu špatných scénářů? obává se.

Pokud jste neslyšeli nějaký opravdu špatný výrok z Nůžek a nevíte, jaké to je – vám se snadno říká „Nenech se tím manipulovat“ nebo „Potřebujeme striktní politiku zákazu bojů o výroky z Nůžek“. Ale jak víte, že se nemýlíte? Jak víte, že neexistuje nějaká záležitost, o které kdybyste věděli, tak byste souhlasili, že by bylo lepší hodit na svět jadernou bombu a začít znovu s mutanty z kanálů než dovolit, aby lidé, kteří s takovou věcí souhlasí, dál znečišťovali svět svou přítomností? Jak můžete vědět, že nejste jako ta školačka, která povýšeně prohlašuje, že „nic není tak hrozné, aby se kvůli tomu muselo mluvit sprostě“, když to nejhorší, co se jí kdy stalo, je, že upustila lízátko do bláta? Změní ta holčička názor, když ji unesou a budou ji mučit? Když to mučení nedokáže svým spolužákům popsat a říká jen „Stalo se mi něco opravdu špatného“ a spolužáci pořád trvají na tom, že nic není tak hrozné, aby to ospravedlňovalo používání sprostých slov, na čí stranu se postavíte? Tak proč si pořád myslíte, že jsem „postižený“, když vám říkám, že jsem viděl výrok z Nůžek, a milosrdenství, soucit a jednota se mohou sbalit a táhnout do prdele?

Konec povídky (v němž vypravěč doporučuje čtenářům nakoupit zásoby konzerv a pitné vody, naučit se střílet a pořídit si bunkr, protože „jednoho dne ten, kdo nás krmí výroky z Nůžek, vypustí jeden z těch opravdu zlých“) je americky apokalyptický. A povídka samozřejmě není realistická. Ale odráží zajímavé pramínky reality.

Nedávno třeba jedna studie doložila, jak vás algoritmus doporučovaných videí na YouTube neomylně během pár kroků dovede k tomu radikálnějšímu obsahu. Stejně tak existují sociologické indicie, že radikalizace politických názorů se začala urychlovat v okamžiku „nasycení“ sociálních sítí. A že mohou spory o témata v podstatě symbolická či nepravděpodobné vrtochy pár jednotlivců hýbat společností úplně stejně jako třeba vývoj mezd? Ale určitě mohou. Posuzování všeho prizmatem ekonomiky je právě slepá skvrna současných elit. Vždyť na čem vyrostly ty největší firmy v Silicon Valley, dnešní nejcennější firmy na světě? Říkáme jim technologický sektor, ale technologie je jen jedna složka jejich byznysu. V ní samotné se netočí opravdu velké peníze. To, na čem zbohatl Facebook, Google, ale třeba i Amazon, je obchodování s lidskou pozorností.

Kdo si myslí, že se to týká jen Ameriky, je naivní. Proč si myslíte, že se u nás stali tak emocionálním tématem uprchlíci, přestože, jak racionální lidé rádi opakují, naprostá většina Čechů mimo velká města nikdy žádného muslima doma nepotkala? Protože je to pro ně normativní hrozba!

Před měsícem se odehrál pokus o znovuvztyčení mariánského sloupu na Staroměstském náměstí. Věc pár bloudů, řeklo by se. O většině sporů v republice o to, co se má kde postavit, se nikdy nedozvíme, happeningy připomínající historické události jsou rychle zapomenuty. Ale když jste na sociálních sítích narazili na výrok o mariánském sloupu, zjistili jste, že spor o smysl českých dějin běží v plné síle. Během třiceti vteřin jste mohli číst o tom, kdo je ruský šváb, kdo novokřtěnec a kdo de facto schvaluje odsun Němců.

Když britský princ Harry oznámil, že v zájmu planety s manželkou nebudou mít víc než dvě děti, stačilo to k tomu, abychom i u nás zjistili, že vedle nás žijí lidé, kteří to považují za normální, protože lidstvu přece hrozí přemnožení, a lidé, kteří to považují za hrozné, protože je děsí být součástí civilizace usilující o své vyhynutí.

Porodnost je vůbec téma, které se zdá aktivovat skryté neshody. Sociálnědemokratický veterán Jaroslav Foldyna stále říká něco kontroverzního, ale v nedávném rozhovoru na Novinkách kupodivu byla pro někoho nejkontroverznější jeho zmínka o tom, že sociální politika nevede ke zvyšování porodnosti. Před nějakými deseti lety bylo mezi informovanými lidmi standardní reakcí na výzvy k propopulační politice to, že je z mnoha zkušeností doloženo, že nefunguje. Dnes jsou propopulační opatření maďarské a polské vlády pro někoho zajímavým pokusem, který by se měl studovat, pro jiného dalším důkazem o temném, polofašistickém charakteru těchto vlád. A předtím, než byla objevena Greta Thunbergová, asi většina z nás netušila, jak různé mají lidé názory na roli dětí v politice.

Na tyto objevy lidské antihmoty budeme narážet čím dál tím častěji. Protože se liberální, progresivní část veřejnosti názorově utrhla a míří za hranice absurdity (což ona si nemyslí). A protože technologie manipulující naši pozornost nás ochotně budou zásobovat informacemi o tom, že někdo někde s námi nesouhlasí.