HAL 9000, robotický pilot meziplanetární lodi Discovery, byl „skoro člověk“. Dost na to, aby uměl prohrávat v šachách, udržovat konverzaci se svými lidskými kolegy, onemocnět nějakým druhem počítačové neurózy a následně i zabíjet. Když se rozhodl nepustit Davida Bowmana zpátky do lodi, nemlčel; snažil se s ním po svém způsobu rozloučit.

Taková byla představa umělé inteligence v imaginárním světě Arthura C. Clarka. Podobné koncepce najdeme i v dílech jiných spisovatelů science fiction. Svým způsobem jsou důkazem toho, jak omezená je i představivost velikánů fikce. Dnešní zárodky umělé inteligence jsou Halovi značně vzdáleny. Převážně jde o utilitární systémy, které se s námi „nebaví“, maximálně odpovědí na přesně formulovanou otázku a jinak mlčí. Umíme o nich vůbec říci, zda uvažují? Po lidsku určitě ne; ale řešit úlohy umějí, a to čím dál dokonaleji. Podívejme se na pár oblastí, ve kterých bude umělá inteligence předělávat svět.

Dokonalí hráči

Začněme směrem, ve kterém se nemýlili ani staří spisovatelé science fiction. Hry jako šachy nebo go mají poměrně jednoduchá pravidla a tím se nabízejí jako cvičení pro tvůrce umělých inteligencí už od 60. let dvacátého století. Mají ještě jednu výhodu: stroj specializovaný na jednu konkrétní hru může mít jen základní rozhraní (interface), třeba obrazovku a klávesnici. Výrazný průlom v šachách učinily počítače už v 70. letech 20. století, kdy přitom ještě neexistovalo ani IBM PC; dnešní smartphony jsou mnohonásobně hardwarově silnější než dávné stroje, které poprvé porazily dobré lidské hráče. Schopnost počítačových programů vyhodnotit několik tisíc možných pozic během sekundy se ukázala jako  rozhodující zbraň. Z pohledu šachistů nehrály tehdejší programy zajímavou hru, ale na rozdíl od lidských hráčů se nedopouštěly chyb. Naopak, slabin ve hře lidského protivníka dokázaly důsledně využít.

V současné době už počítače dokážou porazit libovolného člověka, i když ne v každém zápase. Rybka, softwarový šachový systém Čechoameričana Vaška Rajlicha, dokázala porazit třeba i velmistra Vadima Milova, a to i při běhu na normálním počítači. Specializovaný stroj Deep Blue překonal už v roce 1997 Garryho Kasparova. Stalo se zvykem pouštět jednotlivé šachové systémy proti sobě a nechat je učit se ze svých chyb. Výsledkem jsou hry, které už zajímavé jsou, a to svou podivností a neočekávatelností. Počítače nacházejí i v klasických pozicích nové, hlavně defenzivní tahy, na které člověk až dosud nepřišel.

Japonská desková hra go patřila dlouho mezi ty, které počítače zvládají spíše na úrovni učedníka. Proti počítačovým šachům přišel její rozvoj až později, dokonce dlouho panovalo přesvědčení, že „nadlidské“ kvality nemohou dosáhnout nikdy (velikost mřížky 19 x 19 je mnohem větší než u šachů a tomu odpovídá i obtížnost úlohy). Nakonec se to přes všechny negativní předpovědi podařilo, ale velmistrovské úrovně dosáhly počítačové systémy až v posledních třech letech. Hlavní z nich je AlphaGo, produkt společnosti Google, který pravidelně poráží nejlepšího světového hráče, Číňana Ke Jie. Google zveřejnil základní designové principy AlphaGo v časopise Nature a to umožnilo vývoj různých klonů, které se snaží vylepšovat svoji efektivitu jinými způsoby. Zatím ale AlphaGo vede.

Ukaž mi pejska

Zpracování obrazu je pro počítače obtížný úkol. Lidská bytost se ve světě orientuje především očima. Vyznat se ve viděné scéně nám tak přijde jako přirozený, intuitivní proces. Říká-li matka dítěti „Ukaž mi pejska“, jde jí hlavně o to, aby dítě vědělo, co znamená slovo „pejsek“. Pokud nemá junior problémy s očima, odliší psa od koberce bez problémů, i kdyby koberec měl podobnou barvu. V tomhle jsme od přírody vybaveni výborným výpočetním střediskem v hlavě, i když existují i tvorové, kteří jsou na tom lépe – zejména draví ptáci.

Počítač ale dlouho takové problémy vůbec neřešil. Bylo to jednak dáno tím, že prvním úkolem počítačů byly skutečně abstraktní výpočty, jednak i tím, že digitální kamery o dostatečném rozlišení na sebe nechaly řadu desetiletí čekat. Možnost zpracovat obraz samozřejmě dost záleží na tom, v jak velkém rozlišení byl pořízen. Lidské oko má „přirozené“ rozlišení skoro 600 megapixelů, jestřáb je na tom cca pětkrát lépe (a vidí v širším rozsahu spektra). Zde má příroda před technikou dosud značný náskok. Přesto už počítačové zpracování obrazu dost pokročilo. Před deseti lety by ještě softwarové systémy s příkazem „Ukaž mi pejska“ měly značný problém, dnes vám ze sady fotografií vyberou psy zcela rutinně. Tato schopnost se pro naši budoucnost stala dvojsečnou zbraní. Kladný efekt má zejména v medicíně. Počítači lze například předložit miliony snímků rentgenovaných prsů spolu se sdělením, které z nich obsahují karcinom a které jsou zdravé, aby se z nich učil. Takovou kapacitu paměti a zkušeností žádný lidský lékař nemá.

V loňském roce provedly nizozemské univerzity velký test samoučicího diagnostického systému. Předmětem bylo 399 snímků prsů, částečně nemocných a částečně zdravých. Proti počítači stálo 11 klinických patologů, buď v reálných podmínkách (omezené množství času na jeden snímek), nebo v podmínkách optimálních (žádná časová omezení). Dokonce i v optimálních podmínkách převyšovala přesnost počítačového programu o něco málo výsledky lidských lékařů; v reálných podmínkách byl rozdíl dokonce dost značný. Nápadná byla zejména nízká míra falešných pozitiv, tj. situací, kdy snímek zdravého člověka je chybně vyhodnocen jako patologický. Lidští lékaři mají asi větší emocionální nutkání k tomu, rozhodovat „na jistotu“, aby někoho omylem nezabili. Prakticky to však znamená, že zdravé pacientce může být odebrán prs zbytečně, tedy významné zhoršení kvality života. Chladná racionalita počítače je v tomto směru výhodou.

Automatizovaná diagnostika může nahradit živé lékaře, kterých je nedostatek, a to například ve špatně dopravně dostupných oblastech. Lze si představit, že snímací zařízení se časem vejde do jedné dodávky, která pak bude projíždět odlehlé vesnice (třeba v Alpách či horách Balkánu) a vysílat nasbírané snímky do centrály, kde je inteligentní systém rovnou vyhodnotí. Možná bude takový systém, využívající méně invazivních prostředků, časem dost levný i na to, aby se dal pořídit do každé vsi, ne-li každé domácnosti. (Zní to absurdně, ale podíváme-li se na ceny a rozšíření počítačů, od roku 1970 dodneška se stalo to samé: dříve průmyslové zařízení, které potřebovalo klimatizovaný sál, dnes stojí na běžném pracovním stole a divný je spíše ten, kdo jej nemá.) Prevence je vesměs o dost levnější než léčba a důsledné využití automatizovaných diagnostických systémů by mohlo ušetřit jak peníze, tak životy lidí.

Potenciálně nebezpečným vedlejším efektem může být, že se postupně vytratí lidští odborníci schopní jakžtakž spolehlivých diagnóz. To je princip, který zná skoro každý řidič: s rozšířením levných GPS značně upadají schopnosti orientovat se bez ní. Podobné stížnosti přicházejí ze světa letectví. Autopiloty řídí letadla po tak velké množství času, že mladší piloti nemají dostatek příležitostí k tomu, skutečně řídit letadlo sami. Americká FAA už kvůli tomuto problému upozornila aerolinky, že mají alespoň zvýšit počet hodin na trenažéru. Minimálně při jedné vážné nehodě (zřícení letu 214 Asiana Airlines při přistání v San Franciscu v červenci 2013) určilo vyšetřování jako příčinu nezkušenost pilotů, kteří sice v poslední minutě letu řídili přistání manuálně, ale kvůli příliš silnému návyku na asistenci od autopilota to jednoduše nezvládli.

Státy s totalitními sklony a rozsáhlými sledovacími systémy jistě budou rostoucí schopnosti AI v rozpoznávání obrazu využívat i k policejním a špionážním aktivitám. „Ztratit se v davu“ už je nejspíš dnes v Číně či Británii nemožné. Přidáme-li k tomu třeba schopnost odečítat slova ze rtů, nebude mít opozice mnoho šancí spolu vůbec skrytě komunikovat. A jsme-li u toho: rozpoznávání obrazu je jen jedna strana mince. Vytváření obrazu (a videa) podle zadaných instrukcí je věc druhá. Pro tento postup už se v angličtině vžilo slovo „deepfake“. Konsenzus je, že z hlediska technických schopností nejsme příliš daleko tomu, aby se taková videa dala vyrábět v reálném
čase. Produktem může být falešné porno s oblíbenou zpěvačkou nebo falešný záznam politika, který ze sebe chrlí proud sprosťáren na adresu svých voličů; ale důsledek bude ten, že lidé budou médiím věřit ještě méně než dosud.

Zatím lze deepfakes odlišit od reálných záznamů pomocí specializovaných nástrojů hledajících „chyby simulace“, ale toto je souboj, ve kterém časem autoři falešných videí vyhrají. Podobně jako výrobci syntetických diamantů, které je čím dál obtížnější rozlišit od těch přírodních.

Červené tlačítko, pal

Vojenské aplikace umělé inteligence jsou asi nejožehavějším tématem debaty, tím spíš, že převážně tajným. Nikde a nikdy nepostupuje vědecký vývoj tak rychle jako v situacích, kdy se vás jiná skupina chytrých lidí snaží zabít.

Nejsnáze lze automatizovat řízení lodí a letadel, protože vzduch a voda jsou proti rozmanitosti pevné země relativně jednoduchým prostředím. Automatičtí vojáci kráčející (či lezoucí, jedoucí, poskakující) po souši jsou však pro armádu také zajímaví a vývoj nespí. Vysílat do boje roboty je z hlediska generálních štábů velmi výhodné. Minimalizují se tím ztráty na živých vojácích, které mají vždy negativní dopad na veřejné mínění, a navíc lze náhradní roboty vyrobit kdykoli znova, na rozdíl od mladých mužů, kterých je zejména ve stárnoucích vyspělých státech světa nedostatek. Pro budoucí protivníky typu Islámského státu je to špatná zpráva, protože nemohou vést psychologickou válku skrze ukrutnosti spáchané na zajatcích. Ugrilují-li mudžáhedíni před kamerou robota, nemá to ani tisícinu toho efektu, jako když je to živý člověk.

Rozdělení států na ty, které jsou schopny vystavět robotickou armádu, a na ty, které toho schopny nejsou, může mít v budoucnosti stejný vojenský a mocenský dopad na uspořádání světa jako rozdělení států na jaderné velmoci a ty ostatní, nebo dříve v historii znalost palných zbraní proti oštěpům. Země, která bude plně automatizovanými vojenskými systémy disponovat, bude zákonitě pokoušena je využívat v situacích, ve kterých by životy svých vlastních vojáků neriskovala; a země, která se ocitne na opačné straně této nerovnosti, shledá, že bránit se takové invazi prostředky 20. století hraničí s nemožností.

V dílech Isaaca Asimova hrají ústřední roli tři zákony robotiky, z nichž ten první stanoví, že robot nesmí ublížit člověku nebo připustit, aby člověku bylo ublíženo. Na reálné planetě Zemi se takový zákon nemůže stát platnou součástí mezinárodního práva. První země, která by toto pravidlo tiše ignorovala, by nad dalšími získala takovou výhodu, že se jej nebude držet nikdo. Je to dobře, nebo špatně? Na to, abychom věc mohli posoudit, si budeme muset počkat na první války vedené bez lidí.