Hospodářské noviny přinesly rozhovor s umělou inteligencí simulující Václava Havla. Nic proti tomu, jako „content“ je to bezvadný nápad, zajímavost, kterou si lidé rádi přečtou a zároveň se něco dozvědí o tom, co se děje na vědecké frontě. A autor textu připomíná: Berte rozhovor s rezervou.

I s rezervou lze konstatovat, že nejvýraznějším rysem rozhovoru je, jak moc dokázal umělý Havel znít jako Havel skutečný, aniž by řekl cokoliv zajímavého. V jednu chvíli varuje před Evropskou unií docela euroskeptickým jazykem, ale to není proto, že by umělá inteligence dokázala logicky domyslet nějakou „pravdu“, kterou si Havel netroufl říct. Model prostě nepozná, že si Havel protiřečí, vysvětluje výzkumník Jan Tyl.

Zapomeňte na poezii, na to, že umělá inteligence nikdy neocení, jak krásně voní rozkvetlá louka a podobně (pokročilé systémy GPT-2 a GPT-3 mimochodem píšou poezii). Ty problémy jsou mnohem základnější. „Obrovská nevýhoda sítě je zatím v tom, že si nepamatuje, na co jsem se jí ptal před chvilkou. V tuhle chvíli je to naprostý alzheimer. Když jí položím otázku, to, co odpoví, nemá vliv na to, jak odpoví na otázku další,“ připouští Jan Tyl, a v současné prý době proto vymýšlí, „jak umělé inteligenci pomoci k získání krátkodobé, střednědobé a dlouhodobé paměti“. Ale problém přece není v tom, že AI model Václava Havla je trénován na korpusu jeho díla a projevů a že tento korpus a obsah našeho aktuálního rozhovoru jsou od sebe odděleny, místo aby se dynamicky ovlivňovaly.

Vždyť přece když s někým mluvíte, tak si nejen pamatujete, na co se vás ptal před chvilkou. Vždyť s ním dokonce právě kvůli tomu mluvíte – abyste se dozvěděl, co na vaši otázku odpoví. A dokonce ta odpověď může změnit vaše uvažování. Dokonce možná změní i vás. Havel mnohé lidi změnil.

Další věc. Václav Havel býval občas vtipný. Umělý rozhovor s Václavem Havlem je vtipný leda bezděčně, tehdy, když o tom neví. Na otázku, zda to trochu nepřeháněl s milenkami, Havel robot odpovídá: „Ne, nic jsem nepřeháněl. Pokud by byly špatné, tak proč bych je měl?“ Jedna z věcí, kterou umělá inteligence neumí, je vtip. To je docela důležité, protože vtip stojí na lidské schopnosti vnímat více kontextů najednou, být mentálně na více místech zároveň a uvědomovat si ten paradox. Není divu, že umělá inteligence tohle neumí. Je s podivem, že to fanouškům AI tak málo vadí. A vzbuzuje to obavy z toho, že lidé pracující v tomto oboru možná nejsou tak docela stejní lidé jako vy nebo já.

Když v rozhovoru výzkumník Tyl mluví o tom, zda je AI schopna psát literární díla různých autorů, říká k Milanu Kunderovi: „Zatím je to ale tak, že čím je dílo delší, tím je to složitější. Takže nový Kunderův román asi ne, ale teoreticky by mohly vyjít třeba Směšné lásky II. Nejdříve by umělá inteligence vygenerovala náměty a pak by se je snažila v Kunderově stylu odvyprávět.“ Pro Kunderu ovšem nebylo to těžké a důležité naučit se pokročit od krátkých textů k dlouhým. Těžké bylo změnit se z budovatelského komunistického básníka padesátých let v toho ironika, jakého svět zná a obdivuje (tipoval bych, že jeho budovatelské básně do korpusu výzkumníci nezařadili).

Jeden kalifornský investor opojený možnostmi umělé inteligence nedávno fantazírovat na Twitteru: „Programatický protagonista: Film, jehož jste vy hrdinou, a scénář je automaticky generován z obsahu, který se vám líbil.“ Zde je nové to technologické ozvláštnění, že místo Toma Cruise budete v tom filmu vy, a pokud si myslíte, že tak ten film bude vypadat líp, náleží vám gratulace. Ale ten zbytek se nebezpečně blíží vysvětlení, proč jsou současné filmy tak blbé.

Autor modelu Havla Jan Tyl zmiňuje kalifornského studenta, který GPT-3 nechal psát blog o zvyšování pracovní produktivity. Lidé „robotovi“ zpravidla příspěvky lajkovali a děkovali mu za cenné rady. To není ani tak svědectví pokroku umělé inteligence, jako svědectví o úrovni diskurzu o pracovní produktivitě. U mnoha rozhovorů, které čítáme nebo vídáme v médiích, si ovšem nepotřebujeme pamatovat, co bylo řečeno před chvilkou, na to, aby nás změnily. Stačí nám, že naplňují jakési stylistické parametry. To je ucházející přednáška pro Forum 2000, toto je standardní vystoupení v Davosu v éře před velkou finanční krizí, toto je standardní text o boji s ruskými dezinformacemi, řekneme si. Nemáme pocit, že bychom za svůj účastnický poplatek dostali nekvalitní zboží. Příště toho člověka můžou pozvat zas.

Ovšem až na jeden drobný defekt: nedozvěděli jsme se nic, co bychom už nevěděli. Právě to většina lidí většinu času chce.

Přitom to, co bychom byli potřebovali, je, aby v Davosu někdo před velkou finanční krizí řekl věci, které posluchači nevěděli a nechtěli vědět. Aby byl skutečně inteligentní, nejen jako umělá inteligence.

To ovšem, mám pocit, není to, co by výzkumníci umělé inteligence sledovali. Těm jde o to identifikovat činnosti, které lze nahradit strojem. Tato ambice Silicon Valley už se setkává u širší veřejnosti s podezíravou reakcí, že prostě chtějí připravit lidi o pracovní místa.

Kalifornští mágové namítají, že to není pravda, a zpravidla uvedou nějaký příklad, jak jejich vynálezy umožní pokrok v medicíně. To vždycky zabírá, lidé se bojí nemocí. Zabrušování do oblasti literatury, filozofie a umění je naopak tou nejhorší strategií. Potvrzuje podezření, že umělá inteligence by jen posílila ty nejhorší tendence současného světa. Jestliže technologický pokrok pracuje na úkolech jako nahradit řidiče auta nebo prodavače v McDonald’s, tak to může být užitečné, byť to může způsobit nějaké problémy. Jestliže bude produkovat schopnosti jako pronést takřka normální, takřka lidský rozhovor v médiích či projev na konferenci, pak jen posílí přesně ty problémy, kterými společnost trpí.