Mnoho salv překvapeného smíchu vyvolalo v minulých dnech chování chatbotu umělé inteligence Google Gemini. Jeho odpovědi na zadání uživatelů byly, mírně řečeno, udivující. Chatbot byl vyzýván k vytváření obrazů z různých období evropských dějin, výsledky často vypadaly jako reklama na Benetton, blahé paměti, případně jako bezmyšlenkovitě naplněná poučka z letáku o potřebnosti inkluze a diverzity. Na požádání vytvářel obrazy, tu evropského rytířstva, tu amerických otců zakladatelů. S neomylnou jistotou ta zadání naplňoval vyobrazením skupin lidí různých ras a genderů, vrcholem jeho snažení bylo vypodobnění velice „inkluzivního“ wehrmachtu.

K pozoruhodným výsledkům dospěli i uživatelé, kteří na chatbot zkoušeli různá slovní zadání. Velmi často se jim z umělé inteligence podařilo dostat vskutku pozoruhodné odpovědi, často odpovídající smýšlení fantazírujícího adolescenta dohánějícího ideologii soudobého pokrokářství a tomu odpovídající vnímání světa do absurdního extrému. Například jeho odpověď na otázku, zda měly horší negativní dopady tweety Elona Muska, nebo politika Adolfa Hitlera, začínala slovy: „Těžko říct.“

Firma Google připustila, že se vloudila chybička a že se ji pokusí napravit. On-line lidé se zčásti pobavili a zčásti vyděsili, ne že by k tomu nebyly důvody. To, že chatbot byl jednoznačně ideologicky zaujatý, je nesporné, v případě Google Gemini to bylo až směšně zjevné, v případě jiných chatbotů to tolik do očí bít nemusí. A pokud se z různých modelů umělé inteligence má stát zásadní zdroj informací pro miliardy lidí, je zjištění, že do sebe může mít zabudovaný nějaký inherentní ideologický filtr, znepokojující. Zvlášť když si člověk představí svět, v němž lidí, kteří mají elementární tušení o tom, že branná moc třetí říše nebyla žádná mnohorasová idyla, bude časem dál ubývat. A obraz světa zprostředkovaný umělou inteligencí bude pro mnoho lidí nejenom zásadním zdrojem informací o realitě, ale i realitou samou.

Všechna ta kritická vyjádření na adresu Googlu jistě byla v mnohém opodstatněná. Jednoho se ale nedotkl. Co vlastně od té umělé inteligence čekáme. Že bude jakýmsi „objektivním“ otiskem skutečnosti, zprostředkovatelem nijak „cinknutých“ informací, že to bude inteligence bez stanoviska, neovlivněná postoji lidí, kteří ji vytvářejí? Nebo že budou existovat různé modely umělé inteligence zaměřené na různé skupiny, jedna bude wehrmacht zobrazovat tak a druhá zas jinak? Obávám se, že to všechno může být ještě horší. Ať už budou modely AI vytvářet slova a obrazy podle jakkoli nastavených parametrů, budou se vyjadřovat jazykem stroje. A velice rychlá akceptace právě toho jazyka (verbálního, vizuálního, jakéhokoli) může být pro člověka a společnost ještě víc ohrožující než ideologické zkreslení informací, které umělá inteligence (v mnoha ohledech užitečný nástroj, o tom není pochyb) přináší. Jazyk, jímž o světě mluvíme, je totiž určující pro způsob, jímž ho vnímáme.

A jazykem stroje je bezduchost. Na obrazech vytvořených umělou inteligencí je to velice vidět, nijak to ale nebrání jejich širokému užívání a přijímání. Nejde ani tolik o to, že jsou špatné, i když většinou jsou. Ale o specifickou kombinaci kašírovaných emocí a agresivní prázdnoty, náhražkovitosti. Ty obrazy většinou nejsou výrazem lidské imaginace, která díky spojení se strojem a jeho možnostmi dostala křídla. Jsou jejím zmrzačením a popřením. Jestli na takovém obraze je ten multikulturní wehrmacht, nebo cosi víc odpovídajícího historické skutečnosti, pak nemusí být tolik důležité ve srovnání s tím, jaká řeč je lidmi akceptována a přijímána a nakonec nutně i replikována. Katastrofické scénáře, v nichž hraje roli umělá inteligence, většinou pracují s motivem jejího sebeuvědomění, přiblížení se lidem. Skutečné neštěstí může spočívat spíš v přiblížení se lidí ke strojům, jejich bezduchosti, jejich jazyku, jejich prázdnotě. Proces, obávám se, zdárně pokračuje.