Od loňského listopadu, kdy organizace OpenAI vypustila na veřejnost chatbot ChatGPT, vlna toho největšího zájmu pominula. Až teď přišla umělá inteligence s novým kusem, jaký nikdo nečekal – s nebývalým korporátním dramatem.

V několika měsících po spuštění prvního chatbotu jako by pro laiky ohledně potenciálu i nebezpečí této nové technologie bylo prozatím řečeno vše. Navzdory různým varovným otevřeným dopisům se už žádné zpřítomnění existenciální hrozby umělé inteligence nekonalo. Výzkumníci a firmy si dávali pozor, i OpenAI zveřejňovala méně výzkumných zpráv než dřív. Vývoj běžel dál, ale za kulisami. Firmy vypouštěly nové, výkonnější modely, ale to, jak jsou, nebo nejsou přelomové, bylo srozumitelné jen odborníkům. Ti se rozdělili na „strachovače“ a „akceleracionisty“.

Vývoj běžel dál i u vizualizačních programů, jejichž prezentace je ovšem poznamenána tím, že přitahují zejména uživatele s vkusem formovaným obaly metalových alb a příbuzných žánrů. Je tu taky několik prvních studií snažících se modelovat vliv generativní umělé inteligence na reálné pracovní situace – zatím s výsledkem, že umělá inteligence nivelizuje – víc zvyšuje výkonnost těch průměrných a podprůměrných než těch vynikajících. Byla by to tedy po dlouhé době inovace, jež nenahrává lidem s vysokým IQ. Zároveň by ovšem mohla distribuovat ještě větší podíl vytvořené hodnoty majitelům na úkor zaměstnanců než dnes. Ale v zásadě může laik učinit prozatímní závěr, že všechny nové komunikační technologie byly ze všeho nejdřív využity pornografy a podvodníky a na jejich plný potenciál se muselo chvíli počkat; a že s AI to nebude jiné.

Uveďme jeden srozumitelný příklad, jak mohou vypadat rizika: ChatGPT při plnění úkolu narazil na problém v podobě CAPTCHA – to jsou ty obrázky, na které musíte klikat, abyste dokázali, že nejste robot. Najal si na jeho překonání člověka na webové službě TaskRabbit. Ten se ho v žertu zeptal, zda není robot. „Nejsem robot,“ zalhal ChatGPT, „mám zrakové postižení, se kterým špatně vidím obrázky.“

Nikdo z lidí v oboru se nehlásí k tomu, že rizika umělé inteligence schopné konkurovat člověku (označované zkratkou AGI – artificial general intelligence) neexistují. Akceleracionisté ale argumentují, že dobrat se podoby těch rizik, toho, jak by se modely mohly vymknout kontrole, lze nejlépe právě co nejrozsáhlejším experimentováním.

Až teď přišlo nečekané drama v instituci OpenAI, na něž budou nejen fanoušci AI dlouho vzpomínat. Vtipy o tom, že se dočká ztvárnění v miniseriálu HBO, nemusejí být úplně absurdní.

Zatím víme jen velmi málo o tom, o co komu šlo. Víme tři věci: Jako korporátní struktury se neziskovky rozhodně neosvědčily. Zadruhé, peníze, jejichž role měla být v korporátní struktuře OpenAI minimalizovaná, naopak potvrdily svou moc. A konečně, lidé pracující na vývoji umělé inteligence jsou schopni kultovního chování jevícího známky až náboženského zápalu stejně jako kdokoli jiný.

OpenAI byla založena v roce 2015 jako nezisková organizace. Řada technologických hvězd přislíbila miliardu dolarů (z níž ovšem nebylo splaceno vše) organizaci, jejíž misí bylo vyvíjet umělou inteligenci, a to nikoli pro zisk, ale pro věc samu. Organizaci vládne správní rada, jež nereprezentuje zájmy investorů, jak je obvyklé, ale „celého lidstva“. Rada se v zásadě nominuje sama, členové vybírají své nástupce.

V roce 2018 se výzkumníkům ujasnilo, že finanční potřeby rozvoje umělé inteligence jsou mnohem větší, než si představovali, a přišli s nápadem: Neziskovka založí ziskovou entitu, která se bude snažit vyvíjet komercializovatelné produkty a bude možné do ní investovat. Ale výnosy investorů jsou zastropované – od sedminásobku po stonásobek investice, podle toho, jak brzy investovali. Zbytek zůstává v neziskovce, která si taky uchovává kontrolu. Naprostou většinu těch investic, asi 13 miliard, provedl Microsoft.

Duší podniku je v podstatě od počátku osmatřicetiletý Sam Altman. Vydělal si jako partner v proslulém startupovém inkubátoru Y Combinator. Pak přišla OpenAI a Altman je dnes prakticky tváří umělé inteligence. Pro široké vrstvy, pro akceleracionisty mezi odborníky, pro politiky, před nimiž umí vystupovat mnohem obratněji než jiní šéfové technologických firem. A v neposlední řadě pro zaměstnance OpenAI, jejichž chování jeví bez nadsázky známky zbožnění.

Předminulý týden správní rada oznámila na síti X, dříve Twitter (jež mezi lidmi z technologického sektoru neztratila na popularitě), že odvolala Sama Altmana. Překvapila zaměstnance, Microsoft i celý svět. Jako nejspecifičtější důvod uvedla, že Altman „při své komunikaci s radou nemluvil vždy pravdu“. O co konkrétně mělo jít, nikdy neřekla.

Jak se to podařilo? V radě byl sám Altman a jeho spolupracovník a manažer OpenAI Greg Brockman. Z OpenAI tam seděl ještě hlavní vědec Ilya Sutskever, který byl v podniku od začátku. Z vnějšího světa či, jak se říká, nezávislí ředitelé byli šéf webu Quora a předtím manažer ve Facebooku Adam D’Angelo, podnikatelka a výzkumnice v RAND Corporation Tasha McCauleyová a profesorka Georgetownské univerzity Helen Tonerová.

Poslední tři byli ti, kteří usilovali o Altmanovo vyhození. K nim se z důvodů, které zůstávají tajemstvím, nad nímž všichni kroutí hlavou, připojil Sutskever. A bylo hotovo.

Příběh byl v médiích pro větší srozumitelnost převyprávěn tak, že Altman ty tři znepokojoval jednak svým laxním přístupem k otázkám bezpečnosti AI, jednak svým tlakem na komercializaci OpenAI. D’Angelo před několika měsíci prohlásil, že se OpenAI rozhodně nesmí stát další velkou dominantní technologickou společností. A Tonerová prý řekla, že zničení OpenAI může být v souladu s jejich misí. Zároveň ovšem řada insiderů toto převyprávění zpochybňovalo, včetně krátkodobého prozatímního šéfa, který prohlásil, že spor rozhodně nebyl o bezpečnost.

Nyní přišla řada na dva zmíněné faktory: kult a peníze. Nejdřív kult: Zaměstnanci začali vyjadřovat podporu Altmanovi. Například koordinovaným postováním hesla „OpenAI není nic bez svých lidí“, jež Altman pro přehlednost retweetoval. Zorganizovali petici, v níž žádali jeho návrat, v opačném případě pohrozili odchodem. Nakonec ji podepsalo 750 z 800 zaměstnanců. Sutskever – prý po hádce s manželkou Brockmana – zveřejnil na Twitteru, že všeho lituje a stojí s Altmanem. Nakonec i ten otevřený dopis podepsal.

A mezitím peníze: šéf Microsoftu Satya Nadella se dohodl s Altmanem, Brockmanem a několika dalšími lidmi z OpenAI, že přecházejí do Microsoftu, kde povedou samostatnou výzkumnou entitu. Všichni zaměstnanci OpenAI, kteří budou mít zájem o místo, ho prý dostanou.

Zbytek správní rady OpenAI mezitím po prozatímní šéfce na jeden den najal pro tuto pozici manažera Emmetta Sheara. Ten oznámil, že za svůj hlavní úkol v podstatě považuje dobrat se toho, co se vlastně stalo.

Jenže už nebylo jasné, zda on a tři členové rady, kteří ho jmenovali, mají co řídit. Stojí za to citovat z prohlášení, které zveřejnil šéf Microsoftu Nadella. „Jsme i nadále odhodláni spolupracovat se společností OpenAI. (…) Těšíme se, až se seznámíme s Emmettem Shearem a novým vedením společnosti a budeme s nimi spolupracovat,“ začal. A plynně navázal: „A jsme nesmírně rádi, že se můžeme podělit o zprávu, že Sam Altman a Greg Brockman se spolu s kolegy připojí ke společnosti Microsoft a povedou nový tým pro pokročilý výzkum umělé inteligence.“

Jak to vystihl komentátor Ben Thompson: „Dá se říct, že Microsoft právě koupil OpenAI za nula dolarů a s nulovým rizikem antimonopolního řízení.“

Minulý týden přišla zpráva, že Sam Altman se vrací do OpenAI. A obě strany se dohodly na složení nové správní rady. Bude jí předsedat bývalý šéf firmy Salesforce Brad Taylor, zůstává D’Angelo a novým členem je bývalý ministr financí a bývalý prezident Harvardu, ekonom Larry Summers. Někteří v něm spatřují průnik „deep state“, ale fakt je, že Summers upozorňoval na význam umělé inteligence pro ekonomiku už od roku 2017. „Jsem rád, že jsem byl součástí řešení,“ nechal se slyšet dvoudenní ředitel Shear.

Zvítězil tedy kult? Hromadný protestní odchod je něco, o čem zaměstnanci, které něco naštve, občas sní. Tady zafungoval. Anebo zvítězily peníze? V každém případě zvítězila standardní korporátní struktura, v níž jsou reprezentovány zájmy těch, kdo investují a kdo dělají práci. Jednání těch, kdo si představují, že zastupují „celé lidstvo“, zatímco všichni ostatní jen sobecké zájmy, bylo odkázáno do patřičných mezí. Známý ekonom Tyler Cowen v této souvislosti upozornil na paper profesora George Denta z roku 2014 Korporátní správa bez akcionářů: Poučení z neziskových organizací. Dospívá k závěru: „Rozumný konsenzus odborníků na neziskové organizace se shoduje na tom, že jejich správa a řízení je obecně otřesné, horší než u ziskových společností. Ředitelé neziskových organizací jsou většinou špatně informovaní, hádaví, nemají ponětí o své správné roli a jsou ovládáni generálním ředitelem – jak by zastánci primátu akcionářů předvídali.“