Někdy v roce 2016 seděli v jednom sanfranciském domě tři lidé a hádali se o to, jestli mají říct světu, co se chystá. Greg Brockman, jeden ze zakladatelů OpenAI, tvrdil, že třem stům milionům Američanů "dluží" pravdu. Dario Amodei, tehdy výzkumník z Googlu, namítl, že lepší postup je informovat nejdřív vládu. Jeho švagr Holden Karnofsky přikyvoval.

Byla to zdánlivě akademická debata. Jenže z toho domu na Delano Avenue nakonec vzešly dvě firmy, které dnes mají dohromady hodnotu přes 600 miliard dolarů a ovlivňují, v jaké podobě dnes svět "dostává" technologii, která možná mění všechno. A ten spor u kuchyňského stolu se za deset let proměnil v něco, co připomíná shakespearovské rodinné drama – i s křikem v zasedačkách, s obviněními ze zrady či směšném vzájemném ignorování se na fotce s indickým premiérem.

Wall Street Journal právě zveřejnil nejpodrobnější rekonstrukci vztahu mezi vedením OpenAI a Anthropic. A ukazuje se, že za velkými řečmi o bezpečnosti AI a odpovědném vývoji stojí – svým způsobem pochopitelně – vlastně docela malé lidské příběhy. O tom, kdo koho nepozval na schůzku s Obamou. O tom, kdo si přivlastnil zásluhy za GPT. O tom, kdo komu slíbil tohle a nedodržel tamto.

Dario Amodei přišel do OpenAI v roce 2016 a rychle se stal klíčovou postavou. Společně se svým týmem stál za vývojem modelů GPT-2 a GPT-3, tedy za projekty, které OpenAI proměnily z výzkumné laboratoře na globální fenomén. Jenže podle svědectví kolegů měl pocit, že ho Sam Altman systematicky odsouvá na vedlejší kolej. Když z podcastu přišlo pozvání mluvit o chartě AI, šel Brockman, byť na ní pracoval méně než Amodei. A Altman s Brockmanem letěli za Obamou, a Dariovi řekli, ať jim zkontroluje slajdy.

Malichernosti, minimálně na první pohled. Ale jedna se přidává k druhé. A v prostředí, kde se mluví o miliardách, světové dominanci či možná i konci civilizace (minimálně v podobě, jak ji známe), mají i malé ústrky a mneshody tendenci narůstat do ohromných, skoro až existenciálních rozměrů.

Ta důležitá otázka zní: nakolik osobní animozity mezi čtyřmi či pěti lidmi v San Franciscu formovaly technologii, která se dnes dotýká miliard lidí?

Odpověď článku ve Wall Street Journal zní: znepokojivě hodně.

Podívejte se na nedávné události. Anthropic se dostal do sporu s Pentagonem kvůli podmínkám nasazení AI ve vojenství. Altman okamžitě ohlásil, že OpenAI získala zakázku na utajovanou práci pro ministerstvo obrany. Amodei reagoval interním textem pro zaměstnance, kde OpenAI nazval „lživou" a kde napsal, že Altmanovo chování odpovídá vzorci, který pozoruje roky. V soukromé komunikaci s kolegy přirovnal právní bitvu mezi Altmanem a Muskem k boji Hitlera se Stalinem. Brockmanův dar 25 milionů dolarů protumpovskému výboru označil za „zlo" a konkurenční AI firmy přirovnal k tabákovým společnostem, které vědomě prodávají škodlivý produkt.

Tolik korporátní drby. Ale je tam i hlubší vrstva.

Amodei a jeho sestra Daniela odešli z OpenAI koncem roku 2020 se skupinou dalších zaměstnanců. Důvody uváděné veřejně – obavy o bezpečnost AI – byly nepochybně reálné. Amodei skutečně zažil v OpenAI momenty, které ho vyděsily: Brockman jednou navrhl prodat umělou obecnou inteligenci vládám členů Rady bezpečnosti OSN, včetně Ruska a Číny. Dario to považoval za blízké vlastizradě.

Jenže vedle velkých principiálních otázek tam byly i roky nahromaděných frustrací. Altman obvinil Daria a Danielu, že proti němu organizují negativní zpětnou vazbu pro správní radu. Když to popřeli a přivolali kolegyni, na kterou se Altman odvolával, ta řekla, že netuší, o čem mluví. Altman pak popřel, že to řekl. Vyvolalo to prý hlasitou, pro mnohé znepokojující hádku.

Plus ještě korporátní hrátky. V OpenAI na sebe v rámci zpětné vazby psali zaměstnanci sami na sebe hodnocení, a Brockman v tom o Daniele napsal, že zneužívá svou moc. Altman si hodnocení předem přečetl a prohlásil prý za „tvrdé, ale fér". Daniela napsala odpověď bod po bodu. Hádka o vzájemná hodnocení se tak vyhrotila, že Brockman nakonec nabídl, že to své stáhne.

Mysleli jste si, že konflikty mezi OPenAI a Anthropicem jsou bitvou o bezpečnostní standardy AI? Částečně určitě ano. Ale možná z větší části je to také příběh o lidech, kteří spolu nedokázali fungovat.

A přesto – nebo možná právě proto – z toho vzešly dvě dominantní firmy, které se teď předhánějí v tom, kdo bude první na burze. Anthropic se stylizuje do role „zdravé alternativy", což nedávno demonstroval reklamou během Super Bowlu, která útočila na OpenAI, aniž by ji jmenovala. OpenAI zase sbírá vojenské kontrakty a buduje obraz firmy, která světu dává nástroje, ne přednášky.

Je v tom paradox. Dario Amodei, který v roce 2016 nechtěl veřejnosti říkat, co se v AI děje, se stal jedním z nejhlasitějších hlasů varujících před nezodpovědnými výzkumníky. Sam Altman, jehož OpenAI začala jako neziskovka zaměřená na bezpečnost, dnes prodává AI Pentagonu. Oba se posunuli. A když se jich ptáte, oba tvrdí, že ten druhý se posunul k horšímu.

Před svým odchodem z OpenAI napsal Amodei dlouhé memo, ve kterém rozlišil dva typy AI firem: tržní a veřejně prospěšné. Ideální poměr? Sedmdesát pět procent veřejný prospěch, dvacet pět procent trh. Dnes obě firmy chystají IPO a závodí o to, kdo první nabídne akcie investorům.