Umělá inteligence: Zachrání nás, nebo nás všechny jednou zabije? Dokument, po kterém se vám nebude dobře spát
Nemít děti a smířeně odpočítávat konec světa nebo skákat radostí, že žiju ve (vědecko)fantastické době, milovat se a množit? V USA šel angažovaný Dokument o AI aneb Jak jsem se stal apokaloptimistou do kin na jaře, u nás se promítal jen na pár festivalech. Natočil ho kanadský režisér Daniel Roher, který se proslavil oskarovým dokumentem Navalnyj (2022), a produkovali ho režiséři oskarové sci-fi Všechno, všude, najednou (2022) Daniel Kwan a Daniel Scheinert. Stočtyřminutové dílko, které je nyní dostupné na Netflixu, je rafinovaně emotivním způsobem brutálně upřímné. Skládá se z rozhovorů s desítkami oborových odborníků, ale zároveň z něj sálá lidské teplo. Roher se ženou čeká miminko, od kterého obsedantně „odpíchává“ své otázky. Má se bát?
„Na koleni“ estetikou a živou atmosféru „work-in-progress“ Dokument o AI připomíná kultovní snímek Super Size Me (2004). Stojí za to. Divákovi se u něj také znovu vybaví satirický (non)survival s Leonardem DiCapriem K zemi hleď (2021), který metaforizuje lhostejnost veřejnosti ke klimatické změně. Na Zem letí kometa a je jisté, že ji zasáhne, ale elity se místo záchranné akce jen drží koryta, případně se na tom ještě snaží vydělat. Podobně jako klimatická změna je i umělá inteligence něčím, co se v žurnalistice nazývá hyperobjektem. Pro běžného smrtelníka jde o neuchopitelný a nepochopitelný jev.
Dokument o AI je nejpřínosnější asi tím, že v něm uvidíte maso a kosti lidí, kteří ve sféře vývoje umělé inteligence něco znamenají, včetně těch nejvyšších špiček. Jejich fyzická přítomnost je dobrým antipodem vší té matematiky a abstrakce, ale vyloženě neuklidní.
AI jako černá díra
Na začátku matka vypráví životopis svého syna. Na obrazovce se rychle míhají fotky a videa, využita je také animace. Ze syna se vyklube režisér, který se svou ženou čeká dítě, o které se během rozhovorů začne šíleně bát. A my s ním. Tedy ne o jeho dítě, ale o své dítě, případně zvíře. Některé záběry jsou tak krátké, že připomínají takové ty podprahové, u kterých si ani nevšimnete, že nějaké byly, ale ovlivňují vás podvědomě, vzpomínáte? Takové ty, jak jsou zakázané. Jednu dobu to bylo velké téma, ale úplně zmizelo.
Třeba to tak bude i s tou umělou obludou. Pokud v sobě chováte takové naděje, u Dokumentu o AI jich pozbudete. Táhne se jím hororové napětí, jako by se mezi vámi a televizí vznášela jedna z těch černých děr velikosti hlavičky špendlíku, které nedávno objevili, a vsakovala vás. Zdá se, že v blízké budoucnosti se bude všechno točit kolem AI. Jen se neví, jestli to bude slunce nebo černá díra. Nebo červí díra. Tak se zatím podívejte, co se točí o ní.
Pesimisté: pozitiva AI jsou zároveň negativy
Islámský stát, migrační krize, pandemie, sociální sítě, psychické nemoci, ruská invaze, sucho. Za posledních deset let toho bylo dost, ale co když to „nejlepší“ teprve přijde? Roher nejdřív zpovídá pesimisty, kteří věří, že AI nás do deseti let vyhubí. To je jejich optimistický odhad. Jeden říká, že až vyjde tento dokument, AI už bude úplně jinde. Její vývoj je tryskový. Pracuje na něm dvacet tisíc lidí, ale její etikou se zabývá jen dvě stě.
Umělá inteligence je jednoduchý princip, který tvoří tím, že odkoukává vzorce. Nejen ty slovní, ale i pohybové. Jako hlavní riziko AI je jmenován závod o ni, který znemožňuje její regulaci. A to, že všechna její pozitiva jsou vlastně zároveň i negativy. Vynalezne lék, ale i vir. Naučí, ale i zmanipuluje. Hnacím motorem jejího vývoje je prostá lidská zvědavost. Nehledě na astronomické investice, jejichž zhodnocení investoři trpělivě očekávají.
Všechny ty nízké pudy jako soutěživost a hamižnost se trochu rozcházejí s požadavkem, že k bezpečnému zacházení s AI je potřeba moudrost. Někdo říká, že nejmoudřejší nakonec stejně bude AI. Všichni se shodnou, že je to něco opravdu velkého.
Radikální rodinná intimita
Divák přímo fyzicky cítí, že AI je určitě něco většího, než vyplývá z běžného zpravodajství, a hroutí se spolu režisérem, který volá rodičům. Ti mu kladou na srdce, aby se netrápil tím, co nemůže ovlivnit. Jeho otec ví, o čem mluví, protože trpí rakovinou, která se sice dá kompenzovat, ale jen hrozně drahými léky. Říká Danielovi, že bude skvělý otec. Daniel odpovídá, že aby ne, když je tak skvělý otec on, jeho otec.
Radikální rodinná intimita kompenzuje neuchopitelnost AI. Alespoň té, která na nás teprve čeká. Ta současná je v pohodě, hrozivá bude až AGI – Artificial General Intelligence, tedy obecná umělá inteligence. AGI se v určitém momentu zvaném exploze inteligence začne vyvíjet sama. Pak nám pomáhej Bůh. Důrazně před tím přichází varovat i historik a spisovatel u nás oblíbených knih Yuval Noah Harari. Spolu s ním bije na poplach spoluzakladatel OpenAI Ilya Sutskever. Nejspíš ví, o čem mluví, když přiznává, že o fungování umělé inteligence skoro nic nevíme.
Optimisté: AI zabrání katastrofě
Z deprese Rohera vytáhnou optimisté. Zase vyjde sluníčko a díky AI budou lítat pečení holubi do huby. Katastrofa není AI mít, ale byla by ji nemít, protože nám se vším pomůže. Třeba s globálním oteplováním. Akorát nesmíme udělat chybu při zadávání promptu: „Vyřeš globální oteplování, ale její příčinu nech žít.“ Zatím tedy oteplování svou spotřebou energie a vody AI „boostuje“.
Velkým rizikem je zmíněný závod „ve zbrojení“. Putin prý řekl, že, kdo nejdřív vyrobí AGI, ovládne lidstvo. A mimochodem, devadesát pět procent čipů, které počítače nutně potřebují k životu, vyrábí Taiwan. AI potřebuje hodně počítačů. V tom je docela přízemní. Dále optimisté říkají, že zavádění každé novoty bylo náročné. Průmyslovou revoluci napřed také neměli rádi. Auta také ne. A jak nám pomohla! Nebo ne?
Roušky a roboti
Těžko říct, prostě nemáme kapacitu, kterou má AI. Jedeme na autopilota. Vždyť je rozkošná, jak tam dřepí a trpělivě odpovídá na naše stupidní otázky a nikdy neřekne: „Tak trochu přemýšlej.“ Hladí nás po srsti. Proč by nás zabíjela? A jak by nás vůbec zabíjela?
Zmiňuje se hlavně nějaký ten virus, takže si radši nakupte roušky do zásoby. O robotech se v dokumentu skoro vůbec nemluví, přitom u těch si člověk zrovna dokáže představit, že by ho mohli zabít. A zároveň si chladit ta datová centra. Přes ta by teoreticky mělo jít AI vypnout, ne? Nebudou si je státy ve válečném stavu navzájem bombardovat? Nebo to bude „no-go“, něco jako atomové elektrárny? Odpovědi v dokumentu nezazní.
Dítě? Mazeltov
Od optimismu jsme sklouzli zase k jeho temnějšímu bratrovi a také u režiséra je to ode zdi ke zdi. Na velké finále si pozve ředitele hlavních amerických AI firem, které za to všechno můžou. Oni se kupodivu dostaví a řeknou své slovo do pranice. Tedy až na Muska, který slíbil přijít, ale nakonec se omluvil, že mu do toho něco vlezlo, a Zuckerberga, který se omluvil rovnou.
Vlasatý Roher připomíná mladého Setha Rogena, když se ptá ředitele OpenAI Sama Altmana, jestli je v pohodě mít dneska dítě, protože má jedno na cestě a práce na dokumentu ho vyděsila k smrti. Altman řekne, že dítě čeká také. To Rohera rozesměje. „Mazeltov,“ dodá Altman přátelsky. „Mazeltov,“ odpoví režisér. „Tak to je super. To jste mě uklidnil.“ Jenže na otázku, jestli bude AI bezpečná, mu Altman odpoví, že netuší.
Takoví normální šéfíci
Altman je hodně zvláštní. Kapíruje, ale pohled upírá do neznáma. Spokojený podpantoflák, tichý jedničkář. Když Roher rozhovor ukončí, Altmanův posmutnělý výraz se rozsvítí úsměvem. Vstane a na obou dlaních vztyčí palce, jako by zrovna s odřenýma ušima prošel u zkoušky na výšce. Šéf Anthropicu Dario Amodei je na druhou stranu bohorovný byznysmen, který se za nic nestydí. Je ale jasné, že uvnitř může být všechno naopak. Šéf Google DeepMind Shane Legg je takový ochotný prodavač elektrokol. Takoví normální šéfíci na to, co je v sázce.
„Je tu hodně věcí, o kterých nevíme, že je neznáme,“ brání se vývojáři. Moc neuklidní, že tahle fráze zlidověla ústy ministra obrany USA Donalda Rumsfelda, který ji vyřkl před nechvalně proslulou americkou invazí do Iráku. Je zvláštní vidět tak inteligentní lidi říkat, že vlastně nic neví. Ještě zvláštnější je vidět to říkat lidi mocné. Každý má jen nějaké představy. Třeba že už za pár let bude možné propojit mozek s cloudem. Vševědoucí zombie? Nedělá právě paměť člověka člověkem? A doma budete mít strojového doktora, který vás kdykoli na cokoli vyšetří. Hypochondři, slavte!
Caroline na konec
U hlav technologických gigantů se objevují jejich ručně psaná třepotající se jména a profese. Hraná ledabylost paradoxně ukazuje na roky práce, které Daniel Roher na dokumentu strávil spolu se svou manželkou, režisérkou Caroline Lindy. Náročnost toho, co vypadá tak samovolně, Caroline prozrazuje v prostřihu do Danielova zamýšleného kýčovitého závěru, ve kterém chce využít estetiku miminek.
Miminka jsou v pohodě, podívejte, jak se smějou! Caroline má kruhy pod očima, vypadá to na těžkou poporodní depresi. „Kvůli takové unylé pointě jsme všechny ty lidi přece nezpovídali!“ sprdne manžela. Ten tedy závěr změní a využije v něm ještě kýčovitější estetiku mezilidské spolupráce. A to už je vážně konec. Jestli nás k ní nedokope AI, tak už nic.
