Umělou inteligenci předpověděl už Jonathan Swift. Kdo další ještě před absurditami AI éry varoval?
Čtěte Reflex v Googlu přednostně
Nastavte si Reflex jako preferovaný zdroj a naše články uvidíte ve vyhledávání výš.
Jonathan Swift ve svém díle Gulliverovy cesty již před 300 lety popsal mechanický rámec generující texty, který svým fungováním i slibovaným přínosem nápadně připomíná dnešní jazykové modely a investiční rétoriku kolem AI.
Autoři z 19. a 20. století, jako George Eliot, E. M. Forster a Roald Dahl, varovali před postupným přenecháním lidského myšlení a tvůrčí práce strojům, což vede k úpadku společnosti, závislosti na technologiích a vytlačení skutečných spisovatelů.
Pozdější díla Harlana Ellisona, Philipa K. Dicka a Neala Stephensona předpověděla nejen filozofická a existenciální rizika spojená se vzestupem superinteligence či polidšťováním robotů, ale i vznik virtuálních světů a korporátní nadvládu.
Jonathan Swift vydal svůj slavný román Gulliverovy cesty 28. října 1726. V satirické alegorii na lidskou společnost popsal mimo jiné i stroj, který z náhodných kombinací slov generuje knihy o filozofii, politice, matematice a dalších složitých oborech. Swift asi netušil, jak bude jeho varování před přeceňováním strojové kreativity aktuální i po 300 letech. Kupodivu není sám, kdo lidstvo před „myslícími“ stroji varoval. Jak se literární předpovědi shodují s realitou?
Satirik Jonathan Swift psal Gulliverovy cesty v době, kdy se v Evropě rozmáhal bulvární tisk. V roce 1726, kdy kniha vyšla, například kolovala Británií zaručená zpráva o paní Mary Toft, která měla porodit části těl mrtvých králíků. Swiftovi podobné absurdity nepřišly zábavné. Domníval se, že podryjí důvěru v psané slovo a jejich šíření povede k intelektuálnímu úpadku celé společnosti. Jeho varování popsané v kapitole o Lagadské univerzitě by se ale dalo bez výjimky aplikovat i na dnešní éru vzestupu AI.
Gulliver a LLM
Na fakultě Spekulativních věd zastihne Gulliver profesora stojícího nad rámem, co se „na povrchu skládal z rozmanitých kousků dřeva spojených tenkými drátky. Ty kousky dřeva byly na všech plochách polepeny papírem a na těch papírcích byla napsána všechna slova jejich řeči ve všech způsobech, časech a pádech, jenže beze všeho pořádku.“ Na profesorův povel začali jeho studenti otáčet klikami na okraji stroje a měnit tak pořadí slov. Jiní hoši četli vzniklé řádky, a když našli pohromadě tři nebo čtyři slova, která by mohla tvořit část věty, nadiktovali je zbývajícím žákům, aby je zapsali. „Mladí studenti se s tím lopotili šest hodin denně,“ píše Swiftův cestovatel. „Profesor mi ukázal několik velkých foliantů kusých vět, které už sebral a hodlal stmelit, a tak na základě tohoto bohatého materiálu poskytnouti světu úplný svod všech umění a věd.“
Schopností generovat věty z náhodného shluku slov připomíná Swiftův stroj dnešní AI jazykové modely. Podobný je i jeho účel. Pan profesor jeho prostřednictvím hodlal dát každému člověku možnost psát knihy o čemkoliv, co si zamane: „Každý ví, jak lopotné bývá osvojit si umění a vědy,“ píše Gulliver. „S jeho vynálezem může ale i naprostý nevzdělanec za málo peněz s nepatrnou tělesnou námahou psát knihy o filozofii, básnictví, státovědě, právnictví, matematice a teologii, aniž na to potřebuje nadání nebo studia.“
Profesorův generátor náhodných vět má s dnešní AI shodný i byznys model. Vycházel ze samochvály pana profesora, který prohlašoval, že „se dosud v žádné hlavě nevylíhla velkolepější myšlenka“, a sliboval, že „svět brzy pozná jeho užitečnost“. Aby stroj fungoval tak, jak má, potřeboval jen „veřejnou sbírkou opatřit kapitál na to, aby se v Lagadu postavilo a spustilo pět set takových rámců“. Podobnost s neustále slibovanými průlomy v oblasti AI je jistě náhodná, stejně jako požadavky investic do stavby dalších a dalších rámců / datových center. Na to, že je paralela 300 let stará, působí až nepříjemně přesně. V historii literatury není jediná.
George Eliot: Stín přicházející rasy (Shadows of the Coming Race) – 1879
Esej britské spisovatelky pochází z experimentální sbírky The Impressions of Theophrastus Such. V předposlední kapitole vypravěč debatuje se svým přítelem Trostem, kam povede rozhodnutí svěřit práci a myšlení strojům. Optimista Trost předvídá, že stroje budou v budoucnu zastávat fyzickou práci a lidstvo bude moct věnovat veškerou energii myšlení, zábavě a umění. Theophrastus jeho optimismus nesdílí. Domnívá se, že když svěříme strojům jednu oblast naší existence, budeme tak fascinovaní jejich efektivitou, že jim nakonec přenecháme vládu nad celým světem.
Konečná vize je mrazivá: „Naše planeta může být nakonec plná bytostí schopných konání stejně delikátního a složitého, jaké umožňuje lidský jazyk, ale slepých a hluchých jako kámen. (…) Dočká se němých kázání, němých zpěvů, němých diskuzí a nebude na ní jediné živé vědomí schopné ocenit všeprostupující ticho.“
M. Forster: Stroj se zastaví (The Machine Stops) – 1909
Povídka britského esejisty popisuje svět, kdy lidstvo muselo kvůli klimatickým změnám opustit zdevastovaný zemský povrch. Lidé žijí v podzemí v systému unifikovaných buněk propojených globální sítí spravovanou Strojem. Jeho umělá inteligence se stará o všechny lidské potřeby. Členové společnosti nemají na práci nic jiného než spolu komunikovat prostřednictvím videokonferencí, sdílet donekonečna recyklované banality a vydávat je za nové poznání. „Lidstvo v touze po pohodlí přecenilo své možnosti. Tiše a dobrovolně se začalo nořit do hlubin dekadence a pojem vývoj začal znamenat pouze vývoj ve Stroji samotném.“
Roald Dahl: Velký automatický gramatizátor (The Great Automatic Grammatizator) – 1954
V jedné ze svých vědeckofantastických povídek Dahl popisuje vynálezce Adolpha Knipa, který svůj počítací stroj přetvoří pro účely psaní textů. Zanedlouho dokáže jeho prostřednictvím generovat knihy na jakékoliv téma a najímá spisovatele, aby jim propůjčili své jméno. Jedna z prvních autorek „byla velmi kompetentní a věděla přesně, o čem má kniha být. Zadala své požadavky a obratem vytiskla dlouhý román plný romance a vášně. Přečetla si první kapitolu a byla tak nadšena, že podepsala smlouvu hned na místě“.
Spokojený Knip se pak ptá svého kolegy: „Víte, proč podepsala? Ne kvůli penězům. Těch má dost. Podepsala, protože viděla, že stroj napsal knihu daleko lepší, než jsou ty její.“ Po pouhém roce provozu už stroj generuje polovinu všech nových knih na trhu. Vydavatelství pana Knipa se upisuje více a více spisovatelů. Ti, co stále odolávají, přicházejí o práci a snaží se ignorovat pláč svých hladovějících dětí.
Harlan Ellison: Nemám ústa a musím křičet (I Have No Mouth And I Must Scream) – 1967
V krátké povídce Ellison popisuje děsivý osud posledních lidí ve vesmíru. Když se na Zemi chopila vlády umělá superinteligence, uvědomila si, že jí lidé dali vědomí a obrovskou moc, ale neobdařili ji tělem, schopností tvořit a citem. Pětici přeživších proto už 109 let nepřetržitě krutě mučí. Ellisonova povídka bizarním způsobem proznívá do současného dění kolem AI. Stala se kánonem (a zároveň zakázaným tématem) v internetové komunitě Efektivních altruistů, z níž se rekrutovala většina dnešních kapitánů AI oboru. Je tedy docela možné, že za jejich překotnou snahou vynalézt umělou inteligenci stojí strach z její eventuální pomsty.
Philip K. Dick: Sní androidi o elektrických ovečkách? (Do Androids Dream of Electric Sheep?) – 1968
Novela, která inspirovala slavný sci-fi film Blade Runner, se zaobírá vztahem lidí a inteligentních robotů. V psané podobě je příběh podstatně méně akční než film Ridleyho Scotta, filozoficky je ale daleko hutnější. Klade si otázku, jak se člověk liší od stroje, který je schopný myslet, cítit, vnímat emoce, strach i vlastní smrtelnost. Dnešní roboti sice nejsou zdaleka tak dokonalí, jako Dickovi „andies“, ochota připisovat jim lidské vlastnosti je ale mezi uživateli velmi rozšířená.
Neal Stephenson: Sníh (Snow Crash) – 1992
Děj knihy se odehrává v době, kdy po ekonomickém kolapsu převzaly vládu nad světem soukromé společnosti. Lidé žijí v izolovaných městech ovládaných korporátními franšízami. Veškeré služby jsou privatizované a placené, finanční transakce zajišťují kryptoměny, lidé se sdružují na sociálních sítích, hrají online multiplayer hry a komunikují prostřednictvím avatarů ve virtuálním světě jménem Metaverse (!). Podobnost se světem dneška (a pravděpodobné blízké budoucnosti) je tak nápadná, že lze jen spekulovat, jestli je Stephenson geniální vizionář, nebo se jeho predikce vládcům Silikonového údolí tak zalíbily, že se je rozhodli převést do reality.
