Racionalisté v iracionálních končinách: Bojí se technomiliardáři pomsty AI boha, nebo jen chtějí ovládnout svět?
Trumpův stěžejní zákon „One Big Beatiful Bill“ je něco jako dort pejska a kočičky. Najdete v něm vše, co po prezidentovi požadují různé skupiny jeho podporovatelů. V bouři hádek o ekonomické dopady zákona poněkud zanikl fakt, že obsahuje i desetileté absolutní moratorium na jakékoliv regulace rozvoje umělé inteligence. Původ požadavku bezbřehé benevolence sahá až do hlubin raného internetu, kde se komunita samozvaných racionalistů ocitla ve velmi iracionálních končinách.
Můžeme ji nenávidět, nebo v ní vidět spásu lidstva. Nikdo ale nedokáže popřít fakt, že se umělá inteligence stala středobodem technologického a finančního světa. Nástup velkých jazykových modelů nenávratně poznamenal pracovní trh, vzdělávání, umění, nakládání s informacemi a autorskými právy. Dá se očekávat, že velmi brzy vstoupí i do dalších oborů, protože překotný vývoj AI se má v blízké budoucnosti ještě zrychlit. Zasazuje se o to sám Donald Trump, respektive skupina technologických miliardářů, jejichž finance ho vloni vynesly do prezidentského křesla.
Stěžejní balík zákonů Trumpovy administrativy, známý jako „One Big Beautiful Bill“ („Velký a krásný zákon“), obsahuje klauzuli, která na příštích deset let zakazuje zavádět jakékoliv restrikce rozvoje umělé inteligence. Opatření nejenže zakazuje všem státům AI omezovat, ale ruší i těch několik málo opatření, která platí dnes. Rozhodnutí škrtnout veškeré regule je přinejmenším zvláštní a vyvolává odpor i u Trumpových skalních příznivců (kritizuje ho například i Marjorie Taylor Greene, kterou do parlamentu vynesla propagace konspiračního hnutí QAnon). Odkud tedy touha po neregulované AI vyrůstá? Její kořeny se dají vystopovat k jednomu společnému zdroji. Blogu „Less Wrong“ Eliezera Yudkowského a přidružené komunity racionalistů.
Racionalisté a singularita
O panu Yudkowském se dočtete, že je odborník v oblasti umělé inteligence. Ve skutečnosti však do tvorby AI není přímo zapojen a za status odborníka vděčí faktu, že o ní napsal řadu textů. S filozofováním o následcích „singularity“ – tedy momentu, kdy umělá inteligence převezme vládu nad světem – začal už dávno. Svůj blog Less Wrong založil už v roce 2009, kdy se zkratka AI vyskytovala zpravidla jen ve vědeckofantastických románech. Přispěvatelé a diskutéři své úvahy o nástupu AI opravdu zakládali zejména na dojmech ze sci-fi. Své nekonečné debaty v diskuzní části blogu však brali velmi vážně a společně dospěli k názoru, že singularita je nevyhnutelná. Lidstvo podle nich může příchod uměle inteligentního vládce pouze zdržet, nebo uspíšit. A také ovlivnit, z jakého intelektuálního prostředí se zjeví.
Aby nás budoucí světovládce nezahubil, musí podle racionalistů vyrůst z co nejzdravějšího podhoubí a považovat lidstvo za rovnocenné intelektuální partnery. Yudkowsky a jeho kolegové toho chtěli dosáhnout vytvořením nového způsobu přemýšlení. Měl být oproštěn od balastu emocí, irelevantních individuálních názorů a být založen na čistě racionálním přístupu k problému. Metodou jeho vývoje mělo být debatování o myšlenkových experimentech a v mnoha případech se v diskuzních sekcích blogu opravdu rozvinuly velmi plodné a zajímavé debaty. Hnutí racionalistů se díky tomu stalo obrovsky populární v Silicon Valley, do blogu i diskuzí přispívala řada dnešních miliardářů a šéfů technologických obrů. Což je na pováženou, protože se „racionalisté“ velmi často ocitli ve velmi iracionálních končinách.
Harry Potter a racionální sekty
O komunitě racionalistů leccos vypovídá fakt, že jejich stěžejním textem je Yudkowského veledílo „Harry Potter a metody racionality“. Na zhruba 2000 stránkách autor převypráví první knihu potterovské ságy, ovšem s tím, že malý Harry používá racionální metody a ve 12 letech už díky tomu vládne čarodějnému světu. Skutečně nejde o vtip, ale o vážně míněný text, který racionalisté považují za základní kámen svého hnutí. Z něj pak vyrostlo mnoho podivných nadstaveb. V současnosti v USA například probíhá proces s racionalistickou sektou „ziziánů“. Její členové jsou anarchisté, transsexuálové a radikální vegani a jsou přesvědčeni, že stejné zásady musí přejímat i budoucí všemohoucí umělá inteligence. Ziziánů je naštěstí jen několik desítek, i tak se ale zapletli do řady podvodů, zpronevěr, poškozování majetku a šesti vražd.
Daleko větší počet racionalistů se soustředí ve vlivné komunitě „efektivních altruistů“. Pojem efektivní altruismus se poprvé objevil už v 70. letech minulého století. Na Yudkowského blogu zmutoval v nekonečné debaty o tom, jak může být člověk co nejvíce užitečný celému lidstvu. Racionalisté v nich analyzovali své životy, hodnotili každý svůj čin a zvažovali, zda je v kontextu lidstva pozitivní či negativní. Hardcore altruisté tvrdili, že pokud je život jedince celkově negativní, měl by ze světa dobrovolně odejít a nezatěžovat lidstvo svou existencí. Jejich benevolentnější kolegové oponovali, že negativitu lze zvrátit cílenou optimalizací chování. Nenavrhovali ale jet kopat studny do Afriky nebo pořádat dobročinné sbírky. Dospěli totiž k racionálnímu názoru, že největšího dobra lze dosáhnout obchodováním s kryptoměnami. Nejznámějším členem efektivních altruistů je bývalý majitel kryptoburzy FTX Sam Bankman-Fried, který si v současnosti odpykává 25 let vězení za miliardové zpronevěry. Své riskantní obchody hájil tím, že je prováděl po racionální úvaze. Chtěl jimi přispět k lepší budoucnosti lidstva.
Rokův bazilišek, doomeři a optimisté
Sam Bankman-Fried a ziziáni jsou mezi racionalisty poměrně extrémními odnožemi. Jedna diskuze ale ovlivnila celou jejich komunitu a pravděpodobně přímo souvisí se snahou deregulovat vývoj AI. Řeč je o myšlenkovém experimentu nadneseném v roce 2010 pod titulem Rokův bazilišek. Uživatel s přezdívkou Roko v něm tvrdí, že si umělá inteligence po svém příchodu okamžitě uvědomí, že mohla na svět přijít dříve, pokud by jí v tom lidé nebránili. Racionálně tedy lze předpokládat, že se nový světový vládce bude chtít zdržovačům pomstít a na věčné časy je podrobí děsivému mučení. Znalci sci-fi literatury v popisu spolehlivě odhalí námět krátké povídky Harlana Ellisona „Nemám ústa a musím křičet“. Racionalisté ale brali fiktivní riziko velmi vážně. Sám šéfblogger Yudkowsky autora obvinil, že zveřejněním teorému učinil z každého čtenáře potenciální oběť budoucího utrpení.
Moderátoři nakonec diskuze na téma Rokova baziliška smazali a další zakázali, aby nevyvolávaly paniku a hádky. V racionalistické komunitě ale bazilišek zanechal rozkol. Diskutéři se ani seberacionálnější debatou nedokázali shodnout na tom, jak umělá inteligence s lidstvem naloží. Pesimisté, mezi které patří sám Yudkowsky, a velká část efektivních altruistů, v ní vidí riziko a snaží se její příchod zbrzdit. Za své apokalyptické předpovědi získali přezdívku „doomers“ („doom“ znamená „zkáza“). Proti doomerům stojí racionalističtí optimisté přezdívaní také „akceleracionisté“. Tvrdí, že se příchodu umělé inteligence nemusíme bát a měli bychom ho co nejvíce uspíšit, aby nám AI pomohla nastolit lepší budoucnost. S jejich názorem souzní racionalisté, ve kterých převládl strach z baziliškovy pomsty. Ti se sice příchodu AI bojí, ale chtějí nového boha přivést na svět co nejrychleji, aby neskončili na věčné časy na mučidlech.
Rozdělení na akceleracionisty a doomery převládá mezi racionalisty i celou AI komunitou dodnes. Na AI konferencích často začínají debaty oznámením, na jaké straně který řečník stojí, a není výjimkou, že účastníci nosí označení svého přesvědčení na jmenovce. Podobný rozkol panuje i mezi technologickými oligarchy v pozadí Trumpovy administrativy. Elon Musk je například známý pesimista a před riziky AI často varuje. Možná proto, že se racionalistickými koncepty často zabývá a jednu ze svých mnoha žen poznal díky tweetu o Rokově baziliškovi. Na straně akceleracionistů stojí například Peter Thiel – zakladatel PayPalu, dlouhodobý Trumpův podporovatel a mentor viceprezidenta J. D. Vance. Thiel investoval do řady racionalistických projektů včetně Yudkowského neziskovky MIRI. Financoval ale také OpenAI Sama Altmana a aktivně lobbuje za co nejrychlejší rozvoj umělé inteligence. Altmana dokonce údajně varoval, aby se měl na pozoru před negativním vlivem efektivních altruistů, kteří by mohli vývoj AI zdržovat.
Vzato čistě racionálně…
Jak je to tedy s Velkým a krásným zákonem? Stojí za snahou deregulovat AI strach z pomsty superinteligentní všemocné entity? Nebo je motivována bezbřehým technologickým optimismem a vírou, že umělá inteligence nastolí zlatý věk lidstva? Nejpravděpodobnější bude patrně třetí možnost. Technooligarchové se zhlédli v příkladu racionálního Harryho Pottera a vydali se co nejkratší cestou k ovládnutí světa. Umělá inteligence jim v tom má napomoct. Peter Thiel otevřeně mluví o soukromých městech, kde neomezenou mocí vládne osvícený ředitel podporovaný umělou inteligencí. Kryptobaron Balaji Srinivasan volá po jakési formě cloudové vlády řízené techno elitami a podporované AI. Každý miliardář má svou představu. Z čistě racionálního hlediska ale každá z nich vyžaduje co nejvíce omezit moc kontrolních státních úřadů. Největší nebezpečí neplyne od zizianů ani pomstychtivé umělé inteligence, ale od miliardářů, kteří využívají svůj vliv, aby ohnuli racionalitu ke svému prospěchu.
