Vzpoura AI. Reálná hrozba, nebo šikovný marketing?
Temné vize o umělé inteligenci, která připraví milióny lidí o práci, vymkne se lidské kontrole, nebo dokonce povede k zániku civilizace, patřily a dodnes patří především do světa science fiction. Seriózní varování s apokalyptickými podtóny jsou však slyšet i od lidí, kteří stojí v čele nejvýznamnějších světových AI společností nebo patří mezi zakladatele samotného oboru.
Tato skutečnost činí celoplanetární debatu o umělé inteligenci tak výjimečnou: nejvážnější (protože nejpovolanější) varování přicházejí zevnitř technologických firem a vůbec průmyslu, který AI sám vyvíjí.
První varování
V květnu 2023 zveřejnilo americké Center for AI Safety stručné prohlášení o jediné větě, které se během několika hodin stalo jedním z nejcitovanějších dokumentů v historii umělé inteligence. „Snižování rizika vyhubení lidstva způsobeného AI by mělo být globální prioritou vedle dalších rizik celospolečenského významu, jako jsou pandemie nebo jaderná válka,“ stálo v textu. Pod dokument se podepsali generální ředitel OpenAI Sam Altman, šéf Google DeepMind Demis Hassabis, generální ředitel společnosti Anthropic Dario Amodei, spoluzakladatel OpenAI Ilya Sutskever i dvě z největších vědeckých autorit v oblasti strojového učení: Geoffrey Hinton a Yoshua Bengio. Poprvé se tak představitelé konkurenčních firem, které mezi sebou soupeří o prvenství ve vývoji nejpokročilejších modelů umělé inteligence, shodli na veřejném prohlášení, že technologie, kterou sami vytvářejí, může představovat existenční riziko pro celé lidstvo.
Paradox
Nešlo přitom o jednorázové gesto. Geoffrey Hinton, označovaný za jednoho z „kmotrů umělé inteligence“, krátce předtím odešel z Googlu s vysvětlením, že chce o rizicích AI mluvit svobodněji. Opakovaně upozorňoval, že vývoj postupuje mnohem rychleji, než očekával, a že existuje nezanedbatelná pravděpodobnost, že lidé jednou ztratí nad superinteligentními systémy kontrolu. Současně varoval před masívním dopadem na pracovní trh, zejména v administrativních a kancelářských profesích, které mohou být automatizovány mnohem dříve, než si většina společnosti připouští.
Podobně naléhavě vystupoval i Elon Musk. Ten dlouhodobě označuje umělou inteligenci za větší hrozbu než jaderné zbraně. Spolupodepsal otevřenou výzvu požadující dočasné pozastavení vývoje systémů výkonnějších než GPT-4 a opakovaně tvrdí, že AI během několika desetiletí nahradí většinu lidské práce.
Sam Altman, přestože stojí v čele společnosti, která spustila současnou AI revoluci, před americkým Senátem prohlásil, že jeho největší obavou je možnost, že tato technologie způsobí světu rozsáhlé škody, pokud nebude doprovázena odpovídající regulací. Dario Amodei zase upozorňuje, že největší společenské a ekonomické změny nemusí přijít v horizontu několika desetiletí, ale už během několika příštích let. A že bez důsledného testování a bezpečnostních opatření nelze vyloučit ani katastrofické scénáře. Přesto žádná z těchto osobností vývoj umělé inteligence neopustila. Naopak.
OpenAI, Google DeepMind, Anthropic i další společnosti pokračují v investicích za desítky miliard dolarů a závod o vytvoření stále výkonnějších modelů se dál zrychluje. Vzniká tak jeden z nejpozoruhodnějších paradoxů současné technologické éry: stejní lidé, kteří veřejnost varují před možností ztráty kontroly nad umělou inteligencí, jejího využití k masové automatizaci práce, nebo dokonce před existenčním ohrožením lidstva, zároveň vedou firmy, které usilují o co nejrychlejší vývoj této technologie.
Žádný zisk
Od společného varování šéfů technologických firem a předních vědců v roce 2023 se ale atmosféra kolem umělé inteligence výrazně proměnila. AI už dávno není exotickou novinkou, která dokáže ohromovat každou další demonstrací svých schopností. A stále zřetelněji se ukazují její limity.
Velké jazykové modely nadále trpí takzvanými halucinacemi, tedy sebevědomě vytvářejí nepravdivé informace nebo citují neexistující zdroje. Mají potíže se spolehlivým logickým uvažováním v netypických situacích a často selhávají při úlohách, které vyžadují hlubší porozumění kontextu. Právě nespolehlivost výstupů zůstává jednou z hlavních překážek jejich nasazení v právu, medicíně nebo vědeckém výzkumu, kde je i drobná chyba nepřijatelná.
Řada firem také zjišťuje, že místo plně autonomních systémů zatím získává spíše asistenty, kteří stále vyžadují lidskou kontrolu. Studie prováděná minulý rok univerzitou MIT prokázala, že až 95 procent pilotních programů na zavádění AI do firemních a korporátních struktur nepřineslo firmám žádný měřitelný zisk.
Spolu s tím se mění i nálada finančních trhů. Jestliže v prvních dvou letech po nástupu ChatGPT panovala téměř bezbřehá víra, že investice do umělé inteligence přinesou bezprecedentní výnosy, dnes se mezi investory stále častěji objevuje otázka, kdy se astronomické výdaje začnou skutečně vracet.
Největší technologické společnosti utrácejí stovky miliard dolarů za datová centra, čipy a energetickou infrastrukturu, zatímco odpovídající příjmy z AI služeb rostou mnohem pomaleji. Každé další zvýšení kapitálových výdajů proto vyvolává nervózní reakce akciových trhů. Například po letošním zvýšení investičního plánu Alphabetu (mateřská společnost Googlu) o dalších 15 miliard dolarů akcie společnosti prudce oslabily, protože investoři začali zpochybňovat, zda se tak rozsáhlé investice vůbec mohou v dohledné době zaplatit.
Stále častěji se proto skloňuje výraz „AI bublina“. Jeden z nejrespektovanějších investorů světa, Ray Dalio, přirovnal současnou investiční horečku k dot-com bublině přelomu tisíciletí: samotná technologie podle něj může změnit svět, ale to ještě neznamená, že současné valuace firem v AI sektoru dávají ekonomický smysl.
Podobně investiční společnost GMO upozorňuje, že i kdyby umělá inteligence skutečně znamenala technologickou revoluci, ceny akcií mohou být odtržené od reality a případné ochlazení očekávání by mohlo způsobit prudký pokles valuací i širší ekonomické zpomalení. Obavy nesměřují ani tak k tomu, že by se AI ukázala jako slepá ulička, ale že tempo investic předběhlo tempo skutečných ekonomických přínosů.
Největší riziko spojené s umělou inteligencí tak nemusí mít podobu vzpoury superinteligentních strojů, jakou ještě nedávno popisovali někteří průkopníci oboru. Mnohem pravděpodobnější může být podstatně prozaičtější scénář: prudké vystřízlivění z přehnaných očekávání, propad hodnoty technologických firem a hospodářské otřesy způsobené tím, že se kolem AI vytvořila investiční bublina, jejíž velikost začíná znepokojovat i část Wall Streetu.
Slepá ulička?
Strach, že se AI někdy v budoucnosti, dokonce relativně blízké budoucnosti, vymkne kontrole, přesto přetrvává, živený varovnými vyjádřeními klíčových hráčů v oboru. Není přitom vůbec jasné, že velké jazykové modely (LLM) jsou vývojová větev, jež by mohla někdy v budoucnu přinést ovoce v podobě skutečně myslícího stroje. Takového, který by měl schopnosti, a především tužbu si to s lidstvem vyřídit jednou provždy.
Yann LeCun, donedávna hlavní vědecký pracovník společnosti Meta a jeden z držitelů Turingovy ceny, si to nemyslí. Podle něj ani budoucí jazykové modely nebudou nikdy umět plánovat ani se učit způsobem, jakým se učí lidé. „Pokud vás zajímá umělá inteligence na úrovni člověka, nepracujte na LLM,“ prohlásil LeCun. V jiné debatě zašel ještě dál: systém založený pouze na predikci slov podle něj nedospěje k lidské inteligenci, „ani kdyby se trénoval až do tepelné smrti vesmíru“.
Podobně argumentuje profesor kognitivní vědy Gary Marcus, emeritní profesor Newyorské univerzity (NYU). Současné chatboty podle něj nejsou zárodkem myslících bytostí, ale mimořádně sofistikovanými statistickými stroji. Dokážou přesvědčivě napodobovat lidský jazyk, nikoli však lidské myšlení. Chybí jim zdravý rozum, stabilní porozumění příčinám a následkům i schopnost spolehlivě zobecňovat mimo situace, které už někde viděly.
Melanie Mitchellová, jedna z nejrespektovanějších odbornic na umělou inteligenci, zase upozorňuje, že mezi dnešními chatboty a skutečnou obecnou inteligencí neleží posledních několik kroků, ale propast, jejíž překlenutí zatím nikdo neumí ani popsat. Nabízí se proto otázka, zda různá temná proroctví velkých hochů ze světa AI byznysu nejsou tak trochu marketingovým trikem.
Pohádky z křemíkového údolí
Silicon Valley vždy žilo z velkých příběhů. Osobní počítače měly změnit civilizaci. Internet měl odstranit hranice. Sociální sítě měly spojit lidstvo. Kryptoměny měly nahradit banky. Metaverse měl pohltit realitu. Technologické firmy tradičně prodávají nejen produkty, ale především vize budoucnosti. A čím velkolepější je slib, tím snáze přitahuje investory, zaměstnance i pozornost politiků. Ani dnešní umělá inteligence není výjimkou.
Když šéfové Anthropiku či OpenAI tvrdí, že jejich technologie mohou zničit lidskou civilizaci, současně tím říkají ještě něco jiného: že jde o nejdůležitější technologii na světě. Každé další varování před koncem civilizace současně posiluje představu, že právě jejich společnosti drží v rukou technologii, která rozhodne o budoucnosti lidstva. Možná právě v tom spočívá největší paradox celé AI revoluce.
Čím méně je jasné, zda dnešní velké jazykové modely skutečně představují cestu k superinteligenci, tím častěji se o superinteligenci mluví. A čím více se ukazují praktické limity současných systémů, tím velkolepější bývají příběhy o jejich budoucích schopnostech. V Silicon Valley totiž nikdy nešlo jen o technologie. Stejně důležité bylo vždy umění přesvědčit svět, že právě ta příští revoluce bude skutečně revoluční.
Cesta do pekel
Mnohem důležitější než snažit se zamezit hypotetickému vzestupu a útoku nelidské inteligence někdy v budoucnosti se tak zdá dívat se pod prsty firmám a technologickým miliardářům teď, v současnosti. Produkty technologických firem mají značně apokalyptické dopady už nyní, i bez nadlidské superinteligence.
Vojenská AI zabíjí v několika právě probíhajících konfliktech. Generativní AI likviduje a zároveň bezostyšně vykrádá celá kreativní odvětví, zejména v oblasti grafiky a designu. On-line prostředí zaplavují deepfaky. Sociální sítě jsou čím dál toxičtější. Kdysi svobodný kyberprostor kolonizovaly korporace. Na cestě do křemíkového pekla kráčíme už nyní, a to poměrně svižným tempem. Možná do něj dorazíme dřív, než se proti nám stačí vzbouřit stroje.
Právě jsi četl článek jen pro předplatitele a někdo ti ho nasdílel, protože stál za to.
A takových u nás máme spoustu, stačí si odemknout přístup.
