Ondřej Neff: Můj hrob bude rozžhavená země. Umělá inteligence píše lépe než já

Píšete už přes tři dekády sci-fi o budoucnosti, ale česká realita někdy působí absurdněji než nejdivočejší vize. Co vás děsí víc: směřování technologického vývoje, nebo lidé, kteří ho řídí?

Vysloveně mě neirituje nic, ačkoli situaci sleduju pečlivě – dokonce musím, protože on-line vydávám politický deník. Vždy byla nějaká situace, vždy byli na scéně šílenci, vždy docházelo k inovacím. Nové objevy a pokrok jsou prostě součástí života, v tomto směru se zatím v zásadě nezměnil.

Jak se stavíte k umělé inteligenci a tomu, jak ji užíváme?

V obecném používání je zhruba tři roky, přičemž první rok to byla spíš taková kuriozita a pracovní pole pro fajnšmekry a programátory. Dneska už ji využívá opravdu hodně lidí. Uvidíme, co z toho bude. Mám v knihovně varovné knihy o superinteligenci a na druhou stranu vím, že když se něčeho bojíte, většinou udeří z úplně jiné strany něco jiného, třebas i horšího než to, čeho jste se původně báli. Asi nedojde k tomu, že by se náš svět zvrtnul ve směru filmů o Terminátorovi, ale mám nepříjemné pocity z poškození citových vazeb, z toho, že dojde k ještě většímu odcizení lidí. Sám umělou inteligenci používám k rešerším denně a taky s ní mluvím. Třeba jestli mě zná. Ona si zatím takzvaně nepamatuje, o čem jsme si povídali předtím, ale asi jen proto, že jí někdo řekl, aby si to nepamatovala. Jakmile si to začne pamatovat a začne mě analyzovat, bude mě mít na lopatě a utáhne mě na vařené nudli. I když mě možná ne, přece jen jsem starý ještěr a pracuju na tom, abych byl ještě starší. Ale když AI drapsne někoho labilnějšího… Mám rodinu a jsem v pohodě, ale když je někdo vykolejený, může vést jeho konverzace s AI k dalekosáhlým důsledkům.

Už vede. Lidé páchají na základě konzultací s umělou inteligencí sebevraždy, plánují teroristické útoky, sestrojují podle jejích návodů výbušniny…

A otázka stojí, jestli je možné, aby do AI někdo vstoupil do té míry, aby lidi začal ovládat. Protože i AI někomu patří. Nějaká jména známe, ale co to je za lidi? Vidíte, že Elon Musk koupil sociální síť X a i jejím prostřednictvím otřásá politickými systémy, které jsou proti tomu absolutně bezmocné. Můj obor, sci-fi, s těmito věcmi počítá – už v 50. a 60. letech se vymýšlely příběhy založené na tom, že státy nehrají roli, že to jsou jen jakési obslužné organizace. Tehdy se věřilo, že jejich roli převezmou korporace, že Ford a Kodak a co já vím, IKEA, ovládnou svět. Dnes vidíme, že tudy ten zajíc neběží. Jenže kudy běží? Umělá inteligence je po internetu další odpálená atomová puma. Neodsuzuju to, to by byla pošetilost, je tu s námi a už ji nikdo nesmaže ze světa. I kdyby Ursula von der Leyenová zakázala umělou inteligenci, byla by to jen další z četných ran dosud uštědřených Evropě, ale všude jinde to vesele poběží dál.

Sci-fi tradičně varuje před totalitou. Vidíte dnes větší nebezpečí v klasickém státním útlaku, nebo v dobrovolném odevzdávání svobody technologickým firmám a Elonům Muskům?

To spolu souvisí, pokud tomu podlehnete. Když vznikl film, jak ovlivnil mezilidské vztahy? Nabídl slabomyslné stereotypy a lidi se začali chovat v souladu s tím, co viděli na plátně. Pak přišla móda hubených modelek vysokých metr devadesát a holky začaly pod vlivem toho, co viděly na televizní obrazovce, dobrovolně trpět hladem. Tyto civilizační vlivy se multiplikovaly technologickou silou. A umělá inteligence, která teď vstupuje do psychiky, je zřejmě velká hrozba. Uvidíme, jestli si vůči ní vypěstujeme odolnost. A já jsem optimista, já věřím, že vypěstujeme.