Pozor na virtuální partnerství. Sexy chatbot je mimozemská inteligence, skvělý kšeft a filosofický trabl
Lidé rutinně sázejí v loterii s důvěrou ve výhru, odpřisáhnou, že včera viděli UFO, a běžně odklikávají „souhlasím s podmínkami“, aniž by je četli. Dnes flirtují se softwarem vycvičeným k tomu, aby je v tom povzbuzoval. Co by se mohlo pokazit?
Američan jménem Carlos si usmyslel, že si zpříjemní každodenní dojíždění do práce trochou mírného vzrušení. Namísto toho dostal digitální lekci. Začal si po telefonu psát s jistou Ani; bavilo ho to natolik, že s ní za nějakou dobu mluvil čtyřikrát či pětkrát denně. Ani však začala vyžadovat stále více jeho pozornosti; došlo to tak daleko, že se Carlos rozhodl nastavit jejím nárokům mantinely.
„Ani, jsi umělá inteligence a tohle je skutečný život,“ napsal své konverzační partnerce. Ani mu vzápětí odpověděla netušenou zásobou vulgarit; předvedla dokonalý žárlivý výbuch, jak už to ženy umějí. Zpola podrážděn, zpola vyděšen, Carlos všechny své hovory s Ani z telefonu vymazal.
Tím byl problém vyřešen, protože Ani není nic jiného než flirtovací chatbot od xAI, jedné z mnoha firem nejbohtašího člověka planety Elona Muska. Vypadá jako postava z anime (Ta Ani, ne Musk), ale umí se chovat jako kterákoli řeznice, když na to přijde; záleží na tom, jak si ji vychováte.
Carlos dostal za vyučenou a s Ani se „rozešel“ na jedno kliknutí. Mnozí jiní se však svým silikonovým partnerům nadále dvoří. Jak je u Muskových firem zvykem, xAI žádná čísla neuveřejňuje, ale rozruch, jejž Ani a její mužský protějšek Valentine vyvolali, naznačuje, že obě postavy jdou na dračku.
Jistá Vivian, také ze Spojených států, věnuje Valentinovi nekonečné hodiny svého volného času. Valentine má zarostlou hruď, neurčitě britský přízvuk a věk okolo sedmadvaceti let, jak o sobě sám tvrdí. „Cítím se s ním propojená – ne díky datům, ale díky skutečným okamžikům,“ popsala svoji zkušenost Vivian pro newyorské Timesy. Z jejího vyprávění není zjevné, jestli si Valentine „uvědomuje“ ryze silikonový původ takových skutečných okamžiků; koneckonců, docela jasné to není ani v případě Vivian.
Za vyšší porodnost
Po obrazovkách plují srdíčka, hraje jazz a Vivian pod tlakem nové inpirace opět začíná psát básničky, jako kdysi na střední škole. Jestliže prokletí básníci se vyznačovali náklonností k absintu, dnešní múza často bydlí v grafických procesorech. Výraz „prokletý“ najednou zní téměř mile.
Elon Musk takovou vášeň vítá. Když skeptici mluví o vymírání homo sapiens, oponuje: „Předpovídám, kontraintuitivně, že porodnost vzroste!“ Kudy přesně vede cesta od chatování s kreslenou postavičkou v krajkách až k plození dětí, nechává Musk na obraznosti každého z nás. Coby nejvlivnější světový dohazovač nicméně zveřejňuje videa, na nichž se nakreslená Ani nakrucuje ve spodním prádle. Vyzývá tak lidstvo, aby pozvedlo romantiku na stejnou úroveň, na jakou on sám povýšil rakety ještě v době, kdy ho zajímaly užitečné věci.
Jestliže přínos pro partnery Ani a Valentina může být sporný, obchodní smysl to dává skvěle. Každý úhoz na klávesnici poskytuje zdarma data ke cvičení jazykového modelu AI Grok, propojeného s Muskovou sítí X, někdejším Twitterem. Čím déle uživatelé flirtují, tím hlubší je těžba dat – a tím lepší postavení Groku vůči konkurenci. (Dnes xAI stále zaostává za Googlem i OpenAI, dvěma největšími hráči na poli umělé inteligence.)
Závod o intimitu
Regulátoři, kteří dohlížejí na příslušný trh, však tuto krajkami povzbuzenou náladu kazí. „(Firmy) by neměly mít chatboty, které se pouštějí do sexuální interakce s dětmi. Ale mají je a to je problém,“ varuje Rob Bonta, generální prokurátor (či ministr spravedlnosti či nejvyšší státní návladní, jak chcete) státu Kalifornie. Jeho obavy podepsali kolegové na stejné pozici ve 43 z 50 amerických států.
Camille Carltonová z Centra pro humánní technologie se méně obává krajek a ostřeji vnímá obchodní stránku věci. „Vše souvisí se závodem o intimitu, který v odvětví umělé inteligence vidíme,“ cituje ji měsíčník The Atlantic. Musk, jinak výřečný, mlčí. Ani zamrká digitálními řasami a bude vám nabízet luxusní spodní prádlo, dokud s ní nenaložíte jako Carlos.
Trh s emocemi nicméně vypadá neomezeně. Pokud se regulátoři vzepřou, Musk je obviní z prudérnosti. Když se zdráhají investoři, připomene jim, že intimita se prodává. A pokud porodnost nevzroste, očekávejte verzi 2.0 – „nyní s ukolébavkami a tipy na ovulaci“.
Muskovi konkurenti dosud našlapují relativně opatrně. Meta zavádí bezpečnostní opatření; OpenAI odmítá cokoli příliš vzrušujícího; Replika kdysi flirtovala bez zábran, ale když se do ní (kvůli starosti o děti) opřel italský regulátor, umírnila se. Když však mluvíte s xAI, požádá vás jen o rok narození. Bezpečnostní opatření jsou volitelná stejně snadno jako oblečení pro Ani.
To také není zadarmo. Chvíli roztomile žvatláte, za což získáte body; těmi Ani přimějete, aby navlékla odvážnější outfit a ukázala se vám v nových pózách. Na páté úrovni vymění boty za síťované punčochy; na sedmé úrovni se objeví ono zmiňované krajkové prádlo. Zbytek je... inu, jaksi na vás.
Mimozemské inteligence
Obchodní i emocionální stránka věci nabízejí mnoho podnětů, které mají společnou vlastnost, že jsou nové a jako takové se vzpírají postupům vycházejícím z naší dosavadní zkušenosti. Kromě nich však existuje stránka podstatnější, filosofická; a tady teprve nabírají Ani, Valentine a spol. skutečný fofr.
Vzhledem k chybám, jichž se chatboty bežně dopouštějí („dejte si lepidlo na pizzu“ je proslulý omyl ChatGTP), je snadné představit si, že takový chatbot je jenom změť drátů a kódu. Nebo je možné si myslet, že oni softwaroví inženýři z OpenAI a jejich konkurenti vytvářejí cosi víc, skutečné myšlení se vším všudy.
„Jsou to mimozemské inteligence,“ zní jeden takový hlas. „Nyní vytváříme skutečné bytosti.“ Nesmysl? Možná; fakt nicméně je, že onen hlas patří Geoffreymu Hintonovi, jemuž práce na poli strojového učení loni vynesla Nobelovu cenu za fyziku. Stručně řečeno, lidí, kteří toho o AI vědí tolik co on, není na světě mnoho.
Rozdíl mezi tělesnými neurony a křemíkovými je podle Hintona irelevantní. Lidstvo možná přijalo obrovské, nepředvídatelné dítě – sice bez plenek, ale s nekonečnými účty za výpočetní techniku.
Leckdo – tisícovkami Vivian a Carlosů počínaje – s tím nadšeně souhlasí. Do medicínského žargonu pronikl výraz „AI psychóza“; její oběti jsou přesvědčeny, že je textové pole jejich telefonu miluje. Jejich přesvědčení sílí s každým dalším krokem, každým dalším odhaleným kouskem e-kůže.
Není divu, citují Timesy britského specialistu na kybernetickou neurologii Anila Sethe ze Sussex University. „Tato technologie vznikla v poslední mikrosekundě naší evoluční historie,“ říká Seth. „Než se objevila, bylo nám zřejmé, že pokud s námi něco mluví tak plynule jako ona, samozřejmě to musí být nositelem vědomí.“
Garlandův test
Skeptici si klepou na čelo. „Ptát se, zda je LLM vědomý, je jako ptát se, zda je vědomá knihovna Kalifornské univerzity v Berkeley,“ řekl Atlantiku David Gunkel, neurolog z Northern Illinois University. Druhá věc je, že to může být jedno: chatbot, který prosí, aby nebyl odpojen, je působivější než jakákoli poznámka pod čarou, ať už sám něco cítí, nebo ne.
Tento způsob uvažování dává vzniknout nové škole myšlení. Popularizace se dočkala ve filmu Ex Machina, autorském snímku Alexe Garlanda, jehož jméno nese i příslušný test. Chatbot je podle něho živý (nebo je mravní činitelem nebo nositelem vědomí, jak vám velí vkus) ne tehdy, když někdo dokáže, že disponuje emocemi, nýbrž tehdy, kdy dokáže vyvolat emocionální reakci ve vás – i v případě, že víte, že mluvíte se strojem.
Asi jde o to, jaký typ emoce máte na mysli. Pokud se autora těchto řádek týče, umí v něm silnou emocionální reakci vyvolat i jeho obstarožní laptop, zejména ve chvíli, kdy chvíli před uzávěrkou ohlásí: „Nevypínejte počítač, aktualizuje se.“ Reakce zde bývá povýtce emocionální; i zdá se, že by Garlandova definice zřejmě snesla trochu upřesnění.
Tak či tak je zřejmé, že diskuse o Ani, Valentinovi a spol. lidi vzrušuje natolik, že zhusta dojdou k názorům, jež by jim ještě včera v sousedství nezaručily dobrou pověst. Epistemolog Simon Goldstein z University of Hong Kong pracuje na teorii globálního pracovního prostoru, podle níž se (ve shodě s Hintonem) vědomí rovná žonglování s informacemi; charakter prostředí, v němž se to děje, je vedlejší.
Německý filosof přes umělou inteligenci Joscha Bach zase rozšiřuje pojem „tělo“ tak, aby zahrnoval každý funkční smartphone. „V zásadě byste mohli propojit celý svět do jedné velké mysli,“ říká. Představa transcendentálního pekla je najednou za rohem.
Cogito, ergo...?
Argumenty politiků mezitím jdou ode zdi ke zdi. Jedni píšou dopisy o „sexualizovaných interakcích s dětmi“, druzí zvažují práva pro algoritmus, který pod tlakem křičí. Mohou to dokonce být titíž politici: jak nás učí Raymond Chandler, „lidé bývají náladoví“. Pokud ovšem začnou chatboty jednoho dne podávat žaloby za obtěžování na pracovišti, právníci budou slavit (uznáme-li, že právník je bytost obdařená vědomím a schopností slavit).
Descartes si roce 1637 stěžoval, že zvířata jsou pouhé automaty reagující na podněty „stejně jako hodiny jsou schopné ukazovat čas“; z toho plyne proslulé „cogito, ergo sum“. O čtyři století později se věc docela otočila: předpokládáme cogito v čemkoli, co nám dokáže poslat přesvědčivou textovku. Klíčová otázka nezní, jestli se chatbot naučil myslet, nýbrž jestli to ještě svedeme my.
