Dáváme dětem každý den krabičku cigaret v podobě telefonů a sociálních sítí, říká expert na AI Jan Romportl

Mladá generace si osvojila život s umělou inteligencí. Jak moc je tento stav žádoucí z pohledu experta na AI?

Starší část Gen Z bych hodnotil z pohledu odolnosti vůči AI termínem „is already fuc*ed up“. V nejcitlivějším období jejich života, kdy se formuje mozek, byli vystaveni působení a vlivu predátorských algoritmů bez jakékoliv ochrany. Smířili jsme se s tím, že AI nám i našim dětem dávkuje obsah na sociálních sítích, bereme to jako normu. U další generace už nesmíme sociální experiment takových rozměrů připustit.

To je poměrně odvážené shrnutí. Jak tedy neopakovat chybu a začít fungovat lépe?

Základem je snažit se dospívat v offline světě i přes všechny složitosti, které to s sebou nese. Osvojování si mezilidských vztahů je substrát, na kterém lze stavět. Poté teprve můžeme začít utvářet často skloňované kritické myšlení a mediální gramotnost na příslušné úrovni. Pomocti nám mohou také AI agenti, kteří jsou schopni omezit působení predátorského algoritmu, ale bez zmíněných základů je jejich fungování velmi omezené.

Skoro to vypadá, že AI dětem jen škodí.

První je důležité říct, že AI není jen Chat GPT, který je teď středobodem pozornosti. AI vznikla v padesátých letech dvacátého století, následně mnoho desetiletí moc nefungovala, ale pak jsme se s ní masivně potkali začátkem desátých let 21. století v algoritmech, jimiž vyhledávače a sociální sítě rozhodují, jaký obsah nám zobrazí. Dnešní mladí se tedy převážně setkávalijí s tou doporučovací AI pod kapotou Instagramu a TikToku, a teprve nedávno se k tomu přidala nově vzniklá generativní AI se svými pro a proti. Pokud se budeme bavit konkrétně o škodlivosti na generaci Z a Alfa, tak je to padesát na padesát. Půlka jejich světa je pod náporem AI algoritmů, které soupeří o jejich pozornost na sociálních sítích, a druhá půlka jim dává superschopnosti. Na mysli mám právě velké jazykové modely s užitečnými agenty.

Z pohledu učitele ve škole ale ty superschopnosti asi nebudou úplně pozitivní?

Vývoj AI je příliš rychlý. Nezvládáme nebo možná nechceme nastavovat pravidla. Seminárka napsaná pomocí AI je samozřejmě typický příklad odfláknutí domácího úkolu, pokud bylo cílem procvičit žákovu schopnost vyhledávat ve zdrojích, analyzovat a vytvářet vlastní obsah. Když však chyběl smysl i cíl seminárky ze strany učitele a žák  si jen usnadnil práci tak, než aby se tématu věnoval kvalitně do hloubky., Zzneužil by AI, nebo ji využil k osobnímu rozvoji? Záleží vždy na úhlu pohledu. Nedělám si však iluze, že zneužívání nástroje na podobné bázi dominuje.

Zůstaňme tedy u školského systému.  Obvykle umělou inteligenci pasivně nebo aktivně  konzumujeme skrze smartphony. Loni v lednu doporučilo Nizozemsko svým školám, aby zakázaly mobilní telefony. Je to správná cesta?

Netajím se názorem, že dát dítěti smartphone je stejné, jako nabídnout mu cigaretu. Sám jsem tu chybu udělal u svého prvního dítěte a nechci ji u dalšího potomka opakovat. Chytré telefony bych dovolil od 15 let, ať už na půdě školy, nebo doma. Obdobně tak sociální sítě. Austrálie je zakázala loni. Další země jako Francie, Dánsko a nově i Turecko o tom vážně uvažují. Zároveň Dánsko zakázalo mobily na základních a nižších středních školách. Myslím, že to je správná cesta.

Jdeme „s dobou“.

Realita v Česku je však následující. Děti od první třídy fungují na telefonech a mnohdy jsou k tomu dokonce nuceni třídním učitelem. Úkoly se sdílí skrze whatsappové skupiny, a tudíž i děti jsou pohlcenyi systémem. Mohou se vzepřít, ale ne každý chce bojovat proti většině, a tak podlehne dítě, potažmo rodič.

Má tedy smysl bojovat?

Je to obtížné, ale smysl to má. Přestože dcera ten Instagram téměř jistě nebude mít až od 16ti let, rodiče se o to musí alespoň snažit. Zároveň je vhodné zajít za učitelem a rozumně si s ním promluvit. Mnohdy to vůbec nemyslí špatně. Naopak, chce se komunikačně co nejvíce přiblížit žákům[JR4] ,  a tak jim navrhne třeba ten whatsapp.". Bohužel jim však neprospívá. Obecně v těchto případech platí, že lepší je mířit ke hvězdám a netrefit se, než mířit do kupky hnoje a trefit se spolehlivě.

Chápu, že se školou se asi domluvit dá. Ne každý je ale vybaven schopností trvale bojovat s větrnými mlýny. Pořád ta skupinka rodičů, která bude bojovat za práva svého dítěte na mobilní telefon, je příliš hlasitá.

V těchto případech nejlépe fungují data a výzkumy. Zkrátka udělat přednášku pro rodiče, pro učitele, pro obec. Ukázat jim čísla a říct, opravdu chcete bojovat za to, aby vaše děti měli právo na závislost podobnou té drogové? Chytrý rodič dítěti smartphone nedá, hloupý ano a má klid, ale neví, že zakládá na mnohem větší problém, než je odpor dítěte k jeho rozhodnutí.

Tak proč není silnější společenský tlak na regulaci, když se bavíme o závislosti, která škodí?

Rozdělil bych to na dvě roviny. Problém je, že negativní efekt je prostě pomalý a plíživý. Prozatím jsme si u AI nedokázali osvojit slogany typu začouzený plíce kuřáka, kouření škodí zdraví, aj. Ty ale taky nevznikly s příchodem tabákového průmyslu. Místo ve společnosti si budovaly desítky let. S negativními aspekty AI to bude podobné. Za druhé, je to závislost nás dospělých, kterou si nechceme přiznat. Kdo z nás nezažil tu situaci, že při společném jídle náš pohled z dětí mnohdy sklouzne na obrazovku telefonu?.

Klíčovou roli v systému tedy zaujímá rodič.  Jak by měla vypadat ta správná výchova?

Musí jít příkladem. Když budu kuřák, je těžké dítěti zakazovat kouření. Obdobně je logické dávat si pozor, kolik času věnujeme svému telefonu. Zároveň je dobré vysvětlovat souvislosti a není to tak složité. Když jezdím vzdělávat, nemám odlišnou přednášku pro děti nebo rodiče. Mluvme s dětmi otevřeně, jsou v mnohých technologických novinkách dál než my. Také bych se nebál oslovit jiné rodiče. Často sdílí naše pocity, že to třeba není v pořádku, ale myslí si, že jsou sami. Tím pomáháme tvořit takovou rozumnou „odpružovací vrstvu“ kolem dítěte a jeho nejbližších kamarádů.

Jaké největší riziko vidíte v kontextu AI u těch mladistvých?

Aditivní emoční závislost a algoritmická manipulace. A ještě tady máme novinku v podobě synteticky vytvářených videí na míru danému jedinci. Problém není AI, problém je cílené zneužití AI za účelem vytvoření závislosti. Stejně tak není problém zakomponovat AI do výuky. Rozdíl je v termínech učit o AI nebo učit AI, stejně jako použití správného načasování, kdy je příliš brzo a kdy pozdě.

Kdy je tedy správný čas učit o AI?

Nejsem pedagog, takže si nebudu hrát na chytrého. Osobně to citem vnímám takto. Protože jsem měl a mám rád matematiku, tak bych to přirovnal k okamžiku, kdy děti poprvé napíšou x se rovná něco jiného. Když pochopí tuto abstrakci, zvládnou chápat, jak funguje AI. Neznamená to ale dát umělé inteligenci prostor, aby převzala klasický model výuky. Základní matematika kultivuje schopnost  mysli uchopit nějak svět. Učit děti psát tužkou na papír je zase důležité pro doplnění jejich neuromotorického systému. Spoléhat se na AI překladač je taky špatně. Učit se jazyky pomáhá v rozvoji kognitivních funkcí. A tak bych mohl pokračovat dál. AI nemůže formovat osobnosti, to by byla cesta do pekel.

Čtyři z deseti mladých lidí v Česku vykazují známky střední až těžké deprese. To není úplnězrovna málo. Je možné alarmující statistice přisuzovat i nejasně stanovená pravidla pro rozvoj umělé inteligence?

Jako jeden z faktorů ano. Svou roli ale určitě sehrál i covid a teď máme válku na Ukrajině. Ten negativní trend se však netýká jen Česka. Například Ve Velké Británii mezi lety 2012 a 2022 stoupl o dvě stě padesát procent počet hospitalizací mladistvých pacientů na psychiatrii. Korelace se sociálními sítěmi a smartphony tam jednoznačně je, ale zatím chybí přesvědčivá kauzalita. Rozvoj AI je příliš rychlý a relevantní výzkumy a studie nejsou schopny reagovat stejným tempem.

Nevidíte tam třeba i jiné důvody? Stále častěji slyšíme, dokonce už i v politice, že priorita mladých je duševní zdraví. Už se nechodí k lékaři pouze s chřipkou, ale i s psychickým problémem. Dochází určitě k destigmatizaci tohoto tématu.

Určitě sSouhlasím. Je tam velký posun, ale pořád ne dostatečný. Když vám reálně diagnostikují například schizofrenii, tak pořád se na vás okolí bude pořád dívat skrze prsty. Chodit k psychiatrovi a brát tricyklická antidepresiva nebo antipsychotika je prostě ještě mimo běžné přijetí širokou veřejností. Takže ano. I veřejná debata k tématu určitě zvedá návštěvnost, ale nemaže podíl umělé inteligence na problému souvisejícím s depresemi a úzkostmi.

Máme tady tedy generaci, pro kterou jsme neuměli nastavit pravidla, a pořád se nám to nedaří u té další. Zároveň nám roste počet mladých, kteří potřebují pomoc s negativním dopadem AI na jejich duševní zdraví. Vy nabízíte ve spolupráci s odborníky z Národního ústavu duševního zdraví a dalšími psychology aplikaci[JR5] , která je něco jako antivirus vůči predátorským algoritmům. Když ji bude dítě mít, mohu být jako rodič v klidu?

Aplikace se jmenuje Elin a samozřejmě není samospasitelnáásná. Je to pouze doplněk pro zdravý rozvoj dítěte, které má dobrý základ v rodině a ve škole. Když jste na sociální síti, Elin vidí stejný obsah jako vy a modeluje, jak působí na vaše emoce a vaši psychiku.  Elin by pak měla vytvářet takové stimuly – například zprávy nebo obrázky, které na uživatele působí tak, že „"neutralizují"“ to, co do té doby viděl. Pokud to nezafunguje, tak Elin nabízídne uživateli okamžitou emoční podporu. V tuto chvíli máme přibližně 30 tisíc tisíc aktivních uživatelů.

 To nejsou malá čísla. Je z vašeho pohledu možný i pozitivnější vývoj této technologie? Nemám věšteckou kouli, ale zkusím to. Může přiletět černá labuť, a proto je dobré být připravený na vše. Být odolný. Držel bych se doporučení filozofa Nassima Nicholase Taleba při aplikaci „tzv. barbellovské strategie“ známé ve světě financí. Budu pořád dělat to, co dělám – svou práci, třeba i nudnou, a vedle toho si budu hrát s AI a vytvářet něco, co mě zajímá, baví. Nic moc tímto neriskuji. Takto by to mělo fungovat i v tom školství. Učitelé budou pořád vyučovat  čtení, psaní, počítání a nezapomínejme na tělocvik. A vedle může existovat metaforicky řečeno „Smíchovská průmyslovka“. Tam to funguje tak, že kromě normálního penza výuky dávají prostor na rozvoji startupů a talentům v této oblasti. Zkrátka to nudné je esence k přežití, ten zbytek pak prostor pro rozvoj. Pak se nemusíme AI bát.

Jan Romportl vystudoval umělou inteligenci a filozofii na Západočeské univerzitě v Plzni. Tam také do roku 2015 vyučoval. Poté působil ve společnosti O2, kde vedl tým, který se zabývá zpracováním dat a strojovým učením. Nyní funguje jako nezávislý AI konzultant a spoluzakladatel AI startupu Elin.ai. Patří k propagátorům kybernetiky a umělé inteligence a publikuje na toto téma v odborných časopisech.