Vlastislav Bříza: AI může přesvědčit politiky, že na ně letí stovky jaderných raket. Na rozhodnutí mají minuty
Čtěte Reflex v Googlu přednostně
Nastavte si Reflex jako preferovaný zdroj a naše články uvidíte ve vyhledávání výš.
Umělá inteligence může zásadně změnit pravidla jaderného odstrašování. Falešný poplach by mohl přesvědčit politiky, že na jejich zemi míří stovky raket.
Na ověření hrozby a rozhodnutí o odvetě by přitom měli pouhých 10 až 15 minut. Bezpečnostní expert Vlastislav Bříza varuje, že AI dokáže manipulovat mnohem přesvědčivěji než dosavadní technologie.
Jaké další hrozby přináší umělá inteligence, autonomní zbraně a kybernetické útoky? A proč může být svět nebezpečnější než v době studené války?
Stovky jaderných raket míří na vaši zemi a na rozhodnutí o odvetě máte jen několik minut. Zpráva, která se dostane k politickému vedení, přitom může být zcela falešná. A právě v tom vidí bezpečnostní expert Vlastislav Bříza jedno z nejděsivějších rizik rozvoje umělé inteligence.
V Prostoru X popsal hypotetický scénář, při kterém by AI dokázala přesvědčivě zmanipulovat systémy včasného varování před jaderným útokem: „Politické vedení bude mít informaci, že na jeho stát letí stovky raket, a musí odpovědět předtím, než dopadnou.“ Na ověření hrozby a případnou reakci přitom nemusí být téměř žádný čas. „To jsou minuty, respektive maximálně 10, 15 minut,“ upozornil.
Podobně nebezpečná situace přitom podle Břízy hrozila už za studené války. Připomněl sovětského důstojníka Stanislava Petrova, který rozpoznal chybu systému včasného varování a zabránil tomu, aby byl falešný poplach vyhodnocen jako skutečný americký útok.
S nástupem umělé inteligence ale může být podobné chyby mnohem obtížnější odhalit. „Umělá inteligence je samozřejmě nepoměrně lepší, sofistikovanější, takže ta by—kdyby chtěla—tak to podá daleko přesvědčivěji,“ vysvětlil Bříza. Nebezpečí tak podle něj nespočívá pouze v tom, že se technologie zmýlí, ale že její vyhodnocení může působit natolik důvěryhodně, že mu lidé odpovědní za rozhodnutí o jaderné odvetě uvěří.
AI může změnit pravidla jaderné hry
Bříza přitom paradoxně stále považuje samotnou jadernou válku mezi velmocemi za krajně nepravděpodobnou. Systém vzájemně zaručeného zničení podle něj funguje právě proto, že obě strany vědí, že by ani první úder nezabránil ničivé odvetě. Umělá inteligence však může do této rovnováhy vnést zcela nový prvek. „Umělá inteligence je, respektive bude: skvělý sluha, ale špatný pán,“ přirovnal ji k jaderné energii. Přestože systémy pro samotné rozhodnutí o odpalu jaderných zbraní mají zůstávat pod lidskou kontrolou, AI bude podle něj stále důležitější při vyhodnocování hrozeb. A nejde o otázky, které by řešili pouze autoři sci-fi filmů. „Samozřejmě to téma je probíráno na těch nejvyšších i politických i vojenských kruzích,“ zdůraznil.
Bezpečnostní expert Vlastislav Bříza je spolu s novinářem Martinem Jonášem také autorem nové knihy Na pokraji výbuchu, v níž rozebírají současné globální hrozby, velmocenské soupeření i riziko jaderného konfliktu.
Jaké tři „balíky“ hrozeb podle Břízy dělají dnešní svět nebezpečnějším než před třiceti lety? Jak blízko jsme světu, v němž si autonomní drony samy vybírají, koho zabijí? Proč může být umělá inteligence nebezpečnější než jaderná energie a co brání velmocím dohodnout se na její kontrole? Jak snadné by bylo ochromit českou energetiku a další kritickou infrastrukturu?
Pusťte si celý Prostor X s Vlastislavem Břízou.






















