Vzpoura AI. Reálná hrozba, nebo šikovný marketing?
Temné vize o umělé inteligenci, která připraví milióny lidí o práci, vymkne se lidské kontrole, nebo dokonce povede k zániku civilizace, patřily a dodnes patří především do světa science fiction. Seriózní varování s apokalyptickými podtóny jsou však slyšet i od lidí, kteří stojí v čele nejvýznamnějších světových AI společností nebo patří mezi zakladatele samotného oboru.
Tato skutečnost činí celoplanetární debatu o umělé inteligenci tak výjimečnou: nejvážnější (protože nejpovolanější) varování přicházejí zevnitř technologických firem a vůbec průmyslu, který AI sám vyvíjí.
První varování
V květnu 2023 zveřejnilo americké Center for AI Safety stručné prohlášení o jediné větě, které se během několika hodin stalo jedním z nejcitovanějších dokumentů v historii umělé inteligence. „Snižování rizika vyhubení lidstva způsobeného AI by mělo být globální prioritou vedle dalších rizik celospolečenského významu, jako jsou pandemie nebo jaderná válka,“ stálo v textu. Pod dokument se podepsali generální ředitel OpenAI Sam Altman, šéf Google DeepMind Demis Hassabis, generální ředitel společnosti Anthropic Dario Amodei, spoluzakladatel OpenAI Ilya Sutskever i dvě z největších vědeckých autorit v oblasti strojového učení: Geoffrey Hinton a Yoshua Bengio. Poprvé se tak představitelé konkurenčních firem, které mezi sebou soupeří o prvenství ve vývoji nejpokročilejších modelů umělé inteligence, shodli na veřejném prohlášení, že technologie, kterou sami vytvářejí, může představovat existenční riziko pro celé lidstvo.
Paradox
Nešlo přitom o jednorázové gesto. Geoffrey Hinton, označovaný za jednoho z „kmotrů umělé inteligence“, krátce předtím odešel z Googlu s vysvětlením, že chce o rizicích AI mluvit svobodněji. Opakovaně upozorňoval, že vývoj postupuje mnohem rychleji, než očekával, a že existuje nezanedbatelná pravděpodobnost, že lidé jednou ztratí
Tento článek je součástí balíčku PREMIUM.
Odemkněte si exkluzivní obsah a videa!
