Na myslící „roboty“ se lidstvo těšilo jako na zázračné pomocníky až do chvíle, než se umělá inteligence (AI) stala myslitelnou realitou, jež kromě slibovaného znásobení lidských schopností s sebou přináší i vážné otázky. Zmiňme zde alespoň dvě: za prvé, může se AI stát inteligentnější než člověk, vymknout se kontrole a člověka si porobit či ho eliminovat? Za druhé, může se v důsledku působení AI změnit lidská mysl natolik, že se v budoucím světě přestane orientovat?
První otázce se věnuje Nick Bostrom v knize Superinteligence: Budou myslící stroje naší zhoubou? (Prostor, Praha 2017), v níž ovšem opomíjí podmínku, bez které lze sotva očekávat, že by stroje samy sebe zdokonalovaly, totiž vůli tak činit. To je bez vyspělé formy uvědomování sebe samého sotva myslitelné. Možnost převahy AI nad lidstvem je navíc ztížena dalšími okolnostmi. Mezi ty triviální patří tzv. metoda izolace: jakýkoli stroj, který jsme vyrobili, můžeme prostě „vytáhnout ze zásuvky“. Také se může ukázat limitující, že AI prostě nikdy správně nepochopí věty „Anička snědla celý talíř“ nebo „Ta konvice už vaří“. Rovněž tak jsou v úvahách o AI na poměrně tenkém ledě i jednodušší koncepty než jáství, například motivace a pudy. Navíc existuje stále na člověku závislá odkázanost AI na vnějších energetických a materiálových zdrojích, nemluvě o možných katastrofách ve vývoji lidstva.
Zdá se tedy trefným výrok Andrewa Nga ze Stanfordovy univerzity: „Bát se superinteligentních robotů, co by zotročily nebo vyhubily lidstvo, je asi jako bát se přelidnění na Marsu. V zásadě je to možné, ale nyní irelevantní.“ Největším nepřítelem člověka totiž stále je a ještě dlouho bude – zase jenom člověk.
Je mozek připraven?
Tento článek je součástí balíčku PREMIUM.
Odemkněte si exkluzivní obsah a videa!
