Může vám hackerská umělá inteligence ukrást peníze z účtu?
Technologické firmy, jež se účastní nových závodů ve zbrojení na poli umělé inteligence, se dlouhodobě předhánějí v tom, kdo nabídne „chytřejšího chatbota“. O nejnovějším modelu americké společnosti Anthropic, pojmenovaném Mythos, se ale ve veřejném prostoru mluví jinak než jako o další, vylepšené generativní AI.
Mythos by měl být alespoň podle interních testů firmy nástroj, který dokáže samostatně analyzovat složité systémy, odhalovat jejich slabiny a v některých případech je i aktivně zneužít. Anthropic tvrdí, že Mythos představuje kvalitativní skok v takzvaném reasoningu: schopnosti modelu řešit komplexní, vícekrokové problémy bez lidského vedení. V praxi to znamená lepší programování, hlubší analýzu dat a větší míru autonomie. Jenže právě tato autonomie je tím, co znepokojuje bezpečnostní experty. Firma model zatím neuvolnila veřejně a testuje ho v omezeném režimu s vybranými partnery.
Nastupuje Skynet?
O existenci modelu Mythos se veřejnost dozvěděla díky úniku informací z Anthropiku. Šlo především o zmínky v neveřejných dokumentech a testovacích výstupech. Informace o tom, že Anthropic potají „peče“ technologickou novinku, se pak objevily například na byznysovém webu Fortune.
Tajnosti, jež firma Anthropic kolem Mythu dělá, pochopitelně přispěly k poprasku a znepokojení především u laické veřejnosti. Díky chytrému obchodnímu termínu „umělá inteligence“, s nímž technologické firmy pracují, totiž významná část koncových uživatelů o AI přemýšlí ve sci-fi kategoriích, utvořených popkulturními fenomény typu filmových sérií Matrix či Terminátor.
Tento článek je součástí balíčku PREMIUM.
Odemkněte si exkluzivní obsah a videa!
