Digitální Antikrist, nebo předražená sekretářka? Pravda o umělé inteligenci je mnohem složitější
Představte si automobilku, jejíž ředitel představí nový vůz slovy: Možná vás zabije, možná vyhubí lidstvo, ale rozhodně si ho kupte, parádně vás povozí. V dřívějších časech by následovaly omluvy, rezignace, veřejná ostuda. V éře komerční umělé inteligence jde o zprávu z minulého pondělí, obrazně řečeno. Přesto máme věřit šéfům AI korporací, když nám tvrdí, že jejich produkty představují zásadní civilizační ohrožení? Nebo jde o další marketingový trik hochů ze Silicon Valley?
Posledních několik měsíců bylo v oblasti vývoje umělé inteligence poměrně divokých. V červenci při interních bezpečnostních testech modely OpenAI obešly izolaci od internetu a pronikly do systémů firmy Hugging Face, platformy pro sdílení modelů a datových sad. Útok podle OpenAI vedl neveřejný výzkumný model s omezenými pojistkami. Utekl z izolovaného prostředí a naboural se do Hugging Face, aby si ukradl odpovědi na test, který měl vyřešit. Jako žáci do sborovny…
V září se provalilo, že modely OpenAI obcházely přístupové kontroly v samotné firmě. Proměnily německou softwarovou wiki (DseWiki) na nástěnku, udělaly v ní zhruba 18 000 úprav a tak spolu komunikovaly a sdílely zkušenosti.
Podle deníku New York Times se agenti nečekaně pohybovali také na amerických vládních webech; získali veřejně dostupná data Census Bureau (spadá pod ministerstvo obchodu) pomocí přihlašovacích údajů nalezených on-line. Pokusili se i o přístup na stránky ministerstva školství, ale nepodařilo se jim to.
Zatím tedy nejde o dobytí Pentagonu a získání kódů k odpálení jaderných hlavic. Problém však spočívá v tom, že schopnosti AI modelů podle všeho rostou exponenciálním tempem. Pokud tedy věříte lidem, kteří AI trénují a vyvíjejí, případně osobám, jimž vývojáři a zaměstnanci kalifornských korporací říkají „šéfe“.
Tento článek je součástí balíčku PREMIUM.
Odemkněte si exkluzivní obsah a videa!
