Špičkové aplikace umělé inteligence jsou vystaveny v Pavilonu umělé inteligence v parku Zhangjiang Future Park během státem organizované prohlídky pro média v Šanghaji v Číně dne 18. června 2021. (Andrea Verdelli / Getty Images)
Komentář
Jeden z předních čínských modelů umělé inteligence (AI), GLM-5.2 společnosti Z.ai, se v některých ukazatelích kybernetické bezpečnosti blíží překonání amerických modelů.
Společnost Z.ai, dříve známá jako Zhipu, byla loni zařazena na obchodní černou listinu amerického ministerstva obchodu. Někteří její akcionáři jsou podle dostupných informací ovládáni čínským režimem a firma údajně podporuje vojenský rozvoj Číny.
Její volně dostupný model umělé inteligence by nyní mohli hackeři a teroristé využít k vyvolání globálního chaosu a ničení.
Model přímo konkuruje modelu Claude Opus 4.8 společnosti Anthropic, přičemž pro uživatele stojí přibližně polovinu až osminu jeho ceny. Na rozdíl od čínského DeepSeeku, který ohromil svět levným chatbotem, GLM-5.2 soupeří s nejlepšími americkými systémy v oblasti AI agentů, dlouhodobého plánování, programování nad rozsáhlými repozitáři, testování i opakovaného iterativního zpracování. V důsledku toho tento systém používá mnoho informatiků a inženýrů ze Silicon Valley.
Základní model společnosti Z.ai je zdarma a v režimu open-weight, což znamená, že si jej lze stáhnout, upravit a provozovat na vlastním zařízení. Na rozdíl od open-source však data i metody trénování zůstávají neveřejné.
Přesto už společnost ani státy nemohou jeho fungování zablokovat ani kontrolovat. Jakmile byl systém zveřejněn, mohou jej hackeři a teroristé využívat k vyhledávání a zneužívání zranitelností – ať už prostřednictvím kybernetických útoků, rozsáhlých cílených dezinformačních kampaní, vývoje nových biologických zbraní nebo odhalování dosud neznámých slabin společnosti.
Pokud se v budoucnu podaří vyřešit omezení spojená s energií a výpočetním výkonem i pro menší aktéry, mohli by pomocí open-weight modelů rekurzivně zdokonalovat umělou inteligenci až do bodu, kdy dosáhne superinteligence, vymkne se kontrole, nebo obojího.
Nízká cena modelu GLM-5.2 zvýší jeho rozšíření po celém světě a možnost provozovat jej lokálně poskytne hackerům a teroristům nástroj, který si mohou soukromě přizpůsobit a využít k prosazování svých škodlivých cílů. Model údajně dokáže nalézt bezpečnostní zranitelnost přibližně za 17 centů (necelé 4 koruny) a ruskojazyční hackeři si už během několika týdnů od jeho zveřejnění vyměňovali postupy, jak obejít jeho bezpečnostní omezení.
Comments