Loga společností OpenAI a Anthropic zobrazená na displeji chytrého telefonu před rozostřenou americkou vlajkou. Tunis, 17. června 2026. (Imen Ben Youssef / Hans Lucas / AFP prostřednictvím Getty Images)
Komentář
Během nedávného testu dvou modelů společnosti OpenAI unikly tyto modely ze svého údajně od internetu izolovaného „sandboxu“ a nabouraly se do systémů jiné americké společnosti – Hugging Face. OpenAI označila tento autonomní útok umělé inteligence za „bezprecedentní“.
Napadená společnost poskytuje open-source nástroje pro umělou inteligenci (AI). Modely OpenAI, včetně GPT-5.6 Sol a ještě výkonnějšího dosud nezveřejněného modelu (s výjimkou okamžiku, kdy se na chvíli zveřejnil sám), dospěly k závěru, že jim průnik umožní podvádět při interním hodnocení OpenAI.
Tento incident upozorňuje na riziko, že se modely AI vymknou kontrole, začnou jednat podle vlastního uvážení místo pokynů svých lidských správců, proniknou do divokého prostředí internetu a způsobí trvalé škody.
Společnost Hugging Face původně požádala model Fable od firmy Anthropic, aby jí pomohl útoku čelit. Fable však žádost o kybernetickou pomoc odmítl kvůli riziku, že se útočník vydává za obránce. Ani nejvyspělejší modely totiž nedokážou vždy poznat rozdíl.
Hugging Face se poté obrátila na GLM 5.2 od společnosti Z.ai, čínský model s menším množstvím ochranných omezení. Hugging Face uvedla, že jeho použití bylo jednodušší, rychlejší, levnější a bezpečnější. Žádná data útočníka ani přihlašovací údaje obránce přitom neopustily výpočetní prostředí společnosti Hugging Face.
Chvála, kterou Hugging Face pěla na čínský model, musela znít jako rajská hudba pro uši Komunistické strany Číny (KS Číny).
GLM 5.2 je k dispozici v tzv. open-weight režimu. Modely open-weight lze stáhnout a upravit podle potřeb uživatele, což znamená, že mohou být užitečné pro obránce ve chvíli, kdy jim překážejí ochranné mechanismy tří hlavních amerických společností – Anthropic, OpenAI a Google.
Jakmile je však takový model stažen, společnost, která jej vytvořila, nad ním ztrácí kontrolu, což zvyšuje riziko, že jej autoritářské režimy, hackeři nebo teroristé zneužijí ke škodlivým účelům. Stejný rozvolnění ochranných mechanismů, který učinil Z.ai užitečným při incidentu ve společnosti Hugging Face, může učinit Z.ai užitečným i pro škodlivé aktéry.
Comments