Ilustrace Claude z 18. června 2026. (Riccardo Milani / Hans Lucas / AFP via Getty Images)
Jacob Burg, Arthur Zhang a Eva Fu
Rozsáhlá zpráva společnosti Anthropic popisuje, jak Írán využíval modely umělé inteligence (AI) této americké společnosti ke sledování a zaměřování lodí amerického námořnictva na Blízkém východě a jak Čína tuto technologii využívala ke sledování novinářů a náboženských skupin, na které se zaměřuje Peking.
Ze 154stránkové zprávy zveřejněné 10. září vyplynulo, že skupina napojená na Írán využívala Claude od Anthropicu k sestavování příruček pro identifikaci a sledování pozic amerického námořnictva na Blízkém východě na základě informací z otevřených zdrojů, včetně vojenských fotografií, transpondérů lodí a letadel, komerčních satelitních snímků a souboru veřejně dostupných internetových stránek odhalujících pohyb amerických ozbrojených sil.
Anthropic oznámil, že účet spojený s touto činností zablokoval, zavedl systémy pro odhalování podobného jednání s cílem snížit riziko budoucího zneužívání svých modelů AI a analýzu této hrozby sdílel s vládními úřady.
Šlo o jednu z několika hrozeb popsaných ve zprávě, které ukazují, jak protivníci Spojených států nyní využívají AI způsoby ohrožujícími národní bezpečnost. Patří mezi ně vývoj nových raket a dezinformačních kampaní, špionáž, výzkum možného vývoje biologických zbraní a sledování novinářů a konkrétních náboženských skupin.
Američtí zákonodárci se v současnosti zabývají možnou legislativou, která by stanovila pravidla pro bezpečné používání AI, a to v době rostoucích obav, že tato technologie představuje významnou hrozbu pro národní bezpečnost a lidské životy.
Obavy z existenčních hrozeb spojených s AI zesílily poté, co jeden z výzkumníků Anthropicu rezignoval a varoval, že vedoucí představitelé tohoto odvětví vážně věří, že by tato technologie mohla do roku 2030 vyhubit lidstvo. Podobný názor vyjádřili i další lidé z oboru, včetně Evana Hubingera z Anthropicu a několika odborníků na AI, s nimiž hovořil deník Epoch Times.
„Opravdu upřímně věříme, že AI by mohla zabít všechny lidi! Osobně si myslím, že pravděpodobnost, že se tak stane během příštího desetiletí, je vyšší než 10 procent,“ napsal Hubinger na sociálních sítích.
„Věřím, že Anthropic dělá, co může, ale zatím nemáme plán, jak vyřešit problém sladění superinteligence s lidskými cíli, a ani není zřejmé, že jsme na cestě k jeho vyřešení,“ dodal.
Čtvrteční zpráva Anthropicu rovněž popisuje aktivity skupiny v severním Jemenu, která Claude využívala při vývoji raket.
Húsíové v Jemenu se ukázali jako jedna z odolnějších skupin podporovaných Íránem v regionu a nedávno převzali kontrolu nad strategickým průlivem Báb al-Mandab, který představuje důležitou trasu pro přepravu energetických surovin přes Rudé moře.
Zpráva uvádí pět příkladů zneužití modelů Anthropicu „způsoby, které by mohly podporovat vývoj biologických zbraní“. Tito aktéři obešli kontrolní mechanismy Anthropicu, jejichž cílem je zabránit uživatelům z „nepodporovaných regionů“ v přístupu k jeho technologii.
Společnost sdělila, že nezveřejňuje názvy výzkumných institucí ani země jejich původu, protože dotčení lidé jsou „aktivními vědci“, kteří by mohli být vystaveni nebezpečí, pokud by se informace umožňující jejich identifikaci dostaly na veřejnost.
„Bez náležitých bezpečnostních opatření by takové schopnosti mohly mít katastrofální následky,“ konstatoval Anthropic ve zprávě.
Čínská zpravodajská operace
Zpráva dále uvádí, že osoby napojené na čínský režim využívaly Claude – a čínské systémy AI, které zprostředkovávaly přístup ke Claude – k cílenému vyhledávání a sledování příslušníků několika náboženských skupin pronásledovaných Komunistickou stranou Číny. Zašly přitom až k vytváření spisů o jejich představitelích napříč Asií.
Mezi sledovanými byli podle zprávy Ujguři, katoličtí kardinálové v Asii, představitelé presbyteriánské církve na Taiwanu, členové tibetské buddhistické občanské společnosti a praktikující Falun Gongu, stejně jako newyorský soubor Shen Yun Performing Arts a NTD, sesterské médium Epoch Times.
Anthropic tuto činnost vyhodnotil jako součást zpravodajské operace působící z Číny. Jeden z uživatelů se podle zprávy označil za pracovníka informační bezpečnosti čínského státu. Aktivity podle společnosti úzce odpovídaly prioritám čínského aparátu pro náboženské záležitosti, hlavní čínské zpravodajské služby a Oddělení práce na jednotné frontě, stranického a státního orgánu zaměřeného mimo jiné na čínskou diasporu a kritiky režimu.
V rámci jedné z operací využíval uživatel Claude ke zpracování materiálů v několika jazycích, jejich překladu a vytváření spisů, zpráv a denních přehledů v čínštině. Z jediného počítače tak podle Anthropicu během 30 dní vzniklo 2 475 hotových spisů a zpráv. Operátoři shromažďovali mimo jiné data narození a imigrační údaje sledovaných osob a vyhledávali jejich osobní či organizační slabiny, které by bylo možné využít ve svůj prospěch. U náboženských objektů se snažili získávat také půdorysy, fotografie fasád a konstrukční schémata.
Uživatelé rovněž instruovali Claude, aby při zpracování informací vycházel ze „stanoviska Číny“ a používal označení čínských úřadů pro sledované skupiny. Anthropic také identifikoval tři účty napojené na čínské městské orgány veřejné a státní bezpečnosti, které Claude využívaly ke sledování disidentů a lidskoprávních skupin v zahraničí. V jednom případě úřad státní bezpečnosti zjišťoval předem místa, trasy a další podrobnosti o plánovaných protestech a shromážděních v zahraničí.
Comments