Chytrý telefon a notebook s logy společnosti OpenAI a chatbota ChatGPT v italské Mantě nedaleko Turína 4. října 2023. (Marco Bertorello / AFP prostřednictvím Getty Images)
Společnost OpenAI 25. srpna oznámila, že zablokovala skupinu účtů ChatGPT napojených na International Burke Institute, který má být falešným think-tankem sloužícím jako zástěrka pro skrytou ruskou vlivovou operaci.
Vyšetřování, které začalo prověřováním příspěvků na sociálních sítích, přivedlo společnost k odhalení „mnohem rozsáhlejší vlivové operace soustředěné kolem webových stránek obsahujících zkopírované a nesprávně připisované akademické práce“, uvedla OpenAI ve zprávě.
Součástí podvrženého obsahu byl také „index suverenity“, který vykresloval Rusko v příznivém světle. Síť zároveň zastírala svůj ruský původ.
„Ačkoli se zdá, že kampaň oslovila relativně malé publikum, její propracovaná konstrukce ji odlišuje od jiných vlivových operací napojených na Rusko, které jsme narušili od začátku války na Ukrajině,“ informovala OpenAI.
Provozovatel účtů zadával ChatGPT pokyny k vytváření komentářů, které byly zveřejňovány převážně v angličtině na platformách Substack, Telegram, X, Facebook a LinkedIn. Provozovatel také zadával ChatGPT pokyny, aby odstranil jakékoli jazykové stopy naznačující, že provozovatelé jsou Rusové.
„Protože přístup k našim modelům z Ruska nepovolujeme, používali k přístupu na naši platformu [virtuální privátní sítě],“ uvedla OpenAI.
Většina vytvořených komentářů propagovala články z International Burke Institute, který se prezentoval jako institut „komunity odborníků“ sídlící v Izraeli, uvedla OpenAI.
Institut na svých internetových stránkách uvádí řadu odborníků, včetně několika amerických profesorů.
OpenAI zjistila, že články byly těmto odborníkům připisovány nesprávně a zřejmě byly zkopírovány z internetových zdrojů.
Deník Epoch Times oslovil profesorku mezinárodních vztahů a odbornici na řízení a regulaci umělé inteligence Susan Aaronsonovou z Univerzity George Washingtona, která je na stránkách institutu uvedena jako odbornice. Aaronsonová potvrdila, že o této organizaci nikdy neslyšela.
„Nic o tom nevím a nejsem s touto organizací nijak spojena,“ sdělila Aaronsonová pro Epoch Times.
Institut odmítl tvrzení, že jde o falešnou ruskou operaci, a 26. srpna sdělil, že je nezávislou výzkumnou institucí.
Podle OpenAI byly články institutu zkopírovány ze skutečných akademických prací a zřejmě koncipované někým, kdo mluví některým slovanským jazykem.
„Podle našich nejlepších poznatků jde o novou a dosud nezaznamenanou skrytou vlivovou kampaň,“ podotkla OpenAI. „Jejím nejvýraznějším rysem je vytvoření ‚indexu suverenity‘, který údajný ‚think-tank‘ propagoval s cílem vyzdvihovat Rusko a očerňovat západní země.“
„Je to poprvé, co jsme narušili vlivovou operaci napojenou na Rusko, která byla takto propracovaná,“ dodala OpenAI.
Operace byla podle vyšetřování zaměřena především na propagaci článků institutu prostřednictvím příspěvků a falešných účtů na sociálních sítích. Provozovatelé také reagovali na skutečné uživatele a odkazovali je na stránky institutu.
Podle OpenAI případ ukázal, jak mohou škodliví aktéři zneužívat umělou inteligenci (AI) k ovlivňování veřejnosti.
Překlad byl redakčně zkrácen.
–ete–
-etcz-
Comments