Ilustrace: The Epoch Times, Shutterstock
„To, čeho jsme nyní v podstatě svědky, je obdoba útoku typu denial-of-service. Skuteční výzkumníci se ztrácejí v záplavě informačního šumu,“ říká jeden z odborníků.
Akademici a odborníci na kybernetickou bezpečnost varují, že vlna falešných vědeckých studií vytvořených pomocí umělé inteligence (AI) tiše prochází kontrolami plagiátů a dostává se do vědeckých záznamů. Tento jev podle expertů ohrožuje budoucí důvěryhodnost vědeckého výzkumu tím, že posiluje dlouhodobě fungující odvětví podvodů známé jako „paper mills“.
Takzvané akademické paper mills – falešné organizace vydělávající na zfalšovaných studiích a autorství – sužují akademickou obec již řadu let a AI nyní působí jako násobitel jejich vlivu.
Někteří odborníci uvedli, že k vyřešení problému jsou zapotřebí strukturální změny, nikoli pouze lepší nástroje pro odhalování plagiátů.
Rozsah problému je ohromující – podle časopisu Nature bylo v roce 2023 po celém světě odhaleno a staženo více než 10 000 takových prací.
Univerzita v Boråsu ve Švédsku zjistila, že práce uměle vytvořené pomocí velkých jazykových modelů (LLM) se šíří napříč řadou akademických oborů a platforem, včetně služby Google Scholar. Ve studii zveřejněné v září na serveru medRxiv výzkumníci z University of Surrey konstatovali, že nástroje využívající LLM – například ChatGPT, Gemini a Claude – dokážou vytvářet věrohodně působící výzkum, který projde běžnými kontrolami plagiátů.
V květnu publikoval Diomidis Spinellis, odborník na informatiku a profesor na Aténské univerzitě ekonomie a podnikání, nezávislou studii o obsahu vytvořeném umělou inteligencí, který se objevil v časopise Global International Journal of Innovative Research. K výzkumu ho přivedlo zjištění, že jeho jméno bylo použito ve falešně připsaném autorství.
Spinellis uvedl, že pouze pět z 53 zkoumaných článků s nejnižším počtem citací v textu vykazovalo známky lidského zapojení. U zbývajících 48 článků byla hodnotícím způsobem potvrzena „vysoká pravděpodobnost“ obsahu vytvořeného umělou inteligencí.
Comments