Ilustrační foto.
Foto: khunkornStudio / Shutterstock
Překotný nástup umělé inteligence (AI) do všech oblastí života se nevyhýbá ani medicíně. I tam však platí pravidlo o dobrém sluhovi a zlém pánovi.
Pacienti dnes využívají AI k hledání informací o svém zdravotním stavu, píšou jí příznaky, nahrávají lékařské zprávy. Do ordinací tak mohou přicházet s vlastní představou o diagnóze či možnostech léčby.
Člen pracovní skupiny pro digitalizaci České lékařské komory Pavel Sova uvádí, že snahy pacienta dozvědět se víc o svém zdravotním problému by lékaři neměli kritizovat, nýbrž ocenit. Lékařům to podle něj může ušetřit čas, zatímco aktivnější zapojení pacienta může přispět i k lepšímu dodržování předepsané léčby.
Upozornil však, že by lékař měl pacientům poradit, jak s takovými nástroji pracovat. „Naším úkolem je vysvětlit mu limity, ale i možnosti smysluplného využití AI. Doporučit důvěryhodné zdroje informací a naučit ho s těmito nástroji správně pracovat. Pacient si tak například může před návštěvou ordinace pomocí AI připravit strukturovanou anamnézu nebo časovou osu svých obtíží,“ uvedl v tiskové zprávě před konferencí praktických lékařů, která začne již zítra v Karlových Varech a která se bude zaobírat i touto tématikou.
Doktor Sova, který je sám praktickým lékařem, poukázal také na to, že jazykové modely, jako jsou ChatGPT, Gemini nebo Claude, dokážou formulovat odpovědi velmi přesvědčivě, a to i v případech, kdy jsou nepřesné, nebo dokonce chybné. Jejich sebejistý způsob vyjadřování může u pacientů vyvolat falešný dojem odbornosti a spolehlivosti poskytovaných informací.
„Veřejné modely umělé inteligence zpravidla nemají a ani by neměly mít k dispozici kompletní zdravotní historii pacienta. Nejde o certifikované diagnostické nástroje, a nelze proto zaručit správnost jejich závěrů. Mohou přehlédnout důležité souvislosti nebo poskytovat zastaralé, nepřesné či zcela smyšlené informace, které přitom znějí velmi přesvědčivě. Pokud jim pacient bezvýhradně uvěří a například odloží návštěvu lékaře, může to mít závažné, někdy i život ohrožující následky,“ popsal Sova.
AI podle něj někdy míchá realitu s fikcí, např. přisoudit pacientovi diagnózu, kterou ve skutečnosti nemá, nebo si dokonce vymyslet citaci či odkaz na neexistující odborný článek.
„Jazykový model totiž nefunguje jako knihovna ověřených faktů. Spíše připomíná knihovníka, který přečetl obrovské množství knih a na základě toho, co se z nich naučil, se snaží sestavit odpověď na naši otázku. Pokud ale něco neví, může si chybějící informace domyslet. Výsledkem tak může být velmi přesvědčivý nesmysl,“ řekl Sova.
Varoval také před nebezpečnou praxi, kdy pacienti nahrávají do veřejných chatbotů své lékařské zprávy, a sdílejí tak své citlivé zdravotní údaje. „Veřejně dostupné AI nástroje nejsou chráněny režimem lékařského tajemství,“ připomněl lékař.
Výzkumníci Cybernews v srpnu 2024 objevili nezabezpečené cloudové úložiště platformy WotNot, která firmám umožňuje vytvářet chatboty. Obsahovalo 346 381 souborů včetně zdravotních záznamů, dokladů totožnosti a životopisů, které lidé předávali prostřednictvím chatbotů. K souborům mohl přistoupit kdokoli bez hesla.
Dalším rizikem je podle Sovy schopnost umělé inteligence vytvářet věrohodně působící texty i obrazové materiály, včetně falešných lékařských zpráv nebo fotografií zdravotních nálezů, kterými se mohou pacienti snažit lékaře oklamat. „I proto je důležité, aby lékaři k předloženým informacím přistupovali kriticky a v případě pochybností ověřovali jejich pravost,“ doplnil Sova.
Užitečný nástroj pro administrativu
Doktor Sova zároveň uznává, že nové modely AI mají i své klady. „AI může převzít významnou část rutinní administrativní práce a pomáhat lékařům při klinickém rozhodování. Nemůže však plnohodnotně nahradit lidský kontakt, odpovědnost lékaře ani jeho schopnost posoudit konkrétního pacienta v širších souvislostech,“ vysvětlil.
Usnadnění chodu ordinace je jednou z věcí, kde přináší umělá inteligence prospěch. „Trendu je třeba se přizpůsobit a využít jej maximálně v náš prospěch. Tak, aby nám AI pomohla například s administrativou a abychom uměli reagovat na pacienty, kteří k nám přijdou s již ‚hotovou‘ diagnózou,“ uvedl ve zprávě doc. Svatopluk Býma, předseda Společnosti všeobecného lékařství ČLS JEP.
Prezidentka programového a organizačního výboru konference Dana Moravčíková, která provozuje praxi v Olomouci, vidí největší přínos AI v možnosti usnadnění práce praktika s nekonečným papírováním, které podle ní zabere každému lékaři až třetinu pracovní doby.
„Umím si představit, že nám AI vyvinutá speciálně pro danou oblast zdravotnictví pomůže s hlídáním různých lékových interakcí u konkrétního pacienta nebo se správným dávkováním léků upraveným na míru jeho zdravotnímu stavu. Zkrátka, že bude působit jako vhodný a použitelný asistent,“ podotkla.
I ona však varuje před přílišnou důvěrou pacientů v to, co jim „robot“ řekne. „Pacienti mohou mnohdy až naivně spoléhat na rady, které jim umělá inteligence vygeneruje, a ohrozit tak nejen své zdraví, ale i zkomplikovat lékaři léčbu,“ poznamenala a dodala, že modely AI nenesou za chybnou diagnózu žádnou odpovědnost.
Že by umělá inteligence nahradila všeobecné lékaře, si nemyslí. „Věřím, že i do budoucna bude úspěšnost léčby vždy záviset na vzdělanosti a praktických zkušenostech skutečného, kriticky přemýšlejícího lékaře, který AI bude užívat jen jako potřebného pomocníka,“ uzavřela Moravčíková.
Comments