Umělá inteligence se dnes pro mnoho lidí stává důležitým rádcem, kterého používají k řešení různých životních problémů, a to včetně těch zdravotních. Medicínské a diagnostické schopnosti veřejně dostupných chatbotů, jako je třeba ChatGPT, Claude či Gemini, mají ale v současnosti k dokonalosti daleko. Tyto modely totiž mohou čerpat i z nedůvěryhodných zdrojů a následně dělat chyby či halucinovat.
Výše uvedené samozřejmě neznamená, že AI nemůže být ve zdravotnictví užitečná, místo běžných chatbotů jsou k tomu ale potřeba specializované nástroje. A právě jeden takový již delší dobu vyvíjí česká společnost HealthyNess, jejíž platforma Nessesity má už brzy sloužit především praktickým lékařům, kterým pomůže při počátečním rozhodování o diagnóze.
Za projektem stojí tým lékařů, mediků, IT specialistů a odborníků na umělou inteligenci z Česka i zahraničí. Jejich cílem bylo vytvořit řešení, které bude fungovat jako podpůrný nástroj při diagnostice. Nessesity dokáže vyhledávat v různých medicínských zdrojích a následně získané informace ověří.
„Naším cílem určitě není, aby AI sama stanovila diagnózu rychleji než lékař. Chceme doktorům výrazně zkrátit tu část práce, která spočívá v získávání a ověřování relevantních medicínských informací, aby mohli více času věnovat samotnému klinickému rozhodování a pacientovi,“ uvádí pro Euro.cz spoluzakladatel a jeden ze šéfů HealthyNess Matyáš Hronek.
Jen o co největší množství dat nejde
Jedním z hlavních rozdílů oproti běžným generativním chatbotům má být způsob, jakým Nessesity pracuje se zdroji. O tom, které informace systém využívá, rozhoduje odborná zdravotnická rada společnosti. Podle Hronka přitom není cílem vytvořit co největší databázi, ale soustředit se na důvěryhodnost a relevanci jednotlivých zdrojů.
V oblasti léčiv a farmakoterapie Nessesity využívá například informace Státního ústavu pro kontrolu léčiv (SÚKL), vedle toho pracuje s doporučenými medicínskými postupy (guidelines), vědeckými publikacemi, SNOMED CT (zdravotnická terminologie) a dalšími odbornými databázemi a standardy. Výběr použitých zdrojů se má zároveň lišit podle země, v níž bude systém nasazen.
„Nemyslíme si, že dává smysl postavit jeden univerzální evropský korpus a používat ho všude stejně. Vedle mezinárodně uznávaných zdrojů proto prioritizujeme ty, které mají nejvyšší relevanci a hierarchii právě v daném zdravotnickém systému,“ vysvětluje spoluzakladatel a druhý šéf společnosti Jáchym Vrtiška s tím, že v Česku budou mít pochopitelně přednost zdroje odpovídající zdejším medicínským postupům a prostředí.
Technologicky je pak Nessesity připravena také na práci s anonymizovanými daty pacientů. HealthyNess pro ně vytvořila samostatný modul oddělený od běžné práce s odbornými zdroji. Firma počítá s tím, že by se informace mohly využívat v situacích, kde to bude medicínsky přínosné a zároveň to nebude zakazovat legislativa dané země.
Více práce s ověřením než s hledáním
Zásadním problémem při nasazování generativní AI do zdravotnictví jsou takzvané halucinace, kdy model uživateli předloží nepravdivou či smyšlenou informaci. Dle vedení HealthyNess věnovala firma při vývoji svého řešení jejich minimalizaci velkou pozornost, jedině tak bylo možné zajistit, že bude systém skutečně efektivní a přínosný.
„Na samotné dohledání informace navazuje výrazně rozsáhlejší verifikační proces, který kontroluje, zda byla informace získána správně, zda skutečně odpovídá původnímu zdroji a zda celý postup splnil naše nastavené protokoly,“ popisuje Vrtiška. Podle něj systém na ověření správnosti každého poskytnutého údaje potřebuje násobně více výpočetní kapacity než na její nalezení. Právě verifikační vrstvu proto HealthyNess označuje za jednu z nejdůležitějších částí celého produktu.
Nejprve pro praktické lékaře
Nessesity se nyní nachází ve fázi intenzivního interního testování, během něhož se ještě vylepšují schopnosti systému dohledávat správné informace ve správných zdrojích a zasadit je do odpovídajícího kontextu. Teprve po vyhodnocení interních zkoušek má následovat distribuce vybraným lékařům a ověřování produktu v ostrém provozu.
V první fázi reálného nasazení zamíří řešení především do primární péče, tedy k praktickým lékařům. Právě ti se během každodenní práce setkávají se širokým spektrem zdravotních problémů a musí se rychle rozhodovat, zda budou pacienta léčit sami, provedou další vyšetření, nebo jej odešlou ke specialistům. V budoucnu chce každopádně HealthyNess přidávat další medicínské odbornosti.
Architektura systému je podle firmy vytvořena tak, aby specializované obory nebylo nutné vyvíjet jako samostatné produkty – mohou vznikat coby další vrstvy stávajícího řešení. Sami lékaři budou moci využívat přímo platformu Nessesity, zároveň s tím ale společnost plánuje, že se její API stane součástí nemocničních a ambulantních informačních systémů. „Naším cílem je především to, aby lékař kvůli Nessesity nemusel zásadně měnit způsob práce,“ říká Hronek.
Podobně zeširoka HealthyNess přistupuje k obchodnímu modelu. Službu chce nabízet jednotlivým lékařům i větším zdravotnickým zařízením, přičemž do budoucna vidí prostor rovněž pro spolupráci se zdravotními pojišťovnami. Firma současně uvažuje o propojení edukační části platformy se systémem celoživotního vzdělávání doktorů, kdy by aktivita uživatele na Nessesity mohla být uznávána například prostřednictvím vzdělávacích kreditů či bodů.
Výhledově bude Nessesity přístupná i pacientům
Přesný termín veřejného komerčního spuštění své technologie zatím vedení HealthyNess nestanovilo. Předcházet mu bude postupné nasazování a spolupráce s vybranými lékaři, od nichž chce společnost získat data o fungování produktu v reálném prostředí a také další zpětnou vazbu.
Jen u zdravotníků přitom plány nekončí, do budoucna hodlá HealthyNess část svých služeb zpřístupnit i samotným pacientům. Umělá inteligence by jim mohla pomoci například s posouzením naléhavosti zdravotního problému, přípravou informací před cestou do ordinace nebo s rozhodnutím, zda je vhodnější osobní návštěva, telemedicínská konzultace či jiná forma kontaktu se zdravotníkem.
Hronek každopádně zdůrazňuje, že nechce vytvořit virtuálního lékaře, který by uživatelům samostatně stanovoval diagnózy. „Klíčové je, aby pacient vždy věděl, co má v ruce a jaké jsou limity daného nástroje. Úlohou systému pro pacienta nemá být lékaře nahradit, ale pomoci člověku lépe se orientovat ve vlastní situaci a přijít k lékaři informovanější,“ míní Vrtiška.
Právě nalezení správné hranice mezi pomocí pacientovi a nahrazováním zdravotníka bude podle něj jednou z důležitých otázek dalšího rozvoje AI v medicíně. Nessesity má uživateli především pomoci lépe pochopit vlastní situaci, položit správné otázky a zvolit odpovídající typ zdravotní péče. „Konečné medicínské rozhodnutí ale musí zůstat na zdravotnickém profesionálovi,“ uzavírá poradce HealthyNess Pavel Hronek.
ČLÁNKY DO MAILU