Vědci už předvídají šíření koronaviru

Barbora Dubanská

Umělá inteligence pomáhá zachraňovat životy. Co když robot selže? „Postih se pak uplatní i vůči vývojáři,“říká v rozhovoru pro LN advokátka Barbora Dubanská.

LN Věnujete se oblasti práva digitálního zdravotnictví. Co všechno zahrnuje a kde jej lze využít?

Otázka digitálního zdravotnictví souvisí s rozvojem umělé inteligence a zpracováním tzv. big dat. Zdravotnictví je jeden ze sektorů, jichž se tento rozvoj také dotkl. Bohužel digitalizace do tohoto odvětví dorazila výrazně později než například do automobilového průmyslu. Konkrétně jde o využívání umělé inteligence a big dat při poskytování zdravotní péče. Lze je využít na několika úrovních – od poskytovatelů zdravotní péče (nemocnice, lékaři) přes výrobce léčiv až po zdravotní pojišťovny a v neposlední řadě pacienty.

LN Jak konkrétně?

Velmi různorodě, navíc řada oblastí ještě ani nebyla objevena. V Česku elektronizace zdravotnictví začíná elektronickým receptem a plánovaným lékovým záznamem. Sdílení informací mezi lékaři, respektive lékárníky, je totiž klíčem ke všemu. Z pohledu pacienta je velmi důležité, aby měl záruku, že jeho lékař pracuje se všemi dostupnými daty. Dokonalá výměna informací mezi lékaři, kteří pečují o jednoho pacienta, je velice důležitá – a to umožňuje právě elektronický zdravotní záznam.

LN Co otázka bezpečnosti? Například vzhledem k nedávným hackerským útokům na nemocnici v Benešově...

Ano, zájem o tato data je extrémní, protože jsou to nejcitlivější data. Otázka má dvě roviny – právní a technickou. Riziko souvisí s ochranou osobních údajů a také s tím, jaký výklad určí Úřad pro ochranu osobních údajů a jakým způsobem se budou případně zveřejňovat data z registrů. Když ale mluvím s různými IT odborníky, jsou zastánci toho, aby se zdravotnictví plně digitalizovalo.

LN Umožňuje digitalizace i vylepšení zdravotní péče?

Ano, zejména zlepší komunikaci a předávání dat o pacientovi mezi lékaři. Vytvářejí se však i nástroje, které úplně nahradí některé funkce lékaře. Například v oblasti diagnostiky jsou to nástroje, které zpracují řadu odborných článků či manuálů odborných společností a vyhodnotí třeba to, jak postupovat, když se vyskytne konkrétní onemocnění.

Pacientovi je na základě těchto parametrů nabídnut konkrétní léčebný plán. Lékař pak zvolí dvě varianty léčebného plánu a přístroj je v časové ose srovná vedle sebe. Při vší úctě k lékařům, není možné po nich požadovat, aby znali všechna nejnovější doporučení či články, mnohdy i protichůdné. Zpracováním dat a jejich analýzou se lékaři významně usnadní práce a třeba i zrychlí proces zahájení léčby.

LN Máte tedy pocit, že výhody převládají nad možnými riziky?

Ano, jako právník ale biji na poplach a říkám, že nemůžeme pouze sedět se založenýma rukama. Musíme včas zakročit ve smyslu právní ochrany, technického a organizačního zajištění proti hackerským útokům, ale i při řešení případné odpovědnosti, kdy se lékaři a pacienti na takový přístroj spoléhají. Evropská komise ovšem už nyní vytváří etické standardy při využívání umělé inteligence. Například v Číně si vzali za cíl být jedničkou v oblasti umělé inteligence, avšak regulace tam jde trochu stranou.

LN Jak to konkrétně v Číně funguje?

Vývoj jde dopředu, avšak legislativa pokulhává. Příklad můžeme nalézt v moderní terapii, jíž se upravují geny nebo buňky. V Česku je platné evropské nařízení o moderní terapii – podobně jako v USA –, které stanoví velice přísný proces. Bohužel v Číně probíhá hodně výzkumů v této oblasti, ale samotný proces není nijak legislativně ošetřen. To sice umožňuje rychlý vývoj léčebných postupů či použití umělé inteligence, ale bez dostatečné záruky pro pacienty.

LN Jinými slovy, my se to snažíme regulovat, ale na druhém konci světa to moc neřeší...

Přesně tak. Další příklad je evropské nařízení o ochraně osobních údajů, které by nás mělo chránit, ale občas vývoj umělé inteligence do značné míry blokuje. V Česku se úřady zdráhají nějaké přístupy povolit, i když svět kolem nás už s umělou inteligencí pracuje a služby na jejích principech se využívají. Například v Německu již platí nový zákon o elektronizaci zdravotnictví, ve Švýcarsku jsou pojišťovnami hrazeny telemedicínské služby. My jsme pak možná zbytečně konzervativní, a proto brzdíme rozvoj využívání dat v českém zdravotnictví. Přitom čeští občané hned za hranicemi tyto služby využívat mohou, a to včetně všech rizik s tím spojených.

LN Je možné nějaké využití umělé inteligence při současné epidemii koronaviru?

Již se využívá při detekci nemoci a propojení informací do celého světa. Vyhodnocují se webové stránky, nové reporty a posty na sociálních médiích, analyzují se informace. Vědci využívají techniky strojového učení a snaží se využít jemné náznaky pro predikci dalšího šíření.

Například kanadská platforma pro umělou inteligenci Bluedot předvídala šíření současného koronaviru. Bohužel zatím nejsou výsledky těchto predikcí stoprocentní a odborná veřejnost se zdráhá na ně spoléhat.

LN Jaké jsou etické mantinely využívání umělé inteligence ve zdravotnictví?

Ještě nejsou pevně vytvořeny, což mne děsí. Problémem je, že velká pozornost se soustředí právě na automobilový průmysl, chytré hodinky a podobně, ale sektor zdravotnictví jde trochu stranou. V obecné rovině vznikly na úrovni EU první návrhy pravidel etiky AI. V oblasti zdravotnictví tak budou zatím používány tyto obecné principy, které však nemusejí vždy zohledňovat specifika zdravotnického sektoru.

LN Proč je to problém?

Umělá inteligence skýtá ohromný potenciál a poskytne nástroje, které si dnes možná ještě ani neumíme představit. S automatizovaným rozhodováním, které může mít dalekosáhlé dopady, je ale vždy spojena etická rovina. Jako mají svá etická pravidla lékaři,

Vystudovala Univerzitu Karlovu ■

v Praze a absolvovala pobyty na univerzitách v Düsseldorfu a Lisabonu. Titul LL.M. získala v rámci postgraduálního studia na University of Cambridge v oboru EU a obchodní právo.

Specializuje se na hospodářskou ■

soutěž, farmaceutické právo

a regulatorní otázky práva EU.

Loni na podzim se stala partnerkou advokátní kanceláře Taylor Wessing.

LN Nedávno byla zveřejněna studie, která měřila, jak jsou stroje úspěšné při diagnóze melanomu. Počítače odhalily víc případů než lékaři. Kdyby takový software fungoval v praxi, byl by každý lékař povinen si jej pořídit?

To je dobrý příklad. V oblasti radiologie už víme, že procento úspěšnosti strojů je ještě vyšší než u lékařů. Nicméně existují i oblasti, kde umělá inteligence není tak dobře vytrénovaná. Jde pak o definici standardů péče a o to, zda lékař postupuje de lege artis. Dokážu si představit, že postupem času, jestliže se software stane přístupným a i hrazeným ze strany zdravotních pojišťoven, by toto řešení mělo být součástí postupu pravidel umění lékařského.

V Číně je sice velmi rychlý vývoj léčebných postupů či použití umělé inteligence, avšak bez dostatečné záruky pro pacienty

LN Funguje vůbec něco takového u nás?

V Česku jsou některé aplikace, které mají status zdravotnických prostředků a některé zdravotní pojišťovny je hradí. Je to třeba v oblasti kardiologie – EKG, kdy přístroj na dálku měří EKG a je napojen na kardiologické centrum. Také existují různé přístroje a aplikace v telefonu pro sledování diabetu. Tedy v současné době se stále častěji uplatňují spíše aplikace a nástroje pro sledování zdravotního stavu pacienta na dálku.

LN Kdo je za to ale zodpovědný, pokud přístroj nerozpozná onemocnění? Šlo by o vadu způsobenou výrobkem?

Ano, jinak se totiž ve zdravotnictví aplikuje institut zavinění. Když lékař použije špatný skalpel, nese objektivní odpovědnost. Stejně tak by se dalo dovodit v tomto případě. Následně se uplatní postih vůči vývojáři. V praxi jsem ale ještě takový konečný rozsudek neviděla. Bude to určitě do budoucna velmi zajímavé. Poměrně významně se ale tato problematika už řeší v oblasti autonomních vozidel.