WHO vydala nové pokyny k etice a správě velkých multimodálních modelů (LMM) pro jejich vhodné využití k podpoře a ochraně zdraví obyvatelstva. LMM je typ rychle rostoucí generativní technologie umělé inteligence (AI), která má pět širokých aplikací pro zdraví v...
1. Diagnostika a klinická péče, jako je odpovídání na písemné dotazy pacientů;
2. Pacientem řízené použití, např. pro vyšetřování symptomů a léčby;
3. Administrativní a administrativní úkoly, jako je dokumentace a sumarizace návštěv pacientů v rámci elektronických zdravotních záznamů;
4. Lékařské a ošetřovatelské vzdělání, včetně poskytování simulovaných setkání s pacienty stážistům a;
5. Vědecký výzkum a vývoj léků, včetně identifikace nových sloučenin.
Tyto aplikace ve zdravotnictví však s sebou nesou riziko produkce nepravdivých, nepřesných, zaujatých nebo neúplných tvrzení, která by mohla poškodit lidi, kteří tyto informace používají při rozhodování o zdraví. LMM mohou být navíc školeni na datech nízké kvality nebo zaujatých, ať už z důvodu rasy, etnického původu, původu, pohlaví, genderové identity nebo věku. Existují také širší rizika pro zdravotnické systémy, jako je dostupnost a cenová dostupnost nejvýkonnějších LMM. LMM mohou také podporovat „automatizační zkreslení“ ze strany zdravotnických pracovníků a pacientů, kdy se přehlížejí chyby, které by jinak byly identifikovány, nebo se na LMM nesprávně delegují obtížná rozhodnutí. LMM, stejně jako jiné formy umělé inteligence , jsou také zranitelné vůči kybernetickým rizikům, která by mohla ohrozit informace o pacientech nebo důvěryhodnost těchto algoritmů a poskytování zdravotní péče obecněji.
Proto WHO vydala doporučení pro vlády a vývojáře LMM pro vytvoření bezpečných a účinných LMM.
Vlády mají primární odpovědnost za stanovení standardů pro vývoj a nasazení LMM a jejich integraci a použití pro veřejné zdraví a lékařské účely. Vlády by měly investovat nebo poskytovat neziskovou nebo veřejnou infrastrukturu, včetně výpočetního výkonu a veřejných datových souborů, přístupných vývojářům ve veřejném, soukromém a neziskovém sektoru, která vyžaduje, aby uživatelé dodržovali etické zásady a hodnoty v výměna za přístup.
· Používat zákony, zásady a předpisy k zajištění toho, aby LMM a aplikace používané ve zdravotnictví a medicíně, bez ohledu na riziko nebo přínos spojený s technologií umělé inteligence , splňovaly etické závazky a standardy lidských práv, které ovlivňují například důstojnost, autonomii nebo soukromí osoby.
· Pověřit stávající nebo novou regulační agenturu, aby posuzovala a schvalovala LMM a aplikace určené pro použití ve zdravotnictví nebo medicíně – podle zdrojů.
· Zavést povinné audity po vydání a posouzení dopadu, včetně ochrany údajů a lidských práv, nezávislými třetími stranami, pokud je LMM nasazen ve velkém měřítku. Audity a posouzení dopadů by měly být zveřejněny
a měly by zahrnovat výsledky a dopady rozdělené podle typu uživatele, včetně například věku, rasy nebo zdravotního postižení.
· LMM nejsou navrhovány pouze vědci a inženýry. Potenciální uživatelé a všichni přímí i nepřímí zainteresovaní, včetně poskytovatelů zdravotní péče, vědeckých výzkumníků, zdravotnických pracovníků a pacientů, by měli být zapojeni od raných fází vývoje AI do strukturovaného, inkluzivního a transparentního návrhu a měli by jim být poskytnuty příležitosti k nastolení etických otázek, vyjádření připomínek a poskytnutí podnětů k uvažované aplikaci AI .
LMM jsou navrženy tak, aby prováděly přesně definované úkoly s nezbytnou přesností a spolehlivostí pro zlepšení kapacity zdravotnických systémů a prosazování zájmů pacientů. Vývojáři by také měli být schopni předvídat a porozumět potenciálním sekundárním výsledkům.
***
Zdroj:
WHO 2024. Etika a řízení umělé inteligence ve zdravotnictví: pokyny k rozsáhlým multimodálním modelům. Dostupné na https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
