WHO vydala nové pokyny k etice a správě velkých multimodálních modelů (LMM) pro jejich vhodné použití k podpoře a ochraně zdraví populace. LMM je druh rychle rostoucího generativu umělá inteligence (AI) technologie, která má pět širokých aplikací pro zdraví in
1. Diagnostika a klinická péče, jako je odpovídání na písemné dotazy pacientů;
2. Pacientem řízené použití, např. pro vyšetřování symptomů a léčby;
3. Administrativní a administrativní úkoly, jako je dokumentace a sumarizace návštěv pacientů v rámci elektronických zdravotních záznamů;
4. Lékařské a ošetřovatelské vzdělání, včetně poskytování simulovaných setkání s pacienty stážistům a;
5. Vědecký výzkum a vývoj léků, včetně identifikace nových sloučenin.
U těchto aplikací ve zdravotnictví však existuje riziko, že budou produkovat nepravdivá, nepřesná, neobjektivní nebo neúplná prohlášení, která by mohla poškodit lidi, kteří takové informace používají při rozhodování o zdraví. Kromě toho mohou být LMM vyškoleni na datech, která jsou nízké kvality nebo zkreslená, ať už podle rasy, etnického původu, původu, pohlaví, genderové identity nebo věku. Existují také širší rizika pro zdravotnické systémy, jako je dostupnost a cenová dostupnost nejvýkonnějších LMM. LMM mohou také podporovat „automatizační zaujatost“ ze strany zdravotnických pracovníků a pacientů, čímž jsou přehlíženy chyby, které by jinak byly identifikovány, nebo jsou obtížné volby nesprávně delegovány na LMM. LMM, stejně jako jiné formy AI, jsou také zranitelné vůči rizikům kybernetické bezpečnosti, která by mohla ohrozit informace o pacientech nebo důvěryhodnost těchto algoritmů a poskytování zdravotní péče v širším měřítku.
Proto WHO vydala doporučení pro vlády a vývojáře LMM pro vytvoření bezpečných a účinných LMM.
Vlády mají primární odpovědnost za stanovení standardů pro vývoj a nasazení LMM a jejich integraci a použití pro veřejné zdraví a lékařské účely. Vlády by měly investovat nebo poskytovat neziskovou nebo veřejnou infrastrukturu, včetně výpočetního výkonu a veřejných datových souborů, přístupných vývojářům ve veřejném, soukromém a neziskovém sektoru, která vyžaduje, aby uživatelé dodržovali etické zásady a hodnoty v výměna za přístup.
· Používat zákony, zásady a předpisy k zajištění toho, že LMM a aplikace používané ve zdravotnictví a medicíně, bez ohledu na rizika nebo přínosy spojené s AI technologie, splňují etické závazky a normy lidských práv, které ovlivňují například důstojnost, autonomii nebo soukromí člověka.
· Pověřit stávající nebo novou regulační agenturu, aby posuzovala a schvalovala LMM a aplikace určené pro použití ve zdravotnictví nebo medicíně – podle zdrojů.
· Zavést povinné audity po vydání a posouzení dopadu, včetně ochrany údajů a lidských práv, nezávislými třetími stranami, pokud je LMM nasazen ve velkém měřítku. Audity a posouzení dopadů by měly být zveřejněny
a měly by zahrnovat výsledky a dopady rozdělené podle typu uživatele, včetně například věku, rasy nebo zdravotního postižení.
· LMM navrhují nejen vědci a inženýři. Potenciální uživatelé a všechny přímé i nepřímé zúčastněné strany, včetně poskytovatelů zdravotní péče, vědeckých výzkumníků, zdravotnických pracovníků a pacientů, by měli být zapojeni již od raných fází AI vývoj ve strukturovaném, inkluzivním a transparentním designu a poskytnutí příležitostí k nastolení etických problémů, vyjádření obav a poskytnutí podnětů pro AI zvažovaná aplikace.
LMM jsou navrženy tak, aby prováděly přesně definované úkoly s nezbytnou přesností a spolehlivostí pro zlepšení kapacity zdravotnických systémů a prosazování zájmů pacientů. Vývojáři by také měli být schopni předvídat a porozumět potenciálním sekundárním výsledkům.
***
Zdroj:
WHO 2024. Etika a správa umělé inteligence pro zdraví: pokyny k velkým multimodálním modelům. Dostupné v https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
