WHO vydala nové pokyny k etice a správě velkých multimodálních modelů (LMM) pro jejich vhodné použití k podpoře a ochraně zdraví populace. LMM je druh rychle rostoucího generativu umělá inteligence (AI) technologie, která má pět širokých aplikací pro zdraví in
1. Diagnostika a klinická péče, jako je odpovídání na písemné dotazy pacientů;
2. Pacientem řízené použití, např. pro vyšetřování symptomů a léčby;
3. Administrativní a administrativní úkoly, jako je dokumentace a sumarizace návštěv pacientů v rámci elektronických zdravotních záznamů;
4. Lékařské a ošetřovatelské vzdělání, včetně poskytování simulovaných setkání s pacienty stážistům a;
5. Vědecký výzkum a vývoj léků, včetně identifikace nových sloučenin.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Proto WHO vydala doporučení pro vlády a vývojáře LMM pro vytvoření bezpečných a účinných LMM.
Vlády mají primární odpovědnost za stanovení standardů pro vývoj a nasazení LMM a jejich integraci a použití pro veřejné zdraví a lékařské účely. Vlády by měly investovat nebo poskytovat neziskovou nebo veřejnou infrastrukturu, včetně výpočetního výkonu a veřejných datových souborů, přístupných vývojářům ve veřejném, soukromém a neziskovém sektoru, která vyžaduje, aby uživatelé dodržovali etické zásady a hodnoty v výměna za přístup.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Pověřit stávající nebo novou regulační agenturu, aby posuzovala a schvalovala LMM a aplikace určené pro použití ve zdravotnictví nebo medicíně – podle zdrojů.
· Zavést povinné audity po vydání a posouzení dopadu, včetně ochrany údajů a lidských práv, nezávislými třetími stranami, pokud je LMM nasazen ve velkém měřítku. Audity a posouzení dopadů by měly být zveřejněny
a měly by zahrnovat výsledky a dopady rozdělené podle typu uživatele, včetně například věku, rasy nebo zdravotního postižení.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM jsou navrženy tak, aby prováděly přesně definované úkoly s nezbytnou přesností a spolehlivostí pro zlepšení kapacity zdravotnických systémů a prosazování zájmů pacientů. Vývojáři by také měli být schopni předvídat a porozumět potenciálním sekundárním výsledkům.
***
Zdroj:
WHO 2024. Etika a správa umělé inteligence pro zdraví: pokyny k velkým multimodálním modelům. Dostupné v https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
