Generativní umělá inteligence (AI): WHO vydává nové pokyny pro řízení LMM

WHO vydala nové pokyny k etice a správě velkých multimodálních modelů (LMM) pro jejich vhodné využití k podpoře a ochraně zdraví obyvatelstva. LMM je typ rychle rostoucí generativní technologie umělé inteligence (AI), která má pět širokých aplikací pro zdraví v...

1. Diagnostika a klinická péče, jako je odpovídání na písemné dotazy pacientů; 

2. Pacientem řízené použití, např. pro vyšetřování symptomů a léčby; 

3. Administrativní a administrativní úkoly, jako je dokumentace a sumarizace návštěv pacientů v rámci elektronických zdravotních záznamů; 

4. Lékařské a ošetřovatelské vzdělání, včetně poskytování simulovaných setkání s pacienty stážistům a; 

5. Vědecký výzkum a vývoj léků, včetně identifikace nových sloučenin. 

Tyto aplikace ve zdravotnictví však s sebou nesou riziko produkce nepravdivých, nepřesných, zaujatých nebo neúplných tvrzení, která by mohla poškodit lidi, kteří tyto informace používají při rozhodování o zdraví. LMM mohou být navíc školeni na datech nízké kvality nebo zaujatých, ať už z důvodu rasy, etnického původu, původu, pohlaví, genderové identity nebo věku. Existují také širší rizika pro zdravotnické systémy, jako je dostupnost a cenová dostupnost nejvýkonnějších LMM. LMM mohou také podporovat „automatizační zkreslení“ ze strany zdravotnických pracovníků a pacientů, kdy se přehlížejí chyby, které by jinak byly identifikovány, nebo se na LMM nesprávně delegují obtížná rozhodnutí. LMM, stejně jako jiné formy umělé inteligence , jsou také zranitelné vůči kybernetickým rizikům, která by mohla ohrozit informace o pacientech nebo důvěryhodnost těchto algoritmů a poskytování zdravotní péče obecněji.

Proto WHO vydala doporučení pro vlády a vývojáře LMM pro vytvoření bezpečných a účinných LMM. 

Vlády mají primární odpovědnost za stanovení standardů pro vývoj a nasazení LMM a jejich integraci a použití pro veřejné zdraví a lékařské účely. Vlády by měly investovat nebo poskytovat neziskovou nebo veřejnou infrastrukturu, včetně výpočetního výkonu a veřejných datových souborů, přístupných vývojářům ve veřejném, soukromém a neziskovém sektoru, která vyžaduje, aby uživatelé dodržovali etické zásady a hodnoty v výměna za přístup. 

· Používat zákony, zásady a předpisy k zajištění toho, aby LMM a aplikace používané ve zdravotnictví a medicíně, bez ohledu na riziko nebo přínos spojený s technologií umělé inteligence , splňovaly etické závazky a standardy lidských práv, které ovlivňují například důstojnost, autonomii nebo soukromí osoby.

· Pověřit stávající nebo novou regulační agenturu, aby posuzovala a schvalovala LMM a aplikace určené pro použití ve zdravotnictví nebo medicíně – podle zdrojů. 

· Zavést povinné audity po vydání a posouzení dopadu, včetně ochrany údajů a lidských práv, nezávislými třetími stranami, pokud je LMM nasazen ve velkém měřítku. Audity a posouzení dopadů by měly být zveřejněny 

a měly by zahrnovat výsledky a dopady rozdělené podle typu uživatele, včetně například věku, rasy nebo zdravotního postižení. 

· LMM nejsou navrhovány pouze vědci a inženýry. Potenciální uživatelé a všichni přímí i nepřímí zainteresovaní, včetně poskytovatelů zdravotní péče, vědeckých výzkumníků, zdravotnických pracovníků a pacientů, by měli být zapojeni od raných fází vývoje AI do strukturovaného, ​​inkluzivního a transparentního návrhu a měli by jim být poskytnuty příležitosti k nastolení etických otázek, vyjádření připomínek a poskytnutí podnětů k uvažované aplikaci AI .

LMM jsou navrženy tak, aby prováděly přesně definované úkoly s nezbytnou přesností a spolehlivostí pro zlepšení kapacity zdravotnických systémů a prosazování zájmů pacientů. Vývojáři by také měli být schopni předvídat a porozumět potenciálním sekundárním výsledkům. 

*** 

Zdroj: 

WHO 2024. Etika a řízení umělé inteligence ve zdravotnictví: pokyny k rozsáhlým multimodálním modelům. Dostupné na https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y

***

Latest

Daraxonrasib schválen pro rakovinu slinivky břišní

Daraxonrasib (Rasonque od společnosti Revolution Medicines, Inc.), inhibitor...

Ledovcový kolaps vedl k seismické události v Nepálu 

Seismická událost o síle 5.2 stupně Richterovy škály zaznamenaná poblíž hranice...

Význam římského vesmírného dalekohledu Nancy Grace

Římský vesmírný dalekohled Nancy Grace (běžně označovaný jako...

NASA zve ISRO k účasti v programu Měsíčních základen

NASA pozvala ISRO (Indickou organizaci pro výzkum vesmíru), aby...

Úplné zatmění Slunce v roce 2026

Dne 12. srpna 2026 došlo k úplnému zatmění Slunce...

Umělá inteligence navrhuje kompletní funkční genomy

Model genomového jazyka Evo 2 navrhl nový...

Newsletter

Nenechte si ujít

Objevena největší fosílie ichthyosaura (mořského draka) v Británii

Pozůstatek největšího britského ichtyosaura (mořských plazů ve tvaru ryby) má...

Nová metoda, která by mohla pomoci předpovídat následné otřesy zemětřesení

Nový přístup umělé inteligence by mohl pomoci předpovídat polohu...

Program jaderné energie Spojeného království: Návrh koncepce prototypové elektrárny STEP odhalen 

Britský přístup k výrobě energie z jaderné syntézy se formoval s...

Umělá inteligence (AI) pro rychlou a efektivní lékařskou diagnostiku

Nedávné studie prokázaly schopnost umělé inteligence...

….Bledě modrá tečka, jediný domov, který jsme kdy znali

''....astronomie je pokorný zážitek, který buduje charakter. Tady je...
Tým SCIEU
Tým SCIEUhttps://www.scientificeuropean.co.uk
Scientific European® | SCIEU.com | Významný pokrok ve vědě. Dopad na lidstvo. Inspirující mysli.

Daraxonrasib schválen pro rakovinu slinivky břišní

Daraxonrasib (Rasonque od společnosti Revolution Medicines, Inc.), inhibitor rodiny RAS GTPáz, byl schválen pro léčbu dospělých s metastatickým onemocněním pankreatu...

Ledovcový kolaps vedl k seismické události v Nepálu 

Seismická událost o síle 5.2 stupně Richterovy škály zaznamenaná poblíž hranice mezi Nepálem a Čínou 26. srpna 2026 v 8:37 místního času (02:52:10 UTC)...

Význam římského vesmírného dalekohledu Nancy Grace

Římský vesmírný dalekohled Nancy Graceové (běžně označovaný jako Římský dalekohled) má být vypuštěn do vesmíru 30. srpna 2026. Bude...

ZANECHTE ODPOVĚĎ

Zadejte svůj komentář!
Zadejte své jméno zde

Z bezpečnostních důvodů je vyžadováno použití služby reCAPTCHA od společnosti Google, která podléhá Zásadám ochrany osobních údajů a Podmínkám použití společnosti Google.

Souhlasím s těmito podmínkami.