Światowa Organizacja Zdrowia (WHO) opublikowała dokument poświęcony roli sztucznej inteligencji w tworzeniu polityki zdrowotnej opartej na dowodach naukowych. Autorzy zwracają uwagę, że dotychczas dyskusja o AI skupiała się głównie na diagnostyce, leczeniu i opiece nad pacjentami. To nie wszystko, bo technologia coraz częściej wpływa także na to, jak definiowane są problemy zdrowotne, jak projektowane są rozwiązania i w jaki sposób oceniana jest ich skuteczność.

- Debata dotycząca AI koncentrowała się dotąd na opiece klinicznej. Ten dokument kieruje uwagę tam, gdzie faktycznie kształtowana jest baza dowodów: na sposób definiowania problemów, projektowania rozwiązań i oceny ich wpływu - powiedział dr Alain Labrique, dyrektor działu danych, zdrowia cyfrowego, analiz i sztucznej inteligencji WHO.

AI na każdym etapie podejmowania decyzji

W opracowaniu przeanalizowano rolę sztucznej inteligencji na kolejnych etapach procesu tworzenia polityki zdrowotnej. Obejmuje to identyfikację problemów, projektowanie działań, a następnie ich wdrażanie, monitorowanie i ewentualne modyfikacje.

WHO podkreśla, że AI oferuje potężne możliwości analityczne. Może np. pomagać w przetwarzaniu ogromnych zbiorów danych, analizowaniu badań naukowych czy modelowaniu różnych scenariuszy. Dzięki temu szybciej można zbierać informacje potrzebne do podejmowania decyzji.

Sztuczna inteligencja może pomagać w podejmowaniu decyzji, ale może też prowadzić do błędnych wniosków. Jeśli korzysta z niepełnych danych, może źle ocenić, które problemy zdrowotne są najważniejsze. Bywa też, że skupia się wyłącznie na tym, co da się łatwo zmierzyć, pomijając doświadczenia pacjentów czy lokalne uwarunkowania.

Jednym z najważniejszych problemów wskazanych przez WHO jest tzw. niesprawiedliwość epistemiczna. Chodzi o sytuację, w której systemy AI faworyzują informacje łatwe do zmierzenia i zapisane w bazach danych, a pomijają doświadczenia pacjentów, wiedzę lokalnych społeczności czy perspektywę grup, które są słabiej reprezentowane w danych. Oznacza to ryzyko, że decyzje będą opierały się wyłącznie na tym, co można policzyć, a nie na pełnym obrazie sytuacji zdrowotnej.

Potrzebne są jasne zasady

WHO podkreśla, że nie trzeba tworzyć całkowicie nowych zasad nadzorowania sztucznej inteligencji. Wiele mechanizmów stosowanych już dziś przy podejmowaniu decyzji zdrowotnych można wykorzystać także w przypadku AI. Chodzi przede wszystkim o przejrzystość działania, uwzględnianie głosu różnych grup, ochronę praw obywateli i dokładną ocenę potencjalnych zagrożeń.

Organizacja zaleca również, by jeszcze przed wdrożeniem nowych narzędzi sprawdzać, jaki mogą mieć wpływ na proces podejmowania decyzji. Po ich uruchomieniu sztuczna inteligencja nie powinna działać bez nadzoru. Jej odpowiedzi i rekomendacje powinny być regularnie kontrolowane przez ekspertów, a kluczowe decyzje nadal muszą należeć do ludzi.

- Tworzenie polityki zdrowotnej opartej na dowodach zawsze wymagało oceny sytuacji, uwzględniania kontekstu i wielu różnych perspektyw. AI może zwiększyć nasze możliwości, ale nie powinna zastępować ludzkiej debaty i podejmowania decyzji - podsumowuje dr Tanja Kuchenmüller z WHO.

Czytaj także:

Pozew przeciw AI. Chatbot udawał lekarza

WHO: 74 proc. krajów UE używa AI w diagnostyce