Sztuczna inteligencja w NHS pomaga lekarzom. Analizuje zdjęcia rentgenowskie, podsumowuje rozmowy z pacjentami, pomaga przygotowywać dokumentację. Sztuczny pomocnik sporadycznie się myli, ale jeśli zrobi gafę to kto odpowiada za jej skutki?
W Wielkiej Brytanii odpowiedzialność za szkody wyrządzone pacjentowi może spaść na lekarza lub publiczną służbę zdrowia, nawet jeśli błąd popełniła sztuczna inteligencja.
Sztuczna inteligencja w NHS
Lekarz korzystający z narzędzia AI może zostać pozwany za zaniedbanie, mimo że działał na podstawie rekomendacji. Na takie ryzyko wskazuje Medical Protection Society reprezentujący lekarzy w sprawach dotyczących błędów medycznych. MPS ostrzega, że lekarze mogą stać się ostatnim ogniwem, na które spada cała wina za błędy algorytmów.
A skala wykorzystania sztucznej inteligencji w brytyjskim systemie ochrony zdrowia rośnie z roku na rok. Narzędzia AI wspierają m.in.:
• analizę badań obrazowych,
• tworzenie podsumowań wizyt lekarskich,
• przygotowywanie dokumentacji.
– Luka między technologią a prawem przestaje być małym odstępem. Zaczyna przypominać rozszerzającą się przepaść – podkreśla dr Sarah Townley z MPS.
Co jeśli algorytm przeoczy raka?
MPS wskazuje hipotetyczne scenariusze z potencjalnie dramatycznymi konsekwencjami. Pierwszy z nich dotyczy analizy zdjęcia klatki piersiowej. W razie nierozpoznania przez AI guza płuca pacjent nie otrzyma leczenia na czas. Rak będzie się rozwijał, a odpowiedzialność za skutki zostanie przypisana lekarzowi, który zaufał wynikowi analizy.
Drugi przykład dotyczy leków przeciwzakrzepowych. Błędna rekomendacja zwiększenia dawki warfaryny mogłaby skończyć się ciężkim krwawieniem i pobytem na oddziale intensywnej terapii. Mimo że lekarzowi podpowiedział algorytm, to lekarz zasiądzie na ławie oskarżonych.
Kto powinien odpowiadać?
Lekarze nie domagają się zatrzymania rozwoju AI. Wręcz przeciwnie – chcą jasnych zasad. MPS proponuje, aby sztuczna inteligencja była traktowana jak produkty objęte ustawą o ochronie konsumentów z 1987 roku.
Rząd Wielkiej Brytanii i NHS analizują rekomendacje i idą w kierunku rozwijania AI, ale bez zamieniania lekarzy w tarczę dla błędów algorytmów. Sztuczna inteligencja umie wiele, jednak nadal zaufanie pacjentów najlepiej buduje człowiek w białym fartuchu.
