Czy nadmierne poleganie na technologii może osłabiać kompetencje lekarza?

Rozmowa z dr Marcinem Romańczykiem, gastroenterologiem z HT Centrum Medycznego w Tychach (Klinika Gastroenterologii Akademia Śląska)

– W ostatnich latach obserwujemy dynamiczny rozwój systemów sztucznej inteligencji wspomagających diagnostykę medyczną. Wraz z dr Krzysztofem Budzyniem przeprowadził pan badania dotyczące wykorzystania AI w wykrywaniu gruczolaków jelita grubego. Co było głównym impulsem do przeprowadzenia tych analiz?

Bierzemy udział w projekcie ACCEPT, obecnie OPERA, dotyczącym efektywności wykorzystania systemów sztucznej inteligencji. To są rozwiązania pomagające wykrywać polipy w prewencji raka jelita grubego. W momencie rozpoczęcia projektu mieliśmy możliwość wykorzystania danych z badań wykonywanych u pacjentów z populacji nieprzesiewowych, czyli takich, u których prowadzone były badania diagnostyczne lub kontrolne po wcześniejszych polipektomiach. Zebraliśmy te dane i opracowaliśmy je w formie badania, które zostało finalnie opublikowane. Drugim elementem była chęć sprawdzenia, jakie są nasze zdolności wykrywania polipów, zwłaszcza gruczolaków, przed i po zainstalowaniu systemów sztucznej inteligencji w pracowniach. To był główny motywator. Wyniki nas, delikatnie mówiąc, zaskoczyły. 

– Jak dokładnie przebiegało badanie?

Przeprowadziliśmy je w czterech polskich ośrodkach endoskopowych. Nie były one wytypowane przez nas, lecz przez osoby z Uniwersytetu w Oslo oraz polskich koordynatorów projektu ACCEPT. Badanie oparliśmy na analizie wyników ponad 1,4 tys. kolonoskopii. Po zainstalowaniu modułów sztucznej inteligencji, pacjenci byli przypisywani losowo do grup: z wykorzystaniem sztucznej inteligencji oraz bez niej. Dzięki temu mieliśmy dane zarówno z klasycznych badań, jak i z badań wspomaganych AI. Wnioski są następujące: o ile sama technologia AI zwiększała wykrywalność zmian w poprzednich badaniach, to zdolność lekarzy do samodzielnego znajdowania polipów, gdy nie korzystali z jej pomocy, znacząco spadła. Wskaźnik detekcji gruczolaków (ADR) - kluczowy miernik jakości kolonoskopii, w badaniach bez wsparcia AI obniżył się z 28,4 proc. przed wdrożeniem systemu do 22,4 proc. po jego wprowadzeniu. 

–  Zakładam, że rozpoczynając badanie, spodziewaliście się, że AI poprawi skuteczność wykrywania zmian. Tymczasem badanie dostarcza pierwszych mocnych dowodów, że nadmierne poleganie na technologii może osłabiać podstawowe kompetencje kliniczne.

Postanowiliśmy sprawdzić jak sama obecność systemów AI inteligencji w pracowniach endoskopowych wpływa na lekarzy, nawet jeśli nie korzystają z nich w praktyce. Odkryliśmy, że nawet bez ich używania, pogorszyła się skuteczność wykrywania zmian w jelicie grubym.  

Celem badań nie było wskazanie, że sztuczna inteligencja jest zła, ale zrozumienie, jak wpływa na pracę lekarzy i jak można wykorzystać jej potencjał. I rzeczywiście spodziewaliśmy się, że narzędzia AI będą większym wsparciem, a okazało się, że operatorzy radzili sobie gorzej, ich czujność się zmniejszyła. Zastanawiamy się, dlaczego tak się dzieje. Możliwe są dwa scenariusze. Pierwszy zakłada, że dzięki wykorzystaniu AI operator zaczyna dostrzegać zmiany, których wcześniej nie widział, bo nie miał takich umiejętności. W efekcie, w badaniach bez sztucznej inteligencji mógłby później samodzielnie rozpoznawać więcej polipów. Drugi scenariusz wskazywał na możliwość negatywnego wpływu AI. Dobrym porównaniem jest korzystanie z aplikacji nawigacyjnych. Wiele osób dziś nie wyobraża sobie podróży bez GPS-u. Podobnie mogło być tutaj – nadmierne poleganie na systemie mogło obniżać własne umiejętności operatorów. Oczywiście możliwe jest, że w dłuższej perspektywie to się zrównoważy, jednak nasze dane pokazują spadek skuteczności wykrywania zmian. Sytuacja okazała się więc bardziej złożona niż początkowo sądziliśmy. Teraz naszym zadaniem jest znalezienie przyczyn tego zjawiska i opracowanie rozwiązań, aby możliwie w pełni wykorzystać potencjał systemów sztucznej inteligencji.

– Czy można powiedzieć, że mamy tu do czynienia z nowym zjawiskiem – pewnym „uzależnieniem technologicznym” w medycynie?

Na pewno jesteśmy uzależnieni technologicznie, choć nie jest to coś nowego – obserwujemy takie zjawisko od początku rozwoju medycyny. Przykładem są antybiotyki, dziś nie sposób wyobrazić sobie leczenia bez nich. Podobnie będzie ze sztuczną inteligencją. Niezależnie od naszych przekonań, systemy AI będą coraz powszechniejsze w medycynie. Naszym zadaniem jest teraz głęboka analiza i poświęcenie zasobów, zarówno materialnych, jak i niematerialnych, na dalsze projekty badające interakcję między sztuczną inteligencją a praktyką medyczną.

– Jak można przeciwdziałać osłabianiu czujności lekarzy w pracy z AI?

Pomysłów mamy sporo. Głównym problemem jest jednak to, że nie do końca wiemy, co dokładnie się dzieje. Musimy najpierw zidentyfikować źródło problemu, a potem szukać rozwiązań.

– Wyniki badań opublikowano w prestiżowym czasopiśmie medycznym Lancet GH i spotkały się z szerokim odzewem całego środowiska medycznego. Jak wpłyną one na szkolenie młodych lekarzy? Czy AI może im pomóc, czy raczej grozi utratą podstawowych umiejętności?

AI może być wsparciem, ale może też grozić utratą podstawowych umiejętności. W badanej przez nas populacji nie uczestniczyli początkujący operatorzy – byli to doświadczeni lekarze. W przyszłości w mojej specjalizacji AI będzie wsparciem dla lekarzy w wielu wykonywanych czynnościach. Obecnie analizowaliśmy jeden system, który wykonywał jedną funkcję. Jednak oczekujemy znacznie szerszego zastosowania, nie tylko wspomagania w wykonywaniu procedur, ale też w kwestiach administracyjnych ośrodków i analizy jakości, która obecnie w naszym kraju praktycznie nie istnieje. Młodzi lekarze będą eksponowani na systemy AI od początku swojej praktyki. Ważne jest, aby zachowali krytyczne myślenie i aktywnie rozwijali swoje kompetencje, niezależnie od wsparcia technologii. Powinni traktować AI jako narzędzie edukacyjne i pomocnicze, ale nie polegać na nim w pełni. Samokształcenie i refleksja nad własną pracą pozostają kluczowe dla jakości opieki nad pacjentem.

– Jakie kolejne kroki badawcze planuje pan w obszarze sztucznej inteligencji i endoskopii?

Badanie na pewno będzie kontynuowane w ramach kolejnych projektów. Mają one pogłębić naszą wiedzę na temat interakcji człowieka z systemami sztucznej inteligencji. Czekamy także na wyniki badania ACCEPT, które porównuje kolonoskopię z użyciem AI i bez, co pomoże zrozumieć, czy obecne systemy są faktycznie pomocne. Oprócz tego zamierzamy analizować zgromadzone dane, by lepiej zrozumieć przyczyny spadku skuteczności wykrywania zmian i opracować strategie optymalnego wykorzystania technologii w praktyce klinicznej. 

– Czy wyniki badań są powodem do niepokoju w kontekście bezpieczeństwa pacjentów i jakości medycyny?

Nie, nie jest to powód do paniki. Systemy AI są już na rynku, a ich wdrożenie w medycynie jest procesem nieodwracalnym. Wyniki badań służą raczej jako wskazówka: trzeba uważnie monitorować, jak korzystanie z AI wpływa na kompetencje lekarzy, i wprowadzać rozwiązania minimalizujące potencjalne ryzyka. To kwestia odpowiedzialnego i świadomego zastosowania technologii, a nie sygnał, by z niej rezygnować. Sztuczna inteligencja będzie nieuniknionym elementem praktyki medycznej. Jej główną rolą powinno być wsparcie lekarza – nie zastępowanie go, ale umożliwienie pracy bardziej efektywnej i bezpiecznej.  

– Jakie ma pan rady dla młodszych kolegów dotyczące wykorzystania AI?

Warto już od samego początku kształtować w sobie nawyk krytycznego myślenia i świadomego korzystania z dostępnych technologii. Kluczowe jest również utrzymywanie ciągłego samorozwoju i edukacji podyplomowej, bo to właśnie one w największym stopniu wpływają na jakość naszej pracy i na to, jak będą postrzegać nas pacjenci.