Subskrypcja JoVE jest wymagana do oglądania tego materiału. Zaloguj się lub rozpocznij bezpłatny okres próbny.

Artykuł metodologiczny

Powtarzalny protokół eksperymentalny do opracowywania i oceny wyjaśnialnych modeli sztucznej inteligencji w systemach opieki zdrowotnej

9 wyświetleń

⸱

DOI:

10.3791/73848

⸱

15 września 2026

 , 
1Vishwakarma University

W tym artykule

Podsumowanie

Niniejszy protokół przedstawia powtarzalny schemat postępowania w zakresie opracowywania, oceny i interpretacji wyjaśnialnych modeli sztucznej inteligencji w opiece zdrowotnej. Integruje on ustandaryzowane przygotowanie danych, rozwój modelu, techniki wyjaśnialności, ocenę ilościową oraz praktyki zapewniające powtarzalność, aby zwiększyć przejrzystość, niezawodność i przydatność kliniczną.

Streszczenie

Sztuczna inteligencja (AI) jest coraz częściej wdrażana jako wartościowe narzędzie w podejmowaniu decyzji klinicznych, prognozowaniu chorób, diagnostyce medycznej i spersonalizowanej opiece zdrowotnej. Jednak brak przejrzystości, niespójne wdrażanie metod wyjaśnialnej sztucznej inteligencji (XAI) oraz ograniczona powtarzalność pozostają głównymi barierami w godnym zaufania stosowaniu modeli AI w warunkach klinicznych. Niniejsza praca proponuje systematyczny, powtarzalny i przejrzysty protokół opracowywania, oceny i interpretacji wyjaśnialnych modeli AI w zastosowaniach medycznych. Przepływ pracy rozpoczyna się od konfiguracji środowiska obliczeniowego, po której następują: pozyskiwanie i charakterystyka danych, przetwarzanie wstępne, inżynieria cech, opracowanie modelu, optymalizacja hiperparametrów, ocena wydajności predykcyjnej, analiza wyjaśnialności, walidacja statystyczna oraz ocena powtarzalności. Protokół uwzględnia metody XAI, takie jak SHapley Additive exPlanations (SHAP), Local Interpretable Model-agnostic Explanations (LIME), Gradient-weighted Class Activation Mapping (Grad-CAM), Integrated Gradients, wizualizacja uwagi (attention visualization) oraz wyjaśnienia kontrfaktyczne, w celu generowania zarówno globalnych, jak i lokalnych interpretacji modelu. Protokół kładzie nacisk na kilka kluczowych komponentów, w tym na przygotowanie zestandaryzowanych zbiorów danych medycznych, opracowanie stabilnych modeli uczenia maszynowego, ocenę wydajności predykcyjnej, generowanie istotnych klinicznie wyjaśnień oraz statystyczną ocenę powtarzalności w powtórzonych eksperymentach. Dzięki zintegrowaniu opracowania modelu, wyjaśnialności, oceny ilościowej i jakościowej, walidacji statystycznej oraz oceny powtarzalności w ujednoliconym przepływie pracy, protokół ten zapewnia kompleksowe ramy dla tworzenia przejrzystych i powtarzalnych modeli AI w zastosowaniach medycznych.

Wprowadzenie

Sztuczna inteligencja (AI) stała się integralnym elementem współczesnej opieki zdrowotnej, umożliwiając inteligentną analizę złożonych danych klinicznych i wspierając podejmowanie medycznych decyzji opartych na dowodach1. Szybka cyfryzacja ochrony zdrowia poprzez elektroniczną dokumentację medyczną, systemy obrazowania medycznego, urządzenia ubieralne oraz technologie genomiczne wygenerowała duże wolumeny heterogenicznych danych, które wymagają zaawansowanych podejść obliczeniowych w celu ich efektywnej interpretacji2.

Algorytmy uczenia maszynowego (ML) i głębokiego uczenia (DL) wykazały niezwykłe możliwości w zakresie wyodrębniania istotnych wzorców z wielowymiarowych zbiorów danych opieki zdrowotnej, co przyczyniło się do poprawy dokładności diagnostycznej, przewidywania chorób oraz oceny wyników leczenia pacjentów3. Modele oparte na AI zostały z sukcesem zastosowane w radiologii, patologii, kardiologii, onkologii, okulistyce i innych specjalnościach medycznych, aby wspierać klinicystów w wykrywaniu chorób na wcześniejszych etapach oraz w rekomendowaniu spersonalizowanych strategii terapeutycznych4. Technologie te przyczyniły się również do optymalizacji przepływu pracy, zmniejszenia zmienności diagnostycznej oraz lepszego wykorzystania zasobów opieki zdrowotnej5.

Ostatnie postępy w dziedzinie sprzętu komputerowego, obliczeń w chmurze oraz otwartoźródłowych ram AI przyspieszyły rozwój i wdrażanie inteligentnych aplikacji w opiece zdrowotnej6. W konsekwencji AI stała się kluczową technologią umożliwiającą rozwój medycyny precyzyjnej oraz systemów wspomagania decyzji klinicznych7. Pomimo tych postępów, powszechne zastosowanie AI w rutynowej praktyce klinicznej pozostaje ograniczone, ponieważ wiele wysokowydajnych modeli oferuje niewielki wgląd w sposób generowania ich prognoz8.

Większość algorytmów głębokiego uczenia funkcjonuje jako złożone modele typu „czarna skrzynka”, w których wewnętrzny proces podejmowania decyzji jest trudny do zrozumienia dla klinicystów i badaczy9. Choć modele te często osiągają doskonałe wyniki predykcyjne, brak ich przejrzystości osłabia zaufanie użytkowników i stwarza wyzwania w zakresie walidacji klinicznej, zatwierdzeń regulacyjnych oraz bezpieczeństwa pacjentów10. Specjaliści z zakresu opieki zdrowotnej muszą mieć możliwość uzasadnienia decyzji wspomaganych przez AI przed wdrożeniem ich do rutynowej praktyki klinicznej, szczególnie w środowiskach medycznych o wysokim stopniu ryzyka11.

XAI wyłoniło się jako efektywne podejście do zwiększania przejrzystości i interpretowalności modeli uczenia maszynowego12. Zamiast traktować modele predykcyjne jako systemy nieprzejrzyste, techniki XAI dostarczają informacji o cechach, obszarach obrazu lub zmiennych klinicznych, które wpływają na poszczególne predykcje13. Takie wyjaśnienia umożliwiają klinicystom lepsze zrozumienie zachowania modelu, identyfikację potencjalnych błędów systematycznych oraz określenie, czy decyzje generowane przez AI są zgodne z uznaną wiedzą medyczną14.

W zastosowaniach medycznych wprowadzono kilka technik wyjaśnialności. Metoda SHapley Additive explanations (SHAP) mierzy wkład każdej cechy w predykcję modelu w oparciu o kooperacyjną teorię gier15. Metoda Local Interpretable Model-agnostic Explanations (LIME) tworzy uproszczony model i wyjaśnia predykcje modelu typu „czarna skrzynka”16. W przypadku zadań związanych z obrazowaniem medycznym z wykorzystaniem modeli głębokiego uczenia, mapy aktywacji ważone gradientem (Grad-CAM) generują mapy ciepła, które wizualnie wskazują obszary obrazu wpływające na decyzje klasyfikacyjne17. Połączenie tych metod znacząco zwiększyło przejrzystość systemów AI w różnych dziedzinach opieki zdrowotnej18.

Mimo rosnącej uwagi poświęcanej metodom wyjaśnialności w opiece zdrowotnej, ich zastosowanie w literaturze pozostaje zróżnicowane. Badacze różnią się nie tylko w stosowaniu strategii preprocessingu, ale także w projektowaniu architektury modeli, doborze metryk ewaluacji, a nawet technik wyjaśniania19. Ponadto wiele publikacji raportuje wysoką dokładność predykcyjną, lecz nie zapewnia rzetelnej oceny jakości wyjaśnień ani ich powtarzalności20.

Powtarzalność jest jednym z głównych wąskich gardeł w nowoczesnej nauce o AI. W publikacjach często nie ujawnia się wersji oprogramowania, środowiska obliczeniowego, potoku wstępnego przetwarzania, ustawień hiperparametrów, inicjalizacji ziarna losowego oraz konfiguracji sprzętowej21. Z tego powodu niezależni badacze często nie są w stanie odtworzyć opublikowanych wyników ani zweryfikować opisanych metod przy użyciu innych zbiorów danych lub platform programistycznych2. Brak szczegółowej dokumentacji jest jednym z czynników utrudniających badania benchmarkowe, badania kolaboracyjne oraz translację kliniczną systemów AI23.

Uznając te wyzwania, kilka organizacji i agencji regulacyjnych podkreśliło znaczenie transparentnej, godnej zaufania i reprodukowalnej sztucznej inteligencji w zastosowaniach opieki zdrowotnej24. Istniejące wytyczne dotyczące raportowania poprawiły opis metodologiczny, ale opisują one przede wszystkim to, co powinno zostać zaraportowane, zamiast dostarczać zestandaryzowanych procedur eksperymentalnych, które badacze mogliby bezpośrednio wdrożyć25. W związku z tym nadal istnieje potrzeba opracowania kompleksowego protokołu, który integrowałby przygotowanie zbioru danych, rozwój modelu, analizę wyjaśnialności, ocenę statystyczną oraz praktyki zapewniania reprodukowalności w ramach jednego przepływu pracy eksperymentalnej26.

Znormalizowany protokół eksperymentalny oferuje szereg korzyści dla społeczności zajmującej się sztuczną inteligencją w opiece zdrowotnej. Co więcej, sprzyja on spójności metodologicznej, ułatwia porównywanie niezależnych badań, zwiększa przejrzystość eksperymentów obliczeniowych oraz umożliwia wiarygodną walidację opublikowanych wyników27. Znormalizowane przepływy pracy wspomagają również edukację i szkolenia, badania kolaboracyjne oraz oceny regulacyjne dzięki jasno udokumentowanym procedurom, które są odtwarzalne w różnych laboratoriach i instytucjach opieki zdrowotnej28.

Opracowano i przetestowano powtarzalny protokół eksperymentalny służący do trenowania i oceny modeli AI w systemach opieki zdrowotnej. Protokół ten określa standardy konfiguracji środowiska obliczeniowego, wstępnego przetwarzania zbiorów danych medycznych, opracowywania modeli uczenia maszynowego, stosowania metod XAI, oceny wydajności predykcyjnej, przeprowadzania walidacji statystycznej oraz oceny powtarzalności29. Integracja tych komponentów w spójny przepływ pracy prawdopodobnie zwiększy przejrzystość, niezawodność i powtarzalność badań nad AI w opiece zdrowotnej, a także pomoże w opracowaniu zaufanych inteligentnych systemów zdrowotnych30.

Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.

Protokół

W przeprowadzonym eksperymencie walidacyjnym wykorzystano publicznie dostępny, zanonimizowany zbiór danych Pima Indians Diabetes Dataset, który nie zawierał identyfikowalnych rekordów pacjentów i nie wymagał rekrutacji nowych osób. W związku z tym nie było wymagane uzyskanie świadomej zgody ani zatwierdzenia przez instytucjonalną komisję bioetyczną (IRB/ethics approval), a wszystkie analizy zostały przeprowadzone zgodnie z obowiązującymi warunkami korzystania ze zbioru danych oraz instytucjonalnymi zasadami prowadzenia badań.

W opracowanym przykładzie walidacji wykorzystano publicznie dostępny zbiór danych Pima Indians Diabetes Dataset, który zawiera 768 rekordów służących do binarnego przewidywania cukrzycy. Do tego zbioru danych zastosowano kompletny, dziewięcioetapowy podstawowy schemat postępowania. Dziewięć podstawowych etapów obejmowało: wybór i walidację zbioru danych, konfigurację środowiska obliczeniowego, wstępne przetwarzanie danych, partycjonowanie zbioru danych, opracowanie i trenowanie modelu, ocenę wydajności predykcyjnej i obliczeniowej, analizę wyjaśnialności, walidację statystyczną oraz ocenę powtarzalności. Walidacja zewnętrzna i ocena ekspercka kliniczna zostały pozostawione jako opcjonalne moduły walidacyjne i nie zostały przeprowadzone w niniejszym przykładzie. Rycina 1 ilustruje podstawowy schemat protokołu, a w Tabeli 1 podsumowano wyłącznie dziewięć podstawowych etapów zaimplementowanych w obecnej walidacji; opcjonalna walidacja zewnętrzna i ocena ekspercka kliniczna są opisane osobno w sekcji Protokół i nie są wliczone do dziewięciu etapów eksperymentalnych.

1. Wybór i walidacja zbioru danych z zakresu opieki zdrowotnej

  1. Wybierz zbiór danych Pima Indians Diabetes Dataset jako główny zbiór danych dla opracowanego przykładu walidacji. Zweryfikuj źródło zbioru danych, wielkość próby, cel predykcji, rozkład klas oraz strukturę danych.
  2. Zastosuj zdefiniowane kryteria włączenia, wyłączenia oraz kryteria jakości danych. Przed opracowaniem modelu usuń duplikaty i nieprawidłowe rekordy.
  3. Zapisz źródło zbioru danych, jego charakterystykę, zadanie predykcyjne, rozkład klas, kryteria włączenia i wyłączenia oraz strategię partycjonowania w Tabeli 2.
  4. Zastosuj kryteria decyzyjne dotyczące wyboru zbioru danych i modelu
    1. Zdefiniuj cel predykcji przed wyborem zbioru danych, architektury modelu, strategii preprocessingu lub metody wyjaśnialności.
    2. Dopasuj modalność zbioru danych do celu predykcji. Wybierz dane tabelaryczne dla ustrukturyzowanych zmiennych klinicznych, dane obrazowe dla obrazów medycznych, dane szeregów czasowych dla sygnałów fizjologicznych, dane tekstowe dla opisów klinicznych lub dane multimodalne, gdy dla tego samego pacjenta lub jednostki badawczej dostępne są komplementarne modalności.
    3. Oceń potencjalne zbiory danych pod kątem wielkości próby, dostępności wyników, rozkładu klas, braków danych, jakości adnotacji, istotności klinicznej, kompletności danych oraz dostępności. Wybierz zbiór danych, który spełnia zdefiniowane wymagania.
    4. W przypadku ustrukturyzowanych danych tabelarycznych wybierz konwencjonalne modele uczenia maszynowego, gdy wielkość próby, zasoby obliczeniowe lub wymagania dotyczące interpretowalności ograniczają możliwość zastosowania złożonych architektur. Wybierz architektury głębokiego uczenia, gdy dostępne są wystarczające dane treningowe i wejścia wysokowymiarowe, takie jak obrazy medyczne, sygnały fizjologiczne lub teksty kliniczne.
    5. Wybierz architektury multimodalne tylko wtedy, gdy dla tego samego pacjenta lub jednostki badawczej dostępne są wiele modalności, które można wiarygodnie dopasować bez wprowadzania wycieku informacji. Wybierz operacje preprocessingu zgodnie z charakterystyką wybranej modalności danych.
    6. Wybierz metody wyjaśnialności w zależności od modelu i modalności danych. Dla odpowiednich modeli tabelarycznych stosuj metody niezależne od modelu (model-agnostic), takie jak SHAP lub LIME, a dla modeli opartych na obrazach, jeśli dotyczy, metody specyficzne dla danej modalności, takie jak Grad-CAM.
    7. Udokumentuj uzasadnienie wyboru zbioru danych, strategii preprocessingu, modelu oraz metody wyjaśnialności. Zachowaj te decyzje jako element dokumentacji reprodukowalności.

2. Konfiguracja środowiska obliczeniowego do opracowania modelu XAI

  1. Skonfiguruj system operacyjny, procesor (CPU), pamięć RAM, pamięć masową oraz układ GPU zgodnie z wymaganiami wybranego modelu. Utwórz izolowane środowisko Python i zainstaluj wymagane biblioteki do uczenia maszynowego, głębokiego uczenia, analizy statystycznej, wizualizacji oraz XAI.
  2. Zarejestruj faktyczne środowisko obliczeniowe, architekturę modelu oraz hiperparametry wykorzystane podczas przeprowadzonej walidacji w Tabeli 3. Określ optymalizator, współczynnik uczenia (learning rate), wielkość partii (batch size), maksymalną liczbę epok, funkcję straty, parametry regularyzacji, strategię walidacji, konfigurację wczesnego zatrzymania (early-stopping), konfigurację ziarna losowości (random-seed), metody wyjaśnialności, sprzęt, system operacyjny, wersję języka Python oraz wersje odpowiednich bibliotek programistycznych. Odróżnij te ustawienia użyte eksperymentalnie od ogólnych lub zalecanych ustawień protokołu.
  3. Użyj konfiguracji opisanej w Tabeli 3 podczas powtarzania walidacji zbioru danych Pima Indians Diabetes Dataset oraz odpowiadających im wyników predykcyjnych, wyjaśnialności, statystycznych i reprodukowalności.
  4. Uruchom skrypt walidacyjny, aby potwierdzić prawidłowy import pakietów, ładowanie zbioru danych, wykonanie modelu i generowanie wyników. Zachowaj sfinalizowaną konfigurację środowiska w celu zapewnienia reprodukowalności.

3. Przygotowanie i charakterystyka zbiorów danych z zakresu opieki zdrowotnej do opracowania modelu XAI

  1. Wybór i pozyskanie zbioru danych medycznych
    1. Wybrać zbiór danych medycznych odpowiedni dla określonego zadania predykcji klinicznej. Ocenić potencjalne zbiory danych pod kątem celu badawczego, typu danych, wielkości próby, jakości adnotacji, równowagi klas oraz istotności klinicznej.
    2. Preferować publicznie dostępne zbiory danych benchmarkowych, jeżeli w sposób adekwatny realizują one zadanie predykcji i umożliwiają niezależną walidację.
    3. Uzyskać wymagane zgody etyczne, pozwolenia instytucjonalne oraz autoryzację dostępu do danych przed pozyskaniem zbiorów instytucjonalnych lub wewnętrznych. Pobrać wybrany zbiór danych z zweryfikowanego repozytorium lub autoryzowanej bazy danych instytucjonalnej.
    4. Przechowywać oryginalne pliki zbioru danych bez modyfikacji i odnotować dostawcę zbioru, wersję, informacje o pozyskaniu, warunki licencyjne, kryteria włączenia, kryteria wykluczenia oraz towarzyszące metadane. Zorganizować zbiór danych w oddzielnych katalogach dla danych surowych, adnotacji, metadanych i informacji uzupełniających.
  2. Charakterystyka zbioru danych medycznych
    1. Zidentyfikować zmienne predyktora, etykiety wyników, typy cech, modalności danych i rozkłady klas. Określić liczbę podmiotów, próbek, wymiarowość cech oraz dostępne adnotacje.
    2. Potwierdzić, że charakterystyka zbioru danych jest zgodna z wybraną metodą AI.
    3. Wykorzystać Pima Indians Diabetes Dataset jako jedyny praktyczny zbiór danych eksperymentalnych do walidacji dziewięciostopniowego protokołu podstawowego. Uwzględnić dodatkowe zbiory danych wymienione w Tabeli 2 wyłącznie w celu zademonstrowania stosowności ogólnego protokołu w odniesieniu do klinicznych danych tabelarycznych, elektronicznej dokumentacji medycznej, obrazów dermoskopowych, fizjologicznych danych szeregów czasowych i obrazowania medycznego. Nie używać tych dodatkowych zbiorów danych do trenowania modelu, testowania, walidacji statystycznej ani generowania raportowanych wyników eksperymentalnych.
  3. Ocena jakości zbioru danych
    1. Przejrzeć zbiór danych pod kątem duplikatów rekordów, uszkodzonych plików, brakujących wartości, błędów w adnotacjach i nieregularnych wpisów danych. Usunąć potwierdzone duplikaty rekordów i skorygować zweryfikowane nieprawidłowości w formatowaniu. Dokumentować wszystkie procedury kontroli jakości zbioru danych.
    2. Zweryfikować zgodność danych obrazowych, klinicznych, laboratoryjnych i fizjologicznych za pomocą identyfikatorów podmiotów w przypadku korzystania z wielomodalnych zbiorów danych.
    3. Usunąć duplikaty lub niespójne rekordy, obsłużyć brakujące wartości, znormalizować cechy numeryczne, zakodować zmienne kategoryczne i zastosować preprocessing specyficzny dla danej modalności. Podzielić zbiór danych na niezależne zbiory treningowe, walidacyjne i testowe. Schemat przygotowania, preprocessingu, podziału i oceny jakości zbioru danych medycznych przedstawiono na Rysunku 2.
  4. Zapewnienie prywatności danych i zgodności etycznej
    1. Usunąć bezpośrednie identyfikatory z danych medycznych. Zastosować procedury anonimizacji lub pseudonimizacji, gdy jest to wymagane. Przetwarzać informacje o stanie zdrowia pacjentów zgodnie z obowiązującymi wymogami etycznymi, zasadami ochrony danych, zgodą świadomą oraz wymogami instytucjonalnymi.
    2. Odnotować stosowną zgodę etyczną, zwolnienie z wymogów, procedury zarządzania danymi, metody anonimizacji oraz schemat przygotowania zbioru danych.
    3. Ocenić potencjalne obciążenie algorytmiczne poprzez porównanie wydajności modelu w odpowiednich podgrupach demograficznych lub klinicznych, jeśli takie informacje są dostępne i dopuszczalne etycznie.
    4. Dokumentować zamierzone zastosowanie, populację docelową, ograniczenia modelu, potencjalne tryby awarii, wymagania dotyczące nadzoru ludzkiego oraz obowiązujące wymogi etyczne, ochrony danych i regulacje w zakresie opieki zdrowotnej.
    5. Odnotować zidentyfikowane ograniczenia w zakresie sprawiedliwości oraz kwestie odpowiedzialnego AI jako część końcowej dokumentacji modelu.
      UWAGA: Pozyskać ustandaryzowany i udokumentowany zbiór danych medycznych, który nadaje się do rozwoju modelu AI, jest zgodny z zasadami etycznymi i wolny od głównych zidentyfikowanych niespójności.

4. Przetwarzanie wstępne i partycjonowanie danych opieki zdrowotnej do trenowania modelu AI

  1. Przeprowadzenie kontroli jakości
    1. Przegląd zbioru danych pod kątem powtarzających się rekordów, brakujących wartości, wartości nieprawidłowych, niespójnych etykiet, wartości odstających oraz uszkodzonych plików.
    2. Usunięcie lub poprawienie nieprawidłowych obserwacji zgodnie z predefiniowanymi kryteriami oraz odnotowanie wszystkich wykluczeń. Weryfikacja spójności zmiennych predyktora i etykiet wyników.
  2. Obsługa brakujących danych
    1. Ilościowe określenie braków dla każdej zmiennej. Zastosowanie predefiniowanej strategii imputacji lub wykluczania.
    2. Szacowanie parametrów imputacji wyłącznie na podstawie danych treningowych i zastosowanie dopasowanej transformacji do danych walidacyjnych i testowych.
  3. Normalizacja i transformacja danych
    1. Zastosowanie skalowania cech, normalizacji, kodowania, redukcji wymiarowości lub innych transformacji wymaganych przez wybrany model. Dopasowanie wszystkich transformacji zależnych od danych wyłącznie przy użyciu danych treningowych.
    2. Zastosowanie dopasowanych transformacji bez zmian do danych walidacyjnych i testowych.
  4. Ilościowe określenie niezbilansowania klas w danych treningowych. Zastosowanie ważenia klas, metody SMOTE, nadpróbkowania lub augmentacji wyłącznie do zbioru treningowego. Zachowanie oryginalnego rozkładu zbiorów walidacyjnych i testowych.
  5. Potwierdzenie, że żaden podmiot, powielona obserwacja, próbka augmentowana, statystyka preprocessingu, kryterium wyboru cech ani próbka syntetyczna nie są współdzielone pomiędzy partycjami treningowymi a ewaluacyjnymi.

5. Opracowanie i konfiguracja modelu XAI

  1. Zdefiniuj architekturę modelu, określając modalności danych wejściowych, operacje preprocessingu, koderów cech specyficznych dla danej modalności, mechanizm fuzji cech, warstwę predykcyjną oraz moduł wyjaśnialności.
  2. Wybierz architekturę uczenia maszynowego lub głębokiego uczenia w zależności od zadania predykcyjnego i modalności wejściowej. Skonfiguruj warstwę wejściową, komponenty ekstrakcji cech, warstwy ukryte, warstwę wyjściową oraz funkcje aktywacji. Zdefiniuj optymalizator, szybkość uczenia, rozmiar partii (batch size), funkcję straty, liczbę epok, regularyzację, dropout, wczesne zatrzymanie (early stopping) oraz harmonogram szybkości uczenia.
  3. Zoptymalizuj hiperparametry, korzystając wyłącznie z danych treningowych i walidacyjnych.
  4. Zapisz finalną architekturę i konfigurację hiperparametrów w Tabeli 3.
  5. Przed rozpoczęciem uczenia zweryfikuj kompatybilność wymiarów wejścia i wyjścia.
    UWAGA: Utwórz w pełni skonfigurowany model XAI zawierający odpowiednią architekturę, zdefiniowane hiperparametry i zintegrowane techniki wyjaśnialności.

6. Trenowanie, optymalizacja i zapisywanie modelu XAI

  1. Wczytać zdefiniowane zestawy danych treningowych i walidacyjnych oraz sfinalizowaną konfigurację modelu. Zainicjować model, korzystając z predefiniowanego ziarna losowego (random seed) i parametrów treningowych.
  2. Wytrenować model, stosując określony optymalizator, funkcję straty, rozmiar partii (batch size) oraz kryteria zatrzymania.
  3. Monitorować wyniki walidacji i zachować punkt kontrolny (checkpoint) odpowiadający predefiniowanemu kryterium wyboru modelu. Przetestować wybrany punkt kontrolny na niezależnym zbiorze testowym bez dalszej optymalizacji.
  4. Zapisać wytrenowany model, konfigurację preprocessingu, hiperparametry, ziarno losowe oraz dziennik treningu.
    UWAGA: Uzyskano zoptymalizowany model XAI wytrenowany i zwalidowany z wykorzystaniem przygotowanego zbioru danych medycznych. Zachowano najlepiej działający model, hiperparametry, dzienniki treningu, konfigurację preprocessingu oraz środowisko obliczeniowe w celu zapewnienia odtwarzalności.

7. Ocena wydajności predykcyjnej i obliczeniowej

  1. Ocena wydajności predykcyjnej
    1. Po zakończeniu trenowania modelu i optymalizacji hiperparametrów należy załadować zoptymalizowany model oraz niezależny zbiór danych testowych. Parametry wytrenowanego modelu oraz potok przetwarzania wstępnego powinny pozostać niezmienione podczas testowania.
    2. Wygeneruj predykcje dla wszystkich próbek w zbiorze testowym. Porównaj przewidziane wyniki z odpowiadającymi im etykietami prawdy obiektywnej (ground-truth).
  2. Obliczanie wskaźników wydajności
    1. Wybierz metryki oceny zgodnie z rodzajem zadania predykcyjnego.
    2. W przypadku zadań klasyfikacji oblicz, w zależności od potrzeb, dokładność (accuracy), precyzję (precision), czułość (recall), swoistość (specificity), wynik F1 (F1-score), dokładność zrównoważoną (balanced accuracy), współczynnik korelacji Matthewsa (MCC) oraz pole pod krzywą charakterystyki operacyjnej odbiornika (AUC-ROC). W przypadku zadań regresji oblicz, w zależności od potrzeb, średni błąd absolutny (MAE), pierwiastnik błędu średniokwadratowego (RMSE), współczynnik determinacji (R2) oraz inne istotne miary.
  3. Ocena generalizacji i odporności modelu
    1. Oceń model z wykorzystaniem zewnętrznego zbioru danych, zgromadzonego niezależnie od zbioru rozwojowego, jeśli takie dane są dostępne.
    2. W celu oceny transportowalności preferuj zewnętrzne zbiory danych pochodzące z innej placówki opieki zdrowotnej, regionu geograficznego lub populacji pacjentów.
    3. Przeprowadź walidację temporalną z wykorzystaniem danych zebranych w późniejszym okresie, jeśli dostępne są zbiory danych podłużnych.
    4. W przypadku dostępności danych wieloośrodkowych przeprowadź walidację wieloośrodkową, oceniając sfinalizowany model oddzielnie w każdej z uczestniczących instytucji.
    5. Jeśli jest to możliwe, przeprowadź walidację geograficzną z wykorzystaniem niezależnej populacji z innego regionu geograficznego.
    6. Zgłoś różnice w wydajności oraz przedziały ufności pomiędzy zbiorem rozwojowym a zewnętrznymi zbiorami danych.
  4. Ocena wydajności obliczeniowej
    1. Zmierz czas trenowania modelu w zdefiniowanym środowisku obliczeniowym, czas inferencji i testowania w identycznych warunkach obliczeniowych, a także zużycie pamięci, rozmiar modelu i utylizację sprzętu.
    2. Powtórz pomiary obliczeniowe w niezależnych uruchomieniach.
    3. Oblicz średni czas wykonania, aby zredukować wpływ zmienności eksperymentalnej.
  5. Porównanie wydajności modeli
    1. Wybierz odpowiednie konwencjonalne metody uczenia maszynowego lub głębokiego uczenia do oceny porównawczej.
    2. Oceń proponowany model XAI oraz modele porównawcze przy użyciu tego samego zbioru danych. Zastosuj identyczne procedury przetwarzania wstępnego i metryki oceny do wszystkich modeli porównawczych.
    3. Wszystkie eksperymenty porównawcze przeprowadź w tym samym środowisku obliczeniowym.
      UWAGA: Uzyskaj dowody eksperymentalne dotyczące stabilności predykcyjnej i odtwarzalności w testowanych warunkach obliczeniowych i dla danego zbioru danych.

8. Generowanie i ocena wyników XAI

  1. Generowanie wyjaśnień modelu
    1. Załaduj zoptymalizowany model XAI. Wybierz próbki ewaluacyjne, które nie były użyte do trenowania modelu. Zastosuj zdefiniowane metody wyjaśnialności bez modyfikowania wytrenowanego modelu ani potoku przetwarzania wstępnego.
    2. Generowanie globalnych i lokalnych wyjaśnień modelu
      1. Wygeneruj wyjaśnienia globalne w celu scharakteryzowania ogólnego zachowania modelu predykcyjnego.
      2. Wygeneruj wyjaśnienia lokalne w celu scharakteryzowania poszczególnych predykcji modelu.
      3. Zastosuj metodę SHAP do zbioru danych Pima Indians Diabetes Dataset, aby wygenerować globalne i lokalne wyjaśnienia predykcji modelu tabelarycznego.
      4. Wygeneruj wykres podsumowujący SHAP (summary plot), aby zwizualizować ogólny kierunek i wielkość wkładu poszczególnych cech.
      5. Wygeneruj wykres istotności cech SHAP (feature-importance plot) z wykorzystaniem średnich bezwzględnych wartości SHAP, aby uszeregować cechy według ich ogólnego wkładu w predykcje modelu.
      6. Wygeneruj wykres kaskadowy SHAP (waterfall plot) dla reprezentatywnej predykcji ze zbioru testowego, aby zilustrować wkład cech specyficznych dla danego pacjenta.
      7. Wygeneruj wykres zależności cech SHAP (feature-dependence plot), aby zbadać relację między wybraną cechą a jej wkładem w wynik modelu.
      8. Zastosuj metodę LIME do reprezentatywnych predykcji ze zbioru testowego, aby wygenerować lokalne wyjaśnienia poszczególnych predykcji modelu.
      9. Wygeneruj specyficzne dla pacjenta wyjaśnienie kontrfaktyczne, aby zilustrować zmiany cech związane ze zmianą przewidywanego wyniku.
      10. Wybierz dodatkowe techniki wyjaśnialności w zależności od modalności danych i architektury modelu.
      11. W stosownych przypadkach zastosuj Grad-CAM lub mapy istotności (saliency maps) dla kompatybilnych modeli opartych na obrazach, wizualizacje uwagi (attention visualizations) dla architektur opartych na transformerach oraz zintegrowane gradienty (Integrated Gradients) dla modeli różniczkowalnych.
      12. Traktuj Grad-CAM, mapowanie istotności, wizualizację uwagi oraz zintegrowane gradienty jako ogólne opcje protokołu zależne od modalności; nie interpretuj ani nie raportuj ich jako wyników eksperymentalnych z walidacji zbioru Pima Indians Diabetes Dataset, chyba że odpowiednie analizy zostały faktycznie przeprowadzone.
    3. Zastosowanie metod wyjaśnialności do walidacji Pima
      1. Zastosuj SHAP i LIME do zbioru danych Pima Indians Diabetes Dataset, aby wygenerować globalne i lokalne wyjaśnienia predykcji modelu tabelarycznego.
      2. Wygeneruj wizualizacje podsumowania, istotności cech, wykresy kaskadowe i zależności cech SHAP na podstawie wyników walidacji Pima.
      3. Wygeneruj lokalne wyjaśnienie LIME dla reprezentatywnych predykcji ze zbioru testowego.
      4. Wygeneruj specyficzne dla pacjenta wyjaśnienie kontrfaktyczne, aby zilustrować zmiany cech związane ze zmianą predykcji modelu.
      5. Traktuj Grad-CAM, wizualizację uwagi, mapowanie istotności i zintegrowane gradienty jako opcje wyjaśnialności zależne od modalności dla innych typów danych medycznych i architektur modeli.
      6. Nie raportuj Grad-CAM, wizualizacji uwagi, mapowania istotności ani zintegrowanych gradientów jako wyników eksperymentalnych z walidacji Pima, chyba że odpowiednie analizy zostały faktycznie przeprowadzone.
  2. Ocena jakości wyjaśnień
    1. Oceń, czy wygenerowane wyjaśnienia odzwierciedlają proces predykcji modelu. Oceń stabilność wyjaśnień w powtarzanych seriach eksperymentalnych oraz spójność wyników wyjaśnień w identycznych warunkach obliczeniowych.
    2. W stosownych przypadkach oceń czułość wyników wyjaśnień na zmiany w danych wejściowych. Porównaj wygenerowane wyjaśnienia z dostępną wiedzą domenową lub interpretacjami eksperckimi.
    3. Zidentyfikuj cechy predykcyjne lub obszary anatomiczne, które odpowiadają uznanej wiedzy medycznej, jeśli takie porównania są możliwe.
    4. Odnotuj poziom zgodności lub rozbieżności między wygenerowanymi wyjaśnieniami a dostępną interpretacją kliniczną.
  3. Kwantyfikacja niepewności predykcji
    1. Wygeneruj szacunki pewności predykcji dla ocenianych próbek, stosując metodę szacowania niepewności odpowiednią dla wybranej architektury modelu i zastosowania w opiece zdrowotnej.
    2. W razie potrzeby zastosuj dropout Monte Carlo, predykcję opartą na ansamblach, wnioskowanie bayesowskie, predykcję konformalną lub inną zwalidowaną metodę szacowania niepewności.
    3. W przypadku stosowania dropoutu Monte Carlo powtórz stochastyczne przejścia predykcyjne i oblicz średnią predykcję oraz wariancję predykcyjną dla każdej próbki ewaluacyjnej.
    4. Raportuj pewność predykcji lub przedziały niepewności wraz z odpowiadającymi im predykcjami modelu.
    5. Oceń, czy szacunki niepewności identyfikują predykcje o niższej niezawodności lub zwiększonym błędzie predykcji. Zachowaj metodę szacowania niepewności, parametry, ziarna losowe i wygenerowane wyniki niepewności, aby zapewnić powtarzalność.
  4. Dokumentowanie i archiwizowanie wyników wyjaśnialności
    1. Zapisz wszystkie wygenerowane wyniki istotności cech, mapy ciepła, mapy istotności, wizualizacje uwagi i interpretacje specyficzne dla pacjentów. Przechowuj wyniki wyjaśnialności w ustandaryzowanych formatach plików. Archiwizuj wyniki wraz z wytrenowanym modelem i konfiguracją przetwarzania wstępnego.
    2. Zapisz ustawienia obliczeniowe, parametry wyjaśnień, czas wykonania i wersje oprogramowania użyte do generowania wyjaśnień. Zachowaj pełną dokumentację wyjaśnialności, aby ułatwić niezależny przegląd i zapewnić powtarzalność.
  5. Ilościowa ocena jakości wyjaśnień
    1. Oceń wierność (faithfulness) wyjaśnień poprzez systematyczne zaburzanie lub maskowanie cech zidentyfikowanych jako istotne i pomiar odpowiadającej temu zmiany w wyniku modelu. Oblicz wynik wierności wyjaśnienia, porównując wielkość atrybucji z wynikową zmianą predykcji modelu.
    2. Oceń stabilność wyjaśnień poprzez generowanie wyjaśnień dla powtarzanych serii, zaburzonych danych wejściowych lub klinicznie podobnych próbek i obliczenie podobieństwa między wynikowymi wzorcami atrybucji. Oblicz niewierność (infidelity), mierząc rozbieżność między przewidywaną zmianą wyniku a zmianą oszacowaną na podstawie atrybucji wyjaśnienia przy kontrolowanych zaburzeniach wejścia.
    3. W przypadku wyjaśnień obrazów medycznych oceń dokładność lokalizacji, korzystając z zdefiniowanego przez eksperta obszaru zainteresowania, jeśli dostępne są adnotacje referencyjne. Oceń użyteczność kliniczną, uzyskując niezależne oceny od wykwalifikowanych ekspertów klinicznych przy użyciu zdefiniowanych kryteriów interpretacyjnych.
    4. Oblicz współczynnik kappa Cohena lub kappa Fleissa, gdy wielu ekspertów niezależnie ocenia istotność lub zgodność wyjaśnień.
      UWAGA: Wygeneruj globalne i lokalne wyjaśnienia charakteryzujące zachowanie predykcyjne wytrenowanego modelu AI. Zachowaj wyniki wyjaśnialności i odpowiadające im konfiguracje w celu przejrzystej interpretacji i powtarzalnej ewaluacji.

9. Przeprowadzenie walidacji statystycznej i oceny powtarzalności

  1. Przeprowadź walidację statystyczną
    1. Wybierz metody statystyczne zgodnie z celem badania, planem eksperymentalnym, rozkładem danych oraz charakterystyką ocenianych zmiennych.
    2. Zmienne ciągłe należy przedstawić jako średnią ± odchylenie standardowe lub medianę i rozstęp międzykwartylny, w zależności od potrzeb, a zmienne kategoryczne jako liczebność i wartości procentowe.
    3. Przeprowadź pięciokrotną walidację krzyżową na zbiorze treningowym, aby ocenić stabilność wydajności modelu, a dokładność, AUC-ROC, precyzję, pełność oraz wynik F1 przedstaw w formie średniej. ± odchylenie standardowe między fałdami. Oszacuj 95-procentowe przedziały ufności dla wskaźników wydajności niezależnego zbioru testowego, wykorzystując 100 prób bootstrapowych.
    4. Porównaj zaproponowany model z modelami bazowymi CNN, Random Forest oraz SVM, stosując test McNemara do porównania dokładności w parach, test DeLonga do porównania skorelowanych wartości AUC-ROC oraz test bootstrapowy dla par z wykorzystaniem 10 reprobacji do porównania wyników F1-score.
    5. Należy podać odpowiednią statystykę testową oraz dokładną wartość p dla każdego porównania, przyjmując dwustronny poziom istotności wynoszący α = 0.05.
  2. Statystyczne porównanie wydajności modeli
    1. Porównaj proponowany wyjaśnialny model AI z wybranymi, najnowocześniejszymi modelami bazowymi uczenia maszynowego i głębokiego uczenia.
    2. Zastosuj test t Studenta t-test lub test U Manna-Whitneya przy porównywaniu dwóch grup, w zależności od potrzeb. W przypadku parametrów porównań obejmujących więcej niż dwie grupy należy zastosować jednoczynnikową analizę wariancji (ANOVA). W przypadku nieparametrycznych porównań obejmujących więcej niż dwie grupy należy zastosować test Kruskala-Wallisa.
    3. Uwzględnij p < 0,05 jako wartość istotna statystycznie, zgodnie z treścią oryginalnego manuskryptu.
    4. Zastosuj dwustronny poziom istotności wynoszący α = 0,05 dla wszystkich zdefiniowanych porównań statystycznych i należy podać odpowiednie statystyki testowe oraz wartości p.
    5. Należy podać 95% przedziały ufności dla głównych wskaźników wydajności predykcyjnej.
    6. W odpowiednich przypadkach należy zastosować resampling bootstrapowy w celu oszacowania przedziałów ufności dla miar wydajności. Do porównania skorelowanych wartości ROC-AUC w sytuacjach, gdy te same badani są oceniani przez dwa modele, należy zastosować test DeLonga. Do porównania sparowanych kategorycznych wyników klasyfikacji wygenerowanych dla tych samych badanych należy zastosować test McNemary. W odpowiednich przypadkach należy zastosować sparowane procedury bootstrapowe w celu porównania wyniku F1 lub innych pochodnych miar wydajności.
    7. Oceń kalibrację, wykorzystując wykresy kalibracji, nachylenie i punkt przecięcia linii kalibracyjnej oraz wynik Briera w sytuacjach, gdy dostępne są prognozy probabilistyczne.
    8. W celu walidacji przetworzonego zbioru danych Pima Indians Diabetes należy zastosować zdefiniowane porównanie statystyczne dla par, określone dla proponowanego modelu oraz modeli bazowych. Wybrany test należy stosować konsekwentnie do sparowanych predykcji ze zbioru testowego lub pomiarów wydajności z powtórzonych uruchomień, w zależności od rodzaju porównania. Należy zastosować dwustronny poziom istotności wynoszący α = 0,05 oraz należy podać statystykę testową i dokładną wartość p. Nie należy informować o przeprowadzeniu alternatywnych testów statystycznych, chyba że ich wyniki zostały przedstawione w sekcji Wyniki.
    9. Zastosuj testy dwustronne i zinterpretuj istotność statystyczną, przyjmując z góry określony próg wynoszący p < 0.05.
  3. Ocena odporności modelu
    1. Powtórz pełną procedurę treningu i ewaluacji 10 razy, używając różnych ziarn losowości (random seeds), przy zachowaniu zdefiniowanego wcześniej podziału zbioru danych, procedur preprocessingu, architektury modelu, hiperparametrów, środowiska programistycznego oraz protokołu ewaluacji.
    2. Zapisz wartości AUC-ROC, dokładności oraz wskaźnika F1 dla każdego niezależnego uruchomienia i podaj wartość średnią ± odchylenie standardowe dla 10 powtórzeń.
    3. Porównaj uzyskane wartości wydajności w powtórnych uruchomieniach, aby ocenić stabilność predykcyjną i odtwarzalność przy różnych losowych inicjalizacjach.
  4. Ocena wyjaśnialności i odtwarzalności
    1. Generuj przypisania cech, mapy uwagi lub inne wyniki wyjaśnień dla wielu serii eksperymentalnych w przypadku uwzględnienia oceny stabilności wyjaśnień. Porównaj ilościowo wyniki wyjaśnień w powtórzonych seriach, stosując odpowiednią miarę podobieństwa lub miarę zgodności opartą na rangach.
    2. W przypadku przeprowadzonej walidacji zbioru danych Pima Indians Diabetes nie należy podawać ilościowych metryk stabilności wyjaśnień, chyba że wykonano odpowiadające im powtórzone analizy i wygenerowano wyniki wyjaśnień.
    3. Oceń zgodność między wyjaśnieniami wygenerowanymi przez model a interpretacjami klinicystów w przypadkach, gdy dostępne są odpowiednie oceny kliniczne. Oblicz współczynnik kappa Cohena lub kappa Fleissa, w zależności od potrzeb, aby ocenić zgodność między oceniającymi.
  5. Powtarzalność dokumentacji
    1. Należy zachować surowe dane, procedury przetwarzania wstępnego, kod źródłowy, wytrenowane modele, konfiguracje hiperparametrów, wyniki wyjaśnialności, skrypty analizy statystycznej oraz wygenerowane wyniki.
    2. Zarejestruj środowisko programowe oraz konfigurację sprzętową użytkowaną w całym przebiegu prac. Ponownie i niezależnie przeprowadź cały proces, korzystając z zarchiwizowanych plików i konfiguracji.
    3. Porównaj powieloną wydajność predykcyjną z oryginalnymi wynikami eksperymentalnymi oraz powielone wyjaśnienia modelu z oryginalnymi wynikami wyjaśnialności.
    4. Należy odnotować wszelkie różnice zaobserwowane podczas replikacji. Należy zaktualizować dokumentację eksperymentalną, aby odzwierciedliła ona spostrzeżenia dotyczące powtarzalności, zidentyfikowane podczas niezależnego wykonania badania.
      UWAGA: Należy uzyskać statystycznie zwalidowane wyniki wydajności predykcyjnej i wyjaśnialności, które mogą zostać ocenione w ramach powtórzonych eksperymentów. Należy zachować wystarczającą dokumentację obliczeniową, analityczną i metodologiczną, aby umożliwić niezależną weryfikację pełnego przebiegu prac.
  6. Lista kontrolna powtarzalności
    1. Zapisz nazwę zbioru danych, wersję, datę pozyskania, źródło, kryteria włączenia, kryteria wykluczenia oraz ostateczną liczebność próby. Zapisz wszystkie operacje wstępnego przetwarzania, parametry transformacji, ustawienia normalizacji, procedury wyboru cech oraz zasady podziału danych.
    2. Należy zapisać system operacyjny, CPU, GPU, pamięć RAM, wersję języka Python, wersje frameworków oraz wersje bibliotek. Należy zapisać wszystkie specyfikacje architektury modelu oraz hiperparametry.
    3. Zapisz optymalizator, szybkość uczenia, wielkość partii, liczbę epok, funkcję straty, regularyzację oraz kryteria wczesnego zatrzymania. Zapisz wszystkie ziarna liczb losowych oraz ustawienia generatora liczb pseudolosowych.
    4. Zachowaj wagi wytrenowanego modelu oraz konfiguracje preprocessingu. Zachowaj logi z treningu, skrypty ewaluacyjne, skrypty do analizy statystycznej oraz wyniki analizy wyjaśnialności. Odnotuj wersje modelu i oprogramowania wykorzystane w końcowych eksperymentach.
    5. Zachowaj pełne środowisko obliczeniowe niezbędne do niezależnej replikacji.
    6. Należy udokumentować dostępność kodu źródłowego, zbiorów danych, wag modeli oraz materiałów pomocniczych, z uwzględnieniem ograniczeń etycznych, prawnych, licencyjnych oraz dotyczących prywatności.
    7. Należy niezależnie ponownie przeprowadzić zarchiwizowane repozytorium procedur (workflow) i porównać wyniki replikacji z wynikami pierwotnymi.
    8. Dokumentuj pełne wymagania dotyczące powtarzalności, korzystając ze standaryzowanej listy kontrolnej.

Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.

Wyniki

Zaproponowany framework XAI został zaimplementowany z wykorzystaniem zbioru danych Pima Indians Diabetes Dataset jako reprezentatywnego zbioru danych z zakresu opieki zdrowotnej. Pima Indians Diabetes Dataset posłużył jako jedyny zbiór danych do walidacji eksperymentalnej. Wszystkie raportowane wyniki predykcyjne, w zakresie wyjaśnialności, statystyczne oraz dotyczące powtarzalności zostały wygenerowane na podstawie tego zbioru danych. Zbiory TCGA-BRCA, TCGA-UCEC, MIMIC-III, ISIC 2019, HAM100, OhioT1DM oraz BraTS 2021 ni...

Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.

Dyskusja

Wyniki demonstrują użyteczność proponowanego protokołu jako zestandaryzowanego i powtarzalnego schematu postępowania w celu opracowywania i oceny systemów XAI w oparciu o zróżnicowane zbiory danych z zakresu opieki zdrowotnej. Jak pokazano w Tabeli 2 oraz na Rysunku 3, systematyczne przetwarzanie wstępne pozwoliło na uzyskanie zestandaryzowanych danych i poprawę ich jakości poprzez obsługę brakujących wartości, normalizację danych, skalowanie cech oraz partycjonowanie zbioru...

Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.

Oświadczenia

Autorzy oświadczają, że nie mają żadnych konkurencyjnych interesów finansowych, relacji komercyjnych ani osobistych zależności, które mogłyby wpłynąć na pracę przedstawioną w niniejszym badaniu. Autorzy nie mają żadnych konfliktów interesów do ujawnienia.

Podziękowania

Autorzy dziękują za wsparcie instytucjonalne zapewnione przez ich odpowiednie jednostki macierzyste podczas opracowywania i walidacji eksperymentalnej niniejszego protokołu XAI w opiece zdrowotnej. Autorzy dziękują również za udostępnienie zaplecza obliczeniowego i zasobów programistycznych wykorzystanych do przeprowadzenia analiz eksperymentalnych. Badanie to nie otrzymało zewnętrznego finansowania. Autorzy potwierdzają wykorzystanie języka Python 3.1, bibliotek Matplotlib 3.9 oraz SciPy 1.13 do analizy obliczeniowej, wizualizacji danych oraz generowania rycin przedstawionych w niniejszej pracy.

Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.

Materiały

Lista materiałów użytych w tym artykule
NazwaFirmaNumer katalogowyKomentarze
CaptumMeta AINajnowsza stabilna wersjaWyjaśnialność PyTorch
CUDA ToolkitNVIDIA12.2Akceleracja GPU
cuDNNNVIDIA9.xBackend głębokiego uczenia
GitGit SCMNajnowsza stabilna wersjaKontrola wersji
GitHubGitHub Inc.Platforma webowaRepozytorium kodu źródłowego
Grad-CAMjacobgilNajnowsze wydanieWizualizacja CNN
Jupyter NotebookProject JupyterNajnowsza stabilna wersjaInteraktywny rozwój
LightGBMMicrosoft4.xGradient boosting
LIMELIME Community0.2.0Lokalna wyjaśnialność
MatplotlibMatplotlib Developers3.9Wizualizacja
Microsoft ExcelMicrosoftMicrosoft 365Organizacja danych
NumPyNumPy Developers1.26Obliczenia numeryczne
NVIDIA RTX 4090 GPUNVIDIA24 GB VRAMTrenowanie modelu
OpenCVOpenCV Organization4.10Preprocessing obrazów
PandasPandas Development Team2.2Preprocessing danych
Pillow (PIL)Python Imaging Library10.xPrzetwarzanie obrazów
PlotlyPlotly Technologies5.xInteraktywna wizualizacja
PythonPython Software Foundation3.1Środowisko programistyczne
PyTorchPyTorch Foundation2.3Głębokie uczenie
Scikit-learnScikit-learn Developers1.5Uczenie maszynowe
SciPySciPy Developers1.13Obliczenia naukowe
SeabornSeaborn Developers0.13Wykresy statystyczne
SHAPSHAP Community0.46Globalna wyjaśnialność
SimpleITKInsight Software Consortium2.xPrzetwarzanie obrazów medycznych
StatsmodelsStatsmodels Developers0.14Analiza statystyczna
Pamięć RAM systemuDowolny producent32 GB lub więcejPamięć
TensorBoardGoogle2.15Monitorowanie trenowania
TensorFlowGoogle2.15Głębokie uczenie
Ubuntu Linux / Windows 1Canonical / Microsoft2.04 LTS / 1System operacyjny
Visual Studio CodeMicrosoftNajnowsza stabilna wersjaRozwój kodu
XGBoostXGBoost Developers2.1Gradient boosting

Bibliografia

  1. Acosta JN, Falcone GJ, Rajpurkar P, Topol EJ. Multimodal biomedical AI. Nat Med. 2022;28(9):1773-1784.
  2. Tang AS, et al. Harnessing EHR data for health research. Nat Med. 2024;30(7):1847-1855.
  3. Zhang A, Xing L, Zou J, Wu JC. Shifting machine learning for healthcare from development to deployment and from models to data. Nat Biomed Eng. 2022;6(11):1330-1345.
  4. Bera K, et al. Predicting cancer outcomes with radiomics and artificial intelligence in radiology. Nat Rev Clin Oncol. 2022;19(2):132-146.
  5. Wenderott K, Krups J, Zaruchas F, Weigl M. Effects of artificial intelligence implementation on efficiency in medical imaging—a systematic literature review and meta-analysis. NPJ Digit Med. 2024;7(1):265.
  6. Kaissis GA, Makowski MR, Rückert D, Braren RF. Secure, privacy-preserving and federated machine learning in medical imaging. Nat Mach Intell. 2020;2(6):305-311.
  7. He J, et al. The practical implementation of artificial intelligence technologies in medicine. Nat Med. 2019;25(1):30-36.
  8. Antoniadi AM, et al. Current challenges and future opportunities for XAI in machine learning-based clinical decision support systems: A systematic review. Appl Sci (Basel). 2021;11(11):5088.
  9. Samek W, et al. Explaining deep neural networks and beyond: A review of methods and applications. Proc IEEE. 2021;109(3):247-278.
  10. Holzinger A, et al. Causability and explainability of artificial intelligence in medicine. WIREs Data Min Knowl Discov. 2019;9(4).
  11. Markus AF, Kors JA, Rijnbeek PR. The role of explainability in creating trustworthy artificial intelligence for health care: A comprehensive survey of the terminology, design choices, and evaluation strategies. Nat Biomed Eng. 2021;5(9):996-1011.
  12. Arrieta AB, et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 2020;58:82-115.
  13. Selvaraju RR, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization [conference paper]. Presented at: IEEE International Conference on Computer Vision (ICCV); Venice, Italy; 2017:618-626. https://openaccess.thecvf.com/content_iccv_2017/html/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017_paper.html
  14. Tonekaboni S, Joshi S, McCradden MD, Goldenberg A. What clinicians want: Contextualizing explainable machine learning for clinical end use. Nat Mach Intell. 2019;1(12):572-584.
  15. Sundararajan M, Taly A, Yan Q. Axiomatic attribution for deep networks [conference paper]. Presented at: 34th International Conference on Machine Learning; Sydney, Australia; 2017;70:3319-3328. https://proceedings.mlr.press/v70/sundararajan17a.html
  16. Ribeiro MT, Singh S, Guestrin C. “Why should I trust you?”: Explaining the predictions of any classifier [conference paper]. Presented at: 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; San Francisco, CA; 2016:1135-1144.
  17. Desai S, Ramaswamy HG. Ablation-CAM: Visual explanations for deep convolutional network via gradient-free localization [conference paper]. Presented at: IEEE/CVF Winter Conference on Applications of Computer Vision (WACV); 2020:983-991.
  18. Belle V, Papantonis I. Principles and practice of explainable machine learning. Front Big Data. 2021;4:688969.
  19. Vilone G, Longo L. Notions of explainability and evaluation approaches for explainable artificial intelligence. Inf Fusion. 2021;76:89-106.
  20. Ali S, et al. Explainable artificial intelligence (XAI): What we know and what is left to attain trustworthy artificial intelligence. Inf Fusion. 2023;99:101805.
  21. Gundersen OE, Kjensmo S. State of the art: Reproducibility in artificial intelligence [conference paper]. Presented at: Thirty-Second AAAI Conference on Artificial Intelligence; New Orleans, LA; 2018:1644-1651. https://ojs.aaai.org/index.php/AAAI/article/view/11503
  22. Hutson M. Artificial intelligence faces reproducibility crisis. Science. 2018;359(6377):725-726.
  23. Pineau J, et al. Improving reproducibility in machine learning research: A report from the NeurIPS 2019 reproducibility program. J Mach Learn Res. 2021;22(164):1-20.
  24. U.S. Food and Drug Administration, Health Canada, Medicines and Healthcare products Regulatory Agency. Good Machine Learning Practice for Medical Device Development: Guiding Principles. 2021.
  25. Liu X, et al. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: The CONSORT-AI extension. Nat Med. 2020;26(9):1364-1374.
  26. Mongan J, Moy L, Kahn CE Jr. Checklist for Artificial Intelligence in Medical Imaging (CLAIM): A guide for authors and reviewers. Radiol Artif Intell. 2020;2(2).
  27. Peng RD. Reproducible research in computational science. Science. 2011;334(6060):1226-1227.
  28. Collins GS, et al. Protocol for development of the TRIPOD-AI and PROBAST-AI reporting and risk-of-bias tools for studies developing, validating, or updating prediction models based on artificial intelligence. BMJ Open. 2021;11.
  29. Kapoor S, Narayanan A. Leakage and the reproducibility crisis in machine-learning-based science. Patterns. 2023;4(9):100804.
  30. Wiens J, et al. Do no harm: A roadmap for responsible machine learning for health care. Nat Med. 2019;25(9):1337-1340.

Dostęp ograniczony. Zaloguj się lub rozpocznij wersję próbną, aby wyświetlić tę treść.

Przedruki i uprawnienia

Przeglądaj więcej artykułów

Wyjaśnialna sztuczna inteligencjamodele AI w opiece zdrowotnejinterpretowalność modeluodtwarzalny protokółwydajność predykcyjnainżynieria cechwalidacja statystycznawyjaśnienia SHAPwyjaśnienia LIMEwyjaśnienia kontrfaktyczne
Skontaktuj się z nami
Poleć bibliotece

Prywatność

Warunki korzystania z usługi

Zasady

Prawa autorskie © 2026 MyJoVE Corporation. Wszelkie prawa zastrzeżone.