Niniejsze badanie zostało zatwierdzone przez Komitet Etyczny ds. Badań Klinicznych Szpitala Ludowego w Shenzhen'szpitala (nr zgody: LL-KY-2025300-01). Wymóg uzyskania świadomej zgody został odwołany przez komitet etyczny, ponieważ niniejsze badanie retrospektywne wykorzystywało istniejące obrazy histopatologiczne i materiały kliniczne bez bezpośredniego kontaktu z pacjentami ani interwencji. Wszystkie dane kliniczne i obrazy histopatologiczne zostały zanonimizowane przed analizą, a w badaniu nie wykorzystano żadnych informacji umożliwiających identyfikację osób. Wszystkie dane wykorzystane w badaniach zostały przetworzone zgodnie ze standardami etycznymi instytucjonalnych i krajowych komitetów ds. badań naukowych.
Omówienie ramowe
Ogólna architektura proponowanego ramowego rozwiązania UAD, RareCode, została przedstawiona na Rycina 1. Ramy pracy wykorzystują równoległą architekturę dwuramieniową. Dla każdego obrazu wejściowego o rozmiarze 512 x 512 niepokrywające się fragmenty o rozmiarach 32 x 32 i 64 x 64 są wyodrębniane jako wejścia o skali odpowiednio drobnej i grubej. Fragmenty 64 x 64 są zmieniane do rozmiaru 32 x 32 przed przekazaniem do sieci, aby oba ramiona współdzieliły ten sam rozmiar wejściowy enkodera-dekodera, zachowując jednocześnie różne pola odbiorcze. Enkodery w każdym ramieniu odwzorowują wyodrębnione cechy w przestrzeń ukrytą, gdzie moduł MHC nakłada ograniczenia dyskretyzacji. Następnie dekodery rekonstruują obraz z kwantyzowanych cech w celu obliczenia błędów rekonstrukcji w dziedzinie przestrzennej. Mechanizm CAR mierzy następnie stopień anomalii na poziomie semantycznym poprzez analizę częstości aktywacji w zbiorze kodowym. Wreszcie model łączy wyniki rekonstrukcji i wyniki CAR za pomocą ważonej kombinacji, aby uzyskać wyniki anomalii na poziomie obrazu. Framework RareCode jest uczony kompleksowo (end-to-end) wyłącznie na podstawie próbek normalnych, bez konieczności adnotowania anomalii. Dwuramieniowa architektura została wykorzystana w celu przechwycenia zarówno lokalnych cech komórkowych, jak i szerszych struktur gruczołowych. Moduł MHC został wykorzystany do modelowania tych cech za pomocą zbiorów kodowych o różnej pojemności.
Architektura enkoder-dekoder
RareCode konstruuje strukturalnie niezależne enkodery i dekodery dla gałęzi szczegółowej i ogólnej. Każda gałąź wykorzystuje ten sam projekt enkoder-dekoder, ale nie współdzieli parametrów. Enkoder składa się z czterech bloków konwolucyjnych, z których każdy zawiera konwolucję 3 × 3, normalizację wsadową, aktywację ReLU oraz dropout. Liczba kanałów rośnie od 64 do 128, następnie do 256, a końcową mapę cech spłaszcza się i rzutuje na 64-wymiarowy ukryty wektor cech. Dekoder jest lustrzanym odbiciem enkodera i zawiera warstwę rzutowania w pełni połączoną oraz cztery warstwy konwolucji transponowanej, odtwarzając każdy fragment do oryginalnego rozmiaru wejściowego sieci. Błąd rekonstrukcji obliczany jest jako średniokwadratowy błąd pomiędzy wejściem a odtworzonymi fragmentami. Łącząc tę strukturę enkoder-dekoder z dyskretnymi ograniczeniami słownika kodowego, RareCode uczy się kompaktowych reprezentacji tkanki prawidłowej i mierzy odchylenia podczas wnioskowania.
Wieloskalowy hierarchiczny kodeks
Aby uchwycić cechy patologiczne na wielu poziomach abstrakcji—od szerokich wzorców tkankowych po zlokalizowane zmiany komórkowe—moduł MHC wykorzystuje K dyskretnych kodeków
o różnej pojemności n1, n2, ..., nKW końcowej konfiguracji FourScales każda gałąź zawiera cztery kodeksy o 64, 128, 256 oraz 512 wpisach odpowiednio, a każdy wpis w kodeksie ma 64-wymiarowe osadzenie. Dla każdej zakodowanej cechy fragmentu najbliższy wpis w kodeksie jest wybierany na podstawie odległości euklidesowej. Skwantyzowane wyjścia z różnych kodeksów są następnie łączone za pomocą nauczanych wag, znormalizowanych pomiędzy kodeksami. Oczekuje się, że mniejsze kodeksy, ze względu na silniejsze ograniczenia kompresji, kodują ogólne, typowe wzorce, abstrahujące od lokalnych różnic, podczas gdy większe kodeksy zachowują cechy bardziej szczegółowe, oddające konkretniejsze cechy strukturalne. Dla każdego kodeksu
, gdzie ek(i)
Rd oznacza i-ty wektor osadzania w k-tym kodeksie, cechy ciągłe są odwzorowywane na dyskretną przestrzeń kodeksu poprzez wyszukiwanie najbliższego sąsiada (równ. 1 i 2):


Aby osiągnąć adaptacyjne fuzję cech wieloskalowych, wprowadzamy nauczalne wagi. Po normalizacji softmax wykonywane jest ważone sumowanie nad zakwantyzowanymi wyjściami z każdej księgi kodów (równ. 3):

gdzie σ(·) oznacza funkcję softmax, zapewniającą, że wagi spełniają Σk σ(wk) = 1. Ten rodzaj konstrukcji pozwala modelowi na automatyczne dostosowywanie współczynników udziału kartotek na różnych poziomach szczegółowości w oparciu o semantyczną zawartość cech wejściowych.
W celu zoptymalizowania uczenia się kodbooka przyjmujemy standardową funkcję straty VQ (równ. 4):

gdzie sg[·] oznacza operację zatrzymania gradientu, a β = 0,25 to współczynnik wagi straty zobowiązania. Pierwszy składnik zachęca wektory słownika kodowego do przemieszczania się w kierunku wyjść enkodera, podczas gdy drugi składnik zachęca wyjścia enkodera do zachowania spójności z odpowiadającymi im wektorami słownika kodowego. Kompletny mechanizm wieloskalowego VQ przedstawiono na Rycina 2.
Ocenianie rzadkości aktywacji kodów
CAR mierzy anomalie na poziomie semantycznym na podstawie statystyk aktywacji słownika, oszacowanych na podstawie normalnych próbek uczących. Po zakończeniu uczenia modelu wszystkie normalne obrazy uczące zostały przepuszczone przez enkoder i moduł MHC bez augmentacji danych. Dla każdej gałęzi i każdego słownika zarejestrowano indeks przypisania każdej cechy fragmentu oraz zliczono liczbę przypisań do każdego wpisu w słowniku. Następnie liczby te zostały unormowane w celu uzyskania rozkładu częstości aktywacji dla danego słownika (równanie 5):

Podczas wnioskowania każdy obraz testowy był przetwarzany za pomocą tej samej procedury ekstrakcji fragmentów, kodowania i przypisywania najbliższego sąsiada z katalogu kodów. Dla każdego przypisanego wpisu w katalogu kodów, wartość rzadkości obliczana jest jako ujemny logarytm częstości jego aktywacji w zbiorze treningowym normalnych przypadków (Równ. 6):

gdzie ε jest małą stałą wykorzystywaną w celu zapewnienia stabilności numerycznej. W związku z tym wpis w słowniku kodów o niskiej częstotliwości otrzymuje wyższy wynik rzadkości, co sugeruje, iż odpowiadający mu cechę fragmentu mniej zgodna jest z nauczoną dystrybucją tkanki prawidłowej. Wyniki rzadkości na poziomie fragmentów były uśredniane w obrębie każdego obrazu oraz pomiędzy ramionami o wysokiej i niskiej rozdzielczości, w celu uzyskania odpowiedzi rzadkości na poziomie obrazu.
Aby uzupełnić rzadkość opartą na częstości aktywacji, obliczamy również wynik odległości kwantyzacji oparty na percentylach (równ. 7):

Wynik ten pochodzi od odległości euklidesowej między każdym zakodowanym wektorem cech a jego najbliższym wpisem w słowniku kodowym. Rozkład odległości szacuje się na podstawie normalnych próbek treningowych, a odległości próbek testowych przelicza się na wyniki percentylowe. Wyższe wyniki percentylowe wskazują, że zakodowana cecha jest trudniejsza do reprezentacji przy użyciu nauczonych prototypów normalnego słownika kodowego.
Ostateczna ocena CAR łączy rzadkość aktywacji i odległość kwantyzacji we wszystkich kodeksach za pomocą nauczalnych wag kodeksów (równ. 8):

Te same znormalizowane wagi kodowego słownika, które są stosowane do fuzji cech wieloskalowych, wykorzystywane są również w fuzji na poziomie ocen, zapewniając spójność między uczeniem reprezentacji a ocenianiem anomalii. Otrzymany wynik CAR obliczany jest na poziomie obrazu, a następnie łączy się go z wynikiem rekonstrukcji, aby uzyskać końcową ocenę anomalii. Całkowity mechanizm oceniania CAR przedstawiono na Rycina 3.
Ostateczne obliczenie wyniku anomalii
Łączymy błędy rekonstrukcji w dziedzinie przestrzennej ze wskaźnikami CAR na poziomie semantycznym. Przed połączeniem oba wskaźniki są oddzielnie normalizowane za pomocą min-max opartego na percentylach, aby zmniejszyć wpływ skrajnych wartości odstających. Ostateczny, obrazowy wskaźnik niezwykłości definiuje się następnie jako (równ. 9):

gdzie Srekon oznacza znormalizowany średni błąd rekonstrukcji w przestrzeni pikseli, odzwierciedlający jakość rekonstrukcji próbek; SCAR to wynik CAR opisany powyżej, oddający stopnie anomalii na poziomie semantycznym. Hiperparametr α
[0,1] kontroluje względną wagę między dwoma składowymi, przy czym optymalne wartości są wyznaczane na zbiorach walidacyjnych.
Cel szkolenia
Framework RareCode jest szkolony end-to-end wyłącznie przy użyciu próbek normalnych. Całkowity błąd treningowy składa się z następujących składowych (Równanie 10):

Każdy termin jest definiowany następująco: Strata rekonstrukcji:
, mierząc średni błąd kwadratowy między fragmentami wejściowymi p i odtworzone plamy D(zq) po kwantyzacji. Strata ta jest stosowana oddzielnie do 32 × 32 patch branch (
) i 64 × 64 patch branch (
) aby zapewnić skuteczne naukę cech na obu skalach przestrzennych.
Opis zestawu danych
Aby ocenić działanie RareCode, przeprowadzono eksperymenty na klinicznie opisanym zbiorze danych obrazów histopatologicznych raka jelita grubego (CRC), obejmującym obrazy przekrojów tkanek jelita grubego barwionych hematoksyliną i eozyną (H&E)&E), uzyskany z Shenzhen People's Hospital. Wszystkie obrazy w tym zbiorze pochodzą z rzeczywistych przypadków klinicznych. Obrazy zostały zdigitalizowane w powiększeniu 40x z oryginalną rozdzielczością 1024 × 1024 piksele. W celu zapewnienia rzetelności i jakości adnotacji wszystkie etykiety kategorii próbek zostały wspólnie przeanalizowane i potwierdzone przez dwóch lub więcej wybitnych specjalistów-patologów zgodnie z protokołem podwójnie ślepego badania.
Na podstawie cech histopatologicznych zbiór danych został podzielony na trzy klasy: tkankę normalną (1226 obrazów), nowotwór (1215 obrazów) oraz stan zapalny (1214 obrazów). W ustawieniu binarnym UAD próbki z nowotworem i stanem zapalnym traktowane były jako anomalie, natomiast próbki normalne stanowiły rozkład odniesienia. Takie sformułowanie odzwierciedla zamierzone zadanie triażu polegające na oddzieleniu przypadków wymagających dalszej oceny patologicznej od tych, które są morfologicznie normalne.
Wszystkie H&Obrazy postrzegane w świetle odbitym zostały przeskalowane do rozmiaru 512 × 512 pikseli przed użyciem jako wejście sieci. Do oceny zastosowano warstwową pięciokrotną walidację krzyżową. W każdej części normalne próbki najpierw podzielono na podzbiory uczący, walidacyjny i testowy (przytrzymywany). RareCode trenowano wyłącznie na normalnych próbkach z podzbioru uczącego. Podzbiór walidacyjny, zawierający również wyłącznie normalne próbki, użyto do selekcji modelu, dostrajania hiperparametrów oraz wyboru wagi fuzji. αZestaw testowy typu „held-out”, składający się z niezobaczonych próbek normalnych oraz próbek nietypowych, w tym nowotworowych i zapalnych, został użyty wyłącznie do końcowej oceny wydajności modelu i nie był wykorzystywany do uczenia modelu, doboru hiperparametrów ani α selekcji. Przedstawiono reprezentatywne kategorie, strukturę zbioru danych oraz protokół walidacji w Rycina 4.
Szczegóły implementacji
Zaproponowany system RareCode oraz porównawcze metody referencyjne zaimplementowano przy użyciu PyTorch. Wszystkie eksperymenty przeprowadzono na stacji roboczej wyposażonej w pojedynczą kartę graficzną NVIDIA GeForce RTX 4060 Ti (16 GB). W celu konfiguracji architektury sieci, aby uchwycić cechy na różnych skalach przestrzennych, architektura dwurzędowa przetwarza niepokrywające się fragmenty w dwóch skalach: 32 × 32 piksele (mniejsze pole odbiorcze, przechwytujące lokalne wzory tekstury) i 64 × 64 piksele (większe pole odbiorcze, obejmujące szerszy kontekst przestrzenny), odpowiednio. Wymiar ciągłego osadzania cech generowanego przez oba enkodery gałęzi jest jednolicie ustawiony na 64. W module MHC konfigurujemy cztery kodeksy o różnych pojemnościach dla każdej gałęzi, z odpowiednio 64, 128, 256 i 512 dyskretnymi prototypami.
W trakcie optymalizacji sieć była trenowana kompleksowo przez 50 epok z rozmiarem partii równym 8. Do aktualizacji wag zastosowano optymalizator AdamW z początkowym współczynnikiem uczenia równym 5 × i współczynnik regularyzacji wag (weight decay) w celu zapobiegania przeuczeniu. Dodatkowo, aby zapewnić gładką zbieżność procesu uczenia, zastosowano harmonogram zmian szybkości uczenia typu kosinusoidalnego (cosine annealing), co umożliwia dokładniejszą optymalizację w późniejszych etapach treningu. Rozmiary fragmentów (patch sizes) oraz rozmiary słownika kodowego (codebook sizes) dobrano tak, aby zrównoważyć reprezentację wieloskalową i koszt obliczeniowy. Ostateczną konfigurację FourScales poparto analizą ablacyjną, i α został wybrany na zbiorze walidacyjnym przed oceną na zbiorze testowym.
W celu analizy wpływu złożoności dekodera zaimplementowano wariant złożonego dekodera oparty na konfiguracji FourScales. Wariant ten wykorzystywał ten sam podział danych, rozmiary codebooków, liczbę epok treningowych, optymalizator, współczynnik uczenia oraz walidację opartą na α selekcji i metryk oceny jako model FourScales. Podstawowy dekoder został zastąpiony dekoderem w stylu EMCAD, zawierającym bloki splotu głębokościowego wieloskalowego oraz moduły uwagi bloku splotowego (CBAM). Po każdym z pierwszych trzech etapów podwyższania próbkowania za pomocą transponowanego splotu, równolegle 3 × 3, 5 × 5 i 7 × Zastosowano 7 splotów wgłąb, po których nastąpił 1 × 1 fuzja punktowa, normalizacja wsadowa, aktywacja ReLU, połączenie resztkowe oraz uwaga CBAM. CBAM zawierała uwagę kanałową opartą na deskryptorach uśredniania i maksymalnego uśredniania oraz uwagę przestrzenną wykorzystującą 7 × 7 splotów. Ostatni etap wykorzystywał splot transponowany i aktywację sigmoidalną do rekonstrukcji 32 × 32 plastry.