Настоящее исследование было одобрено Комитетом по этике клинических исследований Шэньчжэньского муниципального's Hospital (номер одобрения: LL-KY-2025300-01). Этический комитет освободил от требования предоставления информированного согласия, поскольку данное ретроспективное исследование использовало существующие гистопатологические изображения и клинические материалы без прямого контакта с пациентами и вмешательства в их лечение. Все клинические данные и гистопатологические изображения были деперсонализированы до анализа, и в ходе исследования не использовалась никакая персонально идентифицируемая информация. Все данные, использованные в исследовании, обрабатывались в соответствии с этическими стандартами институциональных и национальных исследовательских комитетов.
Обзор платформы
Общая архитектура предложенной рамочной платформы UAD, RareCode, показана на Рисунок 1Фреймворк использует параллельную двухветвевую архитектуру. Для каждого входного изображения размером 512 × 512 извлекаются неперекрывающиеся патчи размером 32 × 32 и 64 × 64 в качестве входных данных мелкого и крупного масштаба соответственно. Патчи размером 64 × 64 изменяют размер до 32 × 32 перед подачей в сеть, чтобы обе ветви имели одинаковый размер входных данных для энкодера-декодера, сохраняя при этом различные рецептивные поля. Энкодеры каждой ветви отображают извлечённые признаки в латентное пространство, где модуль MHC накладывает ограничения на дискретизацию. Затем декодеры восстанавливают изображение из квантованных признаков для вычисления ошибок восстановления в пространственной области. Механизм CAR оценивает степень семантической аномалии путём анализа частот активации кодовой книги. Наконец, модель объединяет оценки восстановления и оценки CAR с помощью взвешенной комбинации для получения оценок аномалий на уровне изображения. Фреймворк RareCode обучается «с конца до конца» только на нормальных образцах, не требуя аннотаций аномалий. Двухветвевая архитектура была использована для захвата как локальных клеточных признаков, так и более крупных структур желез. Модуль MHC применялся для моделирования этих признаков с помощью кодовых книг различной ёмкости.
Архитектура кодировщик-декодировщик
RareCode создает структурно независимые кодировщики и декодировщики для ветвей мелкого и крупного масштаба. Каждая ветвь использует один и тот же дизайн кодировщика-декодировщика, но не разделяет параметры. Кодировщик состоит из четырех сверточных блоков, каждый из которых включает свертку 3 × 3, нормализацию по пакетам, функцию активации ReLU и dropout. Количество каналов увеличивается от 64 до 128, затем до 256, а конечная карта признаков преобразуется в одномерный вектор и проецируется в 64-мерное латентное представление. Декодировщик зеркально повторяет структуру кодировщика и включает полносвязный проекционный слой, за которым следуют четыре слоя транспонированной свертки, восстанавливающие каждый фрагмент до исходного размера входных данных сети. Ошибка реконструкции вычисляется как среднеквадратичная ошибка между входными и реконструированными фрагментами. Комбинируя эту архитектуру кодировщика-декодировщика с дискретными ограничениями кодовой книги, RareCode обучается компактным представлениям нормальной ткани и измеряет отклонения в ходе инференса.
Многоуровневый иерархический кодобук
Для фиксации патологических признаков на нескольких уровнях абстракции—от широких тканевых паттернов до локализованных клеточных вариаций—модуль MHC использует K дискретных кодовых книг
с различной ёмкостью н1, n2, ..., nKВ окончательной конфигурации FourScales каждая ветвь содержит четыре кодовые книги с 64, 128, 256 и 512 элементами соответственно, причём каждый элемент кодовой книги представляет собой 64-мерное встраивание. Для каждого закодированного признака фрагмента ближайший элемент кодовой книги выбирается на основе евклидова расстояния. Квантованные выходы из различных кодовых книг затем объединяются с использованием обучаемых весов, нормализованных по кодовым книгам. Предполагается, что более мелкие кодовые книги, из-за более сильных ограничений сжатия, кодируют обобщённые типичные паттерны, игнорируя локальные вариации, тогда как более крупные кодовые книги сохраняют детализированные признаки, отражающие более специфические структурные особенности. Для каждой кодовой книги
, где ek(i)
Rd обозначает i-й вектор встраивания в k-м кодовом книге, непрерывные признаки отображаются в дискретное пространство кодовой книги посредством поиска ближайшего соседа (уравнение 1 и 2):


Для достижения адаптивного объединения многомасштабных признаков мы вводим обучаемые веса. После нормализации с помощью softmax выполняется взвешенное суммирование квантованных выходов из каждого кодбука (уравнение 3):

где σ(·) обозначает функцию softmax, гарантирующую, что веса удовлетворяют условию Σk σ(wk) = 1. Такая конструкция позволяет модели автоматически корректировать доли участия кодовых таблиц на различных уровнях детализации в зависимости от семантического содержания входных признаков.
Для оптимизации обучения кодовой книги мы используем стандартную функцию потерь векторного квантования (уравнение 4):

где sg[·] обозначает операцию остановки градиента, и β = 0,25 — это коэффициент веса потери привязанности. Первый член способствует смещению векторов кодовой книги в сторону выходных данных энкодера, в то время как второй член способствует сохранению согласованности выходных данных энкодера с соответствующими векторами кодовой книги. Полный механизм многомасштабного векторного квантования (VQ) проиллюстрирован в Рисунок 2.
Оценка редкости активации кодов
CAR оценивает аномалии на семантическом уровне на основе статистики активации кодовой книги, оценённой по нормальным обучающим выборкам. После обучения модели все нормальные обучающие изображения были пропущены через энкодер и модуль MHC без увеличения данных. Для каждой ветви и каждой кодовой книги был зафиксирован индекс назначения каждого признака участка, а также подсчитано количество назначений каждому элементу кодовой книги. Полученные значения подсчитывания затем нормализовали, чтобы получить распределение частоты активации для данной кодовой книги (уравнение 5):

На этапе вывода каждое тестовое изображение обрабатывалось с использованием одной и той же процедуры извлечения фрагментов, кодирования и присвоения ближайшего соседа из кодовой книги. Для каждой присвоенной записи кодовой книги значение редкости рассчитывается как отрицательный логарифм частоты её активации в обучающей выборке нормальных образцов (уравнение 6):

где ε является небольшой константой, используемой для численной устойчивости. Таким образом, элемент кодовой книги низкой частоты получает более высокий показатель редкости, что указывает на меньшую согласованность соответствующего признака участка с изученным распределением нормальной ткани. Показатели редкости на уровне участков усреднялись в пределах каждого изображения и по ветвям мелкого и крупного масштабов для получения отклика редкости на уровне изображения.
Для дополнения редкости по частоте активации мы также вычисляем оценку расстояния на основе процентильной квантизации (уравнение 7):

Этот показатель рассчитывается на основе евклидова расстояния между каждым закодированным вектором признаков и ближайшим элементом кодовой книги. Распределение расстояний оценивается по нормальным обучающим образцам, а расстояния тестовых образцов преобразуются в процентильные баллы. Более высокие процентильные баллы указывают на то, что закодированный признак труднее представить с помощью изученных прототипов нормальной кодовой книги.
Окончательный показатель CAR объединяет редкость активации и расстояние квантования по всем кодовым книгам с использованием обучаемых весов кодовых книг (уравнение 8):

Те же нормализованные веса кодовой книги, которые используются для объединения признаков на нескольких масштабах, применяются также при объединении на уровне оценок, что обеспечивает согласованность между обучением представлений и оценкой аномалий. Результирующий показатель CAR рассчитывается на уровне изображения, после чего объединяется с показателем реконструкции для получения окончательного показателя аномалии. Общий механизм оценки CAR проиллюстрирован на Рисунок 3.
Окончательное вычисление показателя аномалии
Мы объединяем ошибки реконструкции в пространственной области с оценками CAR на семантическом уровне. Перед объединением обе оценки отдельно нормализуются с использованием мини-макс-нормализации на основе перцентилей, чтобы уменьшить влияние экстремальных выбросов. Окончательная аномальная оценка на уровне изображения определяется следующим образом (уравнение 9):

где Sрекон обозначает нормированную среднеквадратичную ошибку реконструкции, отражающую качество реконструкции образца в пиксельном пространстве; SCAR является оценкой CAR, описанной выше, которая отражает степень семантического отклонения. Гиперпараметр α
[0,1] регулирует относительное взвешивание между двумя компонентами, причём оптимальные значения определяются на валидационных наборах данных.
Цель обучения
Фреймворк RareCode обучается сквозным способом с использованием только нормальных образцов. Общая функция потерь при обучении включает следующие компоненты (уравнение 10):

Каждый термин определяется следующим образом: Потеря реконструкции:
, измеряя среднеквадратичную ошибку между входными участками p и реконструированные участки D(zq) после квантования. Эта потеря применяется отдельно к 32 × 32 патч-ветвь (
) и 64 × 64 patch branch
для обеспечения эффективного обучения признакам на обоих пространственных масштабах.
Описание набора данных
Для оценки RareCode были проведены эксперименты на клинически аннотированном наборе гистопатологических изображений РРК, включающем изображения срезов ткани толстой кишки, окрашенных гематоксилином и эозином (H&E)&E), полученный из Шэньчжэньского народа's Больницы. Все изображения в этом наборе данных получены из реальных клинических случаев. Изображения были оцифрованы при увеличении 40x с исходным разрешением 1024 × 1024 пикселей. Для обеспечения надежности и качества аннотаций все метки категорий образцов совместно проверялись и подтверждались двумя или более старшими профессиональными патологоанатомами в соответствии с протоколом двойного слепого исследования.
На основании гистопатологических характеристик набор данных был разделён на три класса: нормальная ткань (1226 изображений), рак (1215 изображений) и воспаление (1214 изображений). В условиях бинарной задачи обнаружения аномалий (UAD) образцы рака и воспаления рассматривались как аномальные, а нормальные образцы служили опорным распределением. Такая постановка задачи отражает целевую задачу сортировки — разделение случаев, требующих дополнительного патологического анализа, от тех, которые морфологически нормальны.
Все H&Изображения, окрашенные с помощью E, были изменены до размера 512 × 512 пикселей перед использованием в качестве входных данных сети. Для оценки использовали стратифицированное перекрёстное валидирование с пятью фолдами. В каждом фолде нормальные образцы сначала разделяли на обучающую, валидационную и независимую тестовую подвыборки. RareCode обучали только на нормальных образцах обучающей подвыборки. Валидационную подвыборку, в которую также входили только нормальные образцы, использовали для выбора модели, настройки гиперпараметров и определения веса объединения αКонтрольный набор данных, состоящий из незнакомых нормальных образцов и образцов с аномалиями, включая рак и воспаление, использовался исключительно для окончательной оценки эффективности и не применялся при обучении модели, подборе гиперпараметров или α выборке. Представительные категории, структура набора данных и протокол проверки показаны в Рисунок 4.
Детали реализации
Предложенный фреймворк RareCode и базовые методы сравнения были реализованы с использованием PyTorch. Все эксперименты проводились на рабочей станции, оснащённой одним графическим процессором NVIDIA GeForce RTX 4060 Ti (16 ГБ). Для конфигурации архитектуры сети, с целью извлечения признаков на различных пространственных масштабах, двухветвевая архитектура обрабатывает неперекрывающиеся фрагменты на двух масштабах: 32 × 32 пикселя (меньшее поле рецепции, фиксирующее локальные текстурные паттерны) и 64 × 64 пикселя (более крупное поле восприятия, охватывающее более широкий пространственный контекст) соответственно. Размерность непрерывного встраивания признаков, формируемая кодировщиками обеих ветвей, единообразно установлена равной 64. В модуле MHC мы настраиваем по четыре кодовые книги с разной ёмкостью для каждой ветви, с количеством дискретных прототипов 64, 128, 256 и 512 соответственно.
В ходе оптимизации сеть обучалась сквозным способом в течение 50 эпох с размером пакета 8. Для обновления весов мы используем оптимизатор AdamW с начальной скоростью обучения 5 × и коэффициент регуляризации весов выбраны так, чтобы предотвратить переобучение. Кроме того, для обеспечения плавной сходимости обучения использовался график понижения скорости обучения по косинусоидальному закону, что позволило достичь более точной оптимизации на последних этапах обучения. Размеры фрагментов и размеры кодовых книг были подобраны с учётом баланса между представлением на нескольких масштабах и вычислительными затратами. Окончательная конфигурация FourScales была обоснована анализом исключения компонентов, и α был выбран на контрольной выборке до оценки на тестовой выборке.
Для анализа влияния сложности декодера был реализован вариант с комплексным декодером на основе конфигурации FourScales. Данный вариант использовал одинаковый разбиение данных, размеры кодовых книг, количество эпох обучения, оптимизатор, скорость обучения, основанную на валидации α выбора и метрик оценки, как модель FourScales. Базовый декодер был заменён на декодер в стиле EMCAD, содержащий блоки свёртки с несколькими масштабами и модули внимания к свёрточным блокам (CBAM). После каждого из первых трёх этапов апсемплирования с транспонированной свёрткой — параллельные 3 × 3, 5 × 5 и 7 × Было применено 7 свёрток по глубине, за которыми следовала 1 × 1 точечное объединение, пакетная нормализация, активация ReLU, остаточное соединение и внимание CBAM. CBAM включает канальное внимание на основе дескрипторов среднего и максимального пулинга и пространственное внимание с использованием 7 × 7 свёрток. Заключительный этап использовал транспонированную свёртку и сигмоидальную активацию для реконструкции 32 × 32 патча.