Se requiere una suscripción a JoVE para ver este contenido. Inicie sesión o comience su prueba gratuita.

Artículo de método

Un protocolo experimental reproducible para el desarrollo y la evaluación de modelos de inteligencia artificial explicable en sistemas de salud

9 visualizaciones

⸱

DOI:

10.3791/73848

⸱

15 de septiembre de 2026

 , 
1Vishwakarma University

En este artículo

Resumen

Este protocolo presenta un flujo de trabajo reproducible para desarrollar, evaluar e interpretar modelos de inteligencia artificial explicables en el ámbito sanitario. Integra la preparación estandarizada de datos, el desarrollo del modelo, técnicas de explicabilidad, evaluación cuantitativa y prácticas de reproductibilidad para mejorar la transparencia, la fiabilidad y la aplicabilidad clínica.

Resumen

La inteligencia artificial (AI) está siendo adoptada cada vez más como una herramienta valiosa para la toma de decisiones clínicas, la predicción de enfermedades, el diagnóstico médico y la atención sanitaria personalizada. Sin embargo, la falta de transparencia, la implementación inconsistente de métodos de inteligencia artificial explicable (XAI) y la reproducibilidad limitada siguen siendo barreras importantes para la implementación confiable de modelos de IA en entornos clínicos. Este artículo propone un protocolo sistemático, reproducible y transparente para desarrollar, evaluar e interpretar modelos de inteligencia artificial explicable para aplicaciones en el ámbito sanitario. El flujo de trabajo comienza con la configuración del entorno computacional, seguido de la adquisición y caracterización de datos, el preprocesamiento, la ingeniería de características, el desarrollo del modelo, la optimización de hiperparámetros, la evaluación del rendimiento predictivo, el análisis de explicabilidad, la validación estadística y la evaluación de la reproducibilidad. El protocolo incorpora métodos de XAI como las Explicaciones Aditivas SHapley (SHAP), Explicaciones Locales Independientes del Modelo (LIME), el Mapeo de Activación de Clases Ponderado por Gradientes (Grad-CAM), Gradientes Integrados, la visualización de la atención y las explicaciones contrafactuales, para generar interpretaciones tanto globales como locales del modelo. El protocolo destaca varios componentes clave, incluida la preparación de conjuntos de datos sanitarios estandarizados, el desarrollo de modelos estables de aprendizaje automático, la evaluación del rendimiento predictivo, la generación de explicaciones clínicamente relevantes y la evaluación estadística de la reproducibilidad en experimentos repetidos. Al integrar el desarrollo del modelo, la explicabilidad, la evaluación cuantitativa y cualitativa, la validación estadística y la evaluación de la reproducibilidad en un flujo de trabajo unificado, este protocolo proporciona un marco integral para desarrollar modelos de IA transparentes y reproducibles para aplicaciones en el ámbito sanitario.

Introducción

La inteligencia artificial se ha convertido en un componente integral de la atención sanitaria moderna al permitir el análisis inteligente de datos clínicos complejos y apoyar la toma de decisiones médicas basada en evidencia1. La rápida digitalización de la atención sanitaria mediante historiales clínicos electrónicos, sistemas de imágenes médicas, dispositivos portátiles y tecnologías genómicas ha generado grandes volúmenes de datos heterogéneos que requieren enfoques computacionales avanzados para su interpretación efectiva2.

Los algoritmos de aprendizaje automático (ML) y aprendizaje profundo (DL) han demostrado capacidades notables para extraer patrones significativos a partir de conjuntos de datos multidimensionales en el ámbito de la salud, mejorando así la precisión diagnóstica, la predicción de enfermedades y la evaluación de los resultados en pacientes3. Los modelos basados en inteligencia artificial se han aplicado con éxito en radiología, patología, cardiología, oncología, oftalmología y otras especialidades médicas para ayudar a los clínicos a detectar enfermedades en etapas más tempranas y recomendar estrategias de tratamiento personalizadas4. Estas tecnologías también han contribuido a la optimización del flujo de trabajo, la reducción de la variabilidad diagnóstica y la mejora en el uso de los recursos sanitarios5.

Los recientes avances en hardware computacional, computación en la nube y marcos de trabajo de inteligencia artificial de código abierto han acelerado el desarrollo y la implementación de aplicaciones inteligentes para la atención médica6. En consecuencia, la inteligencia artificial se ha convertido en una tecnología habilitadora clave para la medicina de precisión y los sistemas de apoyo a la toma de decisiones clínicas7. A pesar de estos avances, la adopción generalizada de la inteligencia artificial en la práctica clínica rutinaria sigue siendo limitada, ya que muchos modelos de alto rendimiento ofrecen poca información sobre cómo se generan sus predicciones8.

La mayoría de los algoritmos de aprendizaje profundo funcionan como modelos complejos de caja negra en los que el proceso interno de toma de decisiones es difícil de comprender para los médicos y los investigadores9. Aunque estos modelos a menudo logran un excelente rendimiento predictivo, su falta de transparencia socava la confianza del usuario y plantea desafíos para la validación clínica, la aprobación regulatoria y la seguridad del paciente10. Los profesionales de la salud deben poder justificar las decisiones asistidas por inteligencia artificial antes de incorporarlas a la práctica clínica habitual, particularmente en entornos médicos de alto riesgo11.

El XAI ha surgido como un enfoque efectivo para mejorar la transparencia e interpretabilidad de los modelos de aprendizaje automático12. En lugar de tratar los modelos de predicción como sistemas opacos, las técnicas de XAI proporcionan información sobre las características, regiones de la imagen o variables clínicas que contribuyen a predicciones individuales13. Dichas explicaciones permiten a los médicos comprender mejor el comportamiento del modelo, identificar posibles sesgos y determinar si las decisiones generadas por inteligencia artificial son coherentes con el conocimiento médico establecido14.

Se han introducido varias técnicas de explicabilidad para aplicaciones en el ámbito sanitario. Las explicaciones aditivas basadas en el valor de Shapley (SHAP) miden la contribución de cada característica a la predicción del modelo sobre la base de la teoría de juegos cooperativos15. Las explicaciones locales interpretables independientes del modelo (LIME) crean un modelo simplificado y explican las predicciones de un modelo opaco16. Para tareas con imágenes médicas que utilizan modelos de aprendizaje profundo, los mapas de activación ponderados por gradientes (Grad-CAM) generan mapas de calor que indican visualmente las regiones de una imagen que contribuyen a las decisiones de clasificación17. La combinación de estos métodos ha mejorado notablemente la transparencia de los sistemas de inteligencia artificial en diversos ámbitos sanitarios18.

A pesar del creciente interés en los métodos de explicabilidad en entornos sanitarios, su uso sigue siendo variado en la literatura. Los investigadores difieren no solo en el uso de estrategias de preprocesamiento, sino también en el diseño de la arquitectura del modelo, las métricas de evaluación e incluso en las técnicas de explicación19. Además, muchos artículos informan una alta precisión predictiva, pero no logran proporcionar una evaluación exhaustiva de la calidad de las explicaciones ni de su reproducibilidad20.

La reproducibilidad es uno de los principales cuellos de botella en la ciencia actual de inteligencia artificial. A menudo, los artículos no revelan la versión del software, el entorno computacional, la canalización de preprocesamiento, la configuración de hiperparámetros, la inicialización de la semilla aleatoria ni las configuraciones del hardware21. Debido a esto, los investigadores independientes suelen no poder reproducir los resultados publicados ni verificar los métodos descritos utilizando otros conjuntos de datos o plataformas de software22. La falta de documentación detallada es uno de los factores que dificultan los estudios de referencia, la investigación colaborativa y la traducción clínica de los sistemas de inteligencia artificial23.

Ante estos desafíos, varias organizaciones y agencias reguladoras han enfatizado la importancia de una inteligencia artificial transparente, confiable y reproducible para aplicaciones en el ámbito sanitario24. Las guías de informe existentes han mejorado la presentación metodológica, pero principalmente describen qué debe informarse, en lugar de proporcionar procedimientos experimentales estandarizados que los investigadores puedan implementar directamente25. Por consiguiente, aún existe la necesidad de un protocolo integral que integre la preparación de conjuntos de datos, el desarrollo del modelo, el análisis de explicabilidad, la evaluación estadística y las prácticas de reproducibilidad en un único flujo de trabajo experimental26.

Un protocolo experimental estandarizado ofrece varias ventajas para la comunidad de inteligencia artificial en salud. Además, promueve la coherencia metodológica, facilita la comparación de estudios independientes, aumenta la transparencia de los experimentos computacionales y permite la validación confiable de los resultados publicados27. Los flujos de trabajo estandarizados también ayudan en la educación y formación, la investigación colaborativa y la evaluación regulatoria mediante procedimientos claramente documentados que son reproducibles en diferentes laboratorios e instituciones sanitarias28.

Se desarrolló y probó un protocolo experimental reproducible para entrenar y evaluar modelos de IA en sistemas de salud. El protocolo describe estándares para configurar el entorno computacional, preprocesar conjuntos de datos de salud, desarrollar modelos de aprendizaje automático, aplicar métodos de IAX, evaluar el rendimiento predictivo, realizar validación estadística y evaluar la reproductibilidad29. Es probable que la integración de estos componentes en un flujo de trabajo coherente aumente la transparencia, confiabilidad y reproductibilidad de la investigación en IA para la salud, además de ayudar a desarrollar sistemas de salud inteligentes confiables30.

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Protocolo

El experimento de validación realizado utilizó el Conjunto de Datos de Diabetes de los Indios Pima, disponible públicamente y con identificación eliminada, y no involucró registros de pacientes identificables ni reclutamiento nuevo de pacientes. Por lo tanto, no se requirió consentimiento informado ni aprobación institucional del comité de revisión institucional (IRB) o ético, y todos los análisis se realizaron de acuerdo con los términos aplicables del conjunto de datos y las políticas institucionales de investigación.

El ejemplo práctico de validación utiliza el conjunto de datos públicamente disponible de diabetes en indígenas Pima, que contiene 768 registros para la predicción binaria de diabetes. Se aplicó a este conjunto de datos el flujo de trabajo central completo de nueve etapas. Las nueve etapas principales comprendieron la selección y validación del conjunto de datos, la configuración del entorno computacional, el preprocesamiento de los datos, la partición del conjunto de datos, el desarrollo y entrenamiento del modelo, la evaluación del rendimiento predictivo y computacional, el análisis de interpretabilidad, la validación estadística y la evaluación de la reproducibilidad. La validación externa y la evaluación por expertos clínicos se mantuvieron como módulos opcionales de validación y no se realizaron en el presente ejemplo práctico. Figura 1 ilustra el flujo de trabajo del protocolo principal, y Tabla 1 resume únicamente las nueve etapas principales implementadas en la presente validación práctica; la validación externa opcional y la evaluación por expertos clínicos se describen por separado dentro del Protocolo y no se incluyen entre las nueve etapas experimentales.

1. Seleccione y valide el conjunto de datos de atención médica

  1. Seleccione el conjunto de datos de Diabetes en Indios Pima como conjunto de datos principal para el ejemplo de validación desarrollado. Verifique la fuente del conjunto de datos, el tamaño de la muestra, el objetivo de predicción, la distribución de clases y la estructura de los datos.
  2. Aplique los criterios predefinidos de inclusión, exclusión y calidad de los datos. Elimine registros duplicados e inválidos antes del desarrollo del modelo.
  3. Registre la fuente del conjunto de datos, sus características, la tarea de predicción, la distribución de clases, los criterios de inclusión y exclusión, y la estrategia de particionamiento en Tabla 2.
  4. Aplique los criterios de decisión para la selección del conjunto de datos y del modelo
    1. Defina el objetivo de predicción antes de seleccionar el conjunto de datos, la arquitectura del modelo, la estrategia de preprocesamiento o el método de explicabilidad.
    2. Relacione la modalidad del conjunto de datos con el objetivo de predicción. Seleccione datos tabulares para variables clínicas estructuradas, datos de imágenes para imágenes médicas, datos de series temporales para señales fisiológicas, datos de texto para narrativas clínicas, o datos multimodales cuando estén disponibles modalidades complementarias para el mismo paciente o unidad de estudio.
    3. Evalúe los conjuntos de datos candidatos según el tamaño de la muestra, disponibilidad del resultado, distribución de clases, valores faltantes, calidad de la anotación, relevancia clínica, completitud de los datos y accesibilidad. Seleccione el conjunto de datos que cumpla con los requisitos predefinidos.
    4. Seleccione modelos convencionales de aprendizaje automático para datos tabulares estructurados cuando el tamaño de la muestra, los recursos computacionales o los requisitos de interpretabilidad limiten el uso de arquitecturas complejas. Seleccione arquitecturas de aprendizaje profundo cuando haya suficientes datos de entrenamiento y entradas de alta dimensionalidad, como imágenes médicas, señales fisiológicas o texto clínico, disponibles.
    5. Seleccione arquitecturas multimodales únicamente cuando estén disponibles múltiples modalidades para el mismo paciente o unidad de estudio y puedan alinearse de forma confiable sin introducir fugas de información. Seleccione las operaciones de preprocesamiento según las características de la modalidad de datos seleccionada.
    6. Seleccione métodos de explicabilidad según el modelo y la modalidad de los datos. Utilice métodos independientes del modelo, como SHAP o LIME, para modelos tabulares adecuados, y métodos específicos de la modalidad, como Grad-CAM para modelos basados en imágenes, cuando sea aplicable.
    7. Documente la justificación para las selecciones del conjunto de datos, la estrategia de preprocesamiento, el modelo y los métodos de explicabilidad. Mantenga estas decisiones como parte del registro de reproducibilidad.

2. Configurar el entorno computacional para el desarrollo del modelo de XAI

  1. Configure el sistema operativo, la CPU, la RAM, el almacenamiento y la GPU según los requisitos del modelo seleccionado. Cree un entorno de Python aislado e instale las bibliotecas necesarias de aprendizaje automático, aprendizaje profundo, estadística, visualización e IA explicativa (XAI).
  2. Registre el entorno computacional real, la arquitectura del modelo y los hiperparámetros utilizados para la validación realizada en Tabla 3. Especifique el optimizador, la tasa de aprendizaje, el tamaño del lote, el número máximo de épocas, la función de pérdida, los parámetros de regularización, la estrategia de validación, la configuración de detención temprana, la configuración de semilla aleatoria, los métodos de explicabilidad, el hardware, el sistema operativo, la versión de Python y las versiones de las bibliotecas de software relevantes. Distinga estas configuraciones utilizadas experimentalmente de los ajustes generales o recomendados del protocolo.
  3. Utilice la configuración reportada en la Tabla 3 al reproducir la validación del conjunto de datos de Pima Indians Diabetes y los resultados predictivos, de explicabilidad, estadísticos y de reproducibilidad correspondientes.
  4. Ejecute un script de validación para confirmar la importación exitosa de paquetes, la carga del conjunto de datos, la ejecución del modelo y la generación de resultados. Mantenga la configuración final del entorno para garantizar la reproducibilidad.

3. Preparar y caracterizar conjuntos de datos de atención médica para el desarrollo de modelos de IAe

  1. Seleccionar y adquirir el conjunto de datos de atención médica
    1. Seleccione un conjunto de datos de atención médica adecuado para la tarea de predicción clínica definida. Evalúe los conjuntos de datos candidatos según el objetivo de investigación, el tipo de datos, el tamaño de la muestra, la calidad de las anotaciones, el equilibrio de clases y la relevancia clínica.
    2. Prefiera conjuntos de datos de referencia públicamente disponibles cuando aborden adecuadamente la tarea de predicción y faciliten la validación independiente.
    3. Obtenga las aprobaciones éticas requeridas, los permisos institucionales y la autorización de acceso a los datos antes de adquirir conjuntos de datos institucionales o internos. Obtenga el conjunto de datos seleccionado de un repositorio verificado o de una base de datos institucional autorizada.
    4. Conservar los archivos originales del conjunto de datos sin modificaciones y registrar el proveedor del conjunto de datos, la versión, la información de adquisición, las condiciones de licencia, los criterios de inclusión, los criterios de exclusión y los metadatos asociados. Organice el conjunto de datos en directorios separados para datos crudos, anotaciones, metadatos e información complementaria.
  2. Caracterizar el conjunto de datos de atención médica
    1. Identifique las variables predictoras, las etiquetas de resultado, los tipos de características, las modalidades de datos y las distribuciones de clases. Determine el número de sujetos, muestras, dimensiones de características y anotaciones disponibles.
    2. Confirme que las características del conjunto de datos sean compatibles con el método de IA seleccionado.
    3. Utilice el conjunto de datos de diabetes de los indígenas Pima como único conjunto de datos experimental detallado para validar el protocolo central de nueve etapas. Incluya únicamente los conjuntos de datos adicionales enumerados en Tabla 2 para demostrar la aplicabilidad del protocolo general en datos tabulares clínicos, historiales médicos electrónicos, imágenes dermatoscópicas, datos de series temporales fisiológicas e imágenes médicas. No utilice estos conjuntos de datos adicionales para entrenamiento del modelo, pruebas, validación estadística ni generación de los resultados experimentales reportados.
  3. Evaluar la calidad del conjunto de datos
    1. Revise el conjunto de datos en busca de registros duplicados, archivos dañados, valores faltantes, errores de anotación y entradas de datos irregulares. Elimine los registros duplicados confirmados y corrija las irregularidades de formato verificadas. Documente todos los procedimientos de control de calidad del conjunto de datos.
    2. Verifique la correspondencia entre datos de imágenes, clínicos, de laboratorio y fisiológicos mediante identificadores de sujetos cuando se utilicen conjuntos de datos multimodales.
    3. Elimine registros duplicados o inconsistentes, maneje los valores faltantes, estandarice las características numéricas, codifique las variables categóricas y aplique preprocesamiento específico por modalidad. Divida el conjunto de datos en conjuntos independientes de entrenamiento, validación y prueba. Consulte Figura 2 para conocer el flujo de trabajo de preparación, preprocesamiento, partición y evaluación de la calidad del conjunto de datos de atención médica.
  4. Garantizar la privacidad de los datos y el cumplimiento ético
    1. Elimine los identificadores directos de los datos de atención médica. Aplique procedimientos de anonimización o seudonimización cuando sea necesario. Trate la información de salud del paciente de acuerdo con los requisitos éticos, de protección de datos, de consentimiento informado y institucionales aplicables.
    2. Registre la aprobación ética aplicable, la exención, los procedimientos de gobernanza de datos, los métodos de anonimización y el flujo de trabajo de preparación del conjunto de datos.
    3. Evalue el posible sesgo algorítmico comparando el desempeño del modelo en subgrupos demográficos o clínicos relevantes cuando dicha información esté disponible y sea éticamente permisible.
    4. Documente el uso previsto, la población objetivo, las limitaciones del modelo, los modos potenciales de falla, los requisitos de supervisión humana y los requisitos éticos, de protección de datos y regulatorios de atención médica aplicables.
    5. Registre las limitaciones de equidad identificadas y las consideraciones de IA responsable como parte de la documentación final del modelo.
      NOTA: Obtenga un conjunto de datos de atención médica estandarizado y documentado que sea adecuado para el desarrollo de modelos de IA, que cumpla con los aspectos éticos y que esté libre de inconsistencias importantes identificadas.

4. Preprocesar y particionar datos sanitarios para el entrenamiento del modelo de IA

  1. Realizar control de calidad
    1. Inspeccionar el conjunto de datos en busca de registros duplicados, valores faltantes, valores inválidos, etiquetas inconsistentes, valores atípicos y archivos corruptos.
    2. Eliminar o corregir observaciones inválidas según criterios predefinidos y registrar todas las exclusiones. Verificar la coherencia de las variables predictoras y las etiquetas del resultado.
  2. Manejar datos faltantes
    1. Cuantificar la ausencia de datos para cada variable. Aplicar la estrategia predefinida de imputación o exclusión.
    2. Estimar los parámetros de imputación utilizando únicamente los datos de entrenamiento y aplicar la transformación ajustada a los datos de validación y prueba.
  3. Normalizar y transformar los datos
    1. Aplicar escalado de características, normalización, codificación, reducción de dimensionalidad u otras transformaciones requeridas por el modelo seleccionado. Ajustar todas las transformaciones dependientes de los datos utilizando únicamente los datos de entrenamiento.
    2. Aplicar las transformaciones ajustadas sin cambios a los datos de validación y prueba.
  4. Cuantificar el desequilibrio de clases en los datos de entrenamiento. Aplicar ponderación de clases, SMOTE, sobremuestreo o aumento únicamente al conjunto de datos de entrenamiento. Mantener la distribución original de los conjuntos de datos de validación y prueba.
  5. Confirmar que ningún sujeto, observación duplicada, muestra aumentada, estadístico de preprocesamiento, criterio de selección de características o muestra sintética se comparta entre las particiones de entrenamiento y evaluación.

5. Desarrollar y configurar el modelo de IA interpretable

  1. Defina la arquitectura del modelo especificando las modalidades de los datos de entrada, las operaciones de preprocesamiento, los codificadores de características específicos para cada modalidad, el mecanismo de fusión de características, la capa de predicción y el módulo de explicabilidad.
  2. Seleccione la arquitectura de aprendizaje automático o aprendizaje profundo según la tarea de predicción y la modalidad de entrada. Configure la capa de entrada, los componentes de extracción de características, las capas ocultas, la capa de salida y las funciones de activación. Defina el optimizador, la tasa de aprendizaje, el tamaño del lote, la función de pérdida, las épocas, la regularización, el dropout, la detención temprana y el programa de ajuste de la tasa de aprendizaje.
  3. Optimice los hiperparámetros utilizando únicamente los datos de entrenamiento y validación.
  4. Registre la arquitectura finalizada y la configuración de hiperparámetros en Tabla 3.
  5. Verifique la compatibilidad dimensional entre entrada y salida antes del entrenamiento.
    NOTA: Establezca un modelo XAI completamente configurado que incluya una arquitectura adecuada, hiperparámetros definidos y técnicas de explicabilidad integradas.

6. Entrenar, optimizar y preservar el modelo de IA interpretable

  1. Cargue los conjuntos de datos predefinidos de entrenamiento y validación, así como la configuración final del modelo. Inicialice el modelo utilizando la semilla aleatoria predefinida y los parámetros de entrenamiento.
  2. Entrene el modelo utilizando el optimizador especificado, la función de pérdida, el tamaño del lote y los criterios de detención.
  3. Supervise el rendimiento en validación y conserve el punto de control correspondiente al criterio predefinido de selección del modelo. Evalúe el punto de control seleccionado en el conjunto de datos de prueba independiente sin realizar más optimizaciones.
  4. Guarde el modelo entrenado, la configuración de preprocesamiento, los hiperparámetros, la semilla aleatoria y el registro de entrenamiento.
    NOTA: Obtenga un modelo XAI optimizado entrenado y validado utilizando el conjunto de datos de salud preparado. Conserve el modelo con mejor desempeño, los hiperparámetros, los registros de entrenamiento, la configuración de preprocesamiento y el entorno computacional para garantizar la reproducibilidad.

7. Evaluar el rendimiento predictivo y computacional

  1. Evaluar el rendimiento predictivo
    1. Cargue el modelo optimizado y el conjunto de datos de prueba independiente tras completar el entrenamiento del modelo y la optimización de hiperparámetros. Mantenga sin cambios los parámetros del modelo entrenado y la canalización de preprocesamiento durante la fase de prueba.
    2. Genere predicciones para todas las muestras del conjunto de datos de prueba. Compare las salidas predichas con las etiquetas reales correspondientes.
  2. Calcular métricas de rendimiento
    1. Seleccione métricas de evaluación según el tipo de tarea de predicción.
    2. Calcule la exactitud, precisión, exhaustividad, especificidad, puntuación F1, exactitud equilibrada, coeficiente de correlación de Matthews (MCC) y área bajo la curva ROC (AUC-ROC) para tareas de clasificación, según corresponda. Calcule el error absoluto medio (MAE), la raíz del error cuadrático medio (RMSE), el coeficiente de determinación (R2) y otras medidas pertinentes para tareas de regresión, según corresponda.
  3. Evaluar la generalización y robustez del modelo
    1. Evalúe el modelo utilizando un conjunto de datos externo recopilado independientemente del conjunto de datos de desarrollo, siempre que dichos datos estén disponibles.
    2. Prefiera conjuntos de datos externos procedentes de una institución sanitaria diferente, región geográfica o población de pacientes distinta para evaluar la transportabilidad.
    3. Realice una validación temporal utilizando datos recopilados en un período posterior cuando haya conjuntos de datos longitudinales disponibles.
    4. Realice una validación multicéntrica evaluando el modelo finalizado por separado en las instituciones participantes cuando haya datos multicéntricos disponibles.
    5. Realice una validación geográfica utilizando una población independiente de una región geográfica diferente cuando sea factible.
    6. Informe sobre las diferencias de rendimiento y los intervalos de confianza entre los conjuntos de datos de desarrollo y externos.
  4. Evaluar el rendimiento computacional
    1. Mida el tiempo de entrenamiento del modelo en el entorno computacional predefinido, el tiempo de inferencia y de prueba en condiciones computacionales idénticas, así como el consumo de memoria, el tamaño del modelo y la utilización del hardware.
    2. Repita las mediciones computacionales en ejecuciones independientes.
    3. Calcule el tiempo medio de ejecución para reducir el efecto de la variabilidad experimental.
  5. Comparar el rendimiento del modelo
    1. Seleccione métodos convencionales apropiados de aprendizaje automático o aprendizaje profundo para la evaluación comparativa.
    2. Evalúe el modelo XAI propuesto y los modelos comparadores utilizando el mismo conjunto de datos. Aplique procedimientos de preprocesamiento y métricas de evaluación idénticos a todos los modelos comparativos.
    3. Realice todos los experimentos comparativos dentro del mismo entorno computacional.
      NOTA: Obtenga evidencia experimental de la estabilidad predictiva y la reproducibilidad bajo las condiciones computacionales y el conjunto de datos evaluados.

8. Generar y evaluar las salidas de XAI

  1. Generar explicaciones del modelo
    1. Cargue el modelo XAI optimizado. Seleccione muestras de evaluación que no se hayan utilizado para el entrenamiento del modelo. Aplique los métodos de explicabilidad predefinidos sin modificar el modelo entrenado ni la canalización de preprocesamiento.
    2. Genere explicaciones globales y locales del modelo
      1. Genere explicaciones globales para caracterizar el comportamiento general del modelo predictivo.
      2. Genere explicaciones locales para caracterizar predicciones individuales del modelo.
      3. Aplique SHAP al conjunto de datos de Diabetes en Indios Pima para generar explicaciones globales y locales de las predicciones del modelo tabular.
      4. Genere un gráfico resumen de SHAP para visualizar la dirección y magnitud general de las contribuciones de las características.
      5. Genere un gráfico de importancia de características de SHAP utilizando los valores absolutos medios de SHAP para clasificar las características según su contribución general a las predicciones del modelo.
      6. Genere un gráfico de cascada de SHAP para una predicción representativa del conjunto de prueba, a fin de ilustrar las contribuciones específicas de las características por paciente.
      7. Genere un gráfico de dependencia de características de SHAP para examinar la relación entre una característica seleccionada y su contribución a la salida del modelo.
      8. Aplique LIME a predicciones representativas del conjunto de prueba para generar explicaciones locales de predicciones individuales del modelo.
      9. Genere una explicación contrafactual específica del paciente para ilustrar los cambios en las características asociados con un cambio en el resultado predicho.
      10. Seleccione técnicas adicionales de explicabilidad según la modalidad de los datos y la arquitectura del modelo.
      11. Utilice Grad-CAM o mapas de saliencia para modelos basados en imágenes compatibles, visualizaciones de atención para arquitecturas basadas en transformadores e Integrales de Gradientes para modelos diferenciables cuando sea aplicable.
      12. Considere Grad-CAM, mapeo de saliencia, visualización de atención e Integrales de Gradientes como opciones generales de protocolo dependientes de la modalidad, y no las interprete ni informe como resultados experimentales del conjunto de validación de Indios Pima Diabetes, a menos que se realicen los análisis correspondientes.
    3. Aplique métodos de explicabilidad a la validación práctica con el conjunto Pima
      1. Aplique SHAP y LIME al conjunto de datos de Diabetes en Indios Pima para generar explicaciones globales y locales de las predicciones del modelo tabular.
      2. Genere visualizaciones resumen de SHAP, de importancia de características, de cascada y de dependencia de características a partir de los resultados de validación con el conjunto Pima.
      3. Genere una explicación local de LIME para predicciones representativas del conjunto de prueba.
      4. Genere una explicación contrafactual específica del paciente para ilustrar los cambios en las características asociados con un cambio en la predicción del modelo.
      5. Considere Grad-CAM, visualización de atención, mapeo de saliencia e Integrales de Gradientes como opciones de explicabilidad dependientes de la modalidad para otros tipos de datos sanitarios y arquitecturas de modelos.
      6. No informe Grad-CAM, visualización de atención, mapeo de saliencia ni Integrales de Gradientes como hallazgos experimentales de la validación práctica con el conjunto Pima, a menos que se realicen los análisis correspondientes.
  2. Evaluar la calidad de las explicaciones
    1. Evalúe si las explicaciones generadas reflejan el proceso de predicción del modelo. Analice la estabilidad de las explicaciones a través de ejecuciones experimentales repetidas y la consistencia de las salidas de explicación bajo condiciones computacionales idénticas.
    2. Evalúe la sensibilidad de las salidas de explicación ante cambios en los datos de entrada cuando sea aplicable. Compare las explicaciones generadas con conocimientos del dominio disponibles o interpretaciones de expertos.
    3. Identifique características predictivas o regiones anatómicas que coincidan con conocimientos médicos establecidos cuando estén disponibles dichas comparaciones.
    4. Registre el nivel de acuerdo o desacuerdo entre las explicaciones generadas y la interpretación clínica disponible.
  3. Cuantificar la incertidumbre de la predicción
    1. Genere estimaciones de confianza en las predicciones para las muestras evaluadas utilizando un método de estimación de incertidumbre adecuado a la arquitectura del modelo seleccionado y a la aplicación sanitaria.
    2. Aplique dropout de Monte Carlo, predicción basada en ensambles, inferencia bayesiana, predicción conforme u otro enfoque validado de estimación de incertidumbre cuando sea apropiado.
    3. Repita los pases estocásticos de predicción al usar dropout de Monte Carlo y calcule la predicción media y la varianza predictiva para cada muestra de evaluación.
    4. Informe conjuntamente los intervalos de confianza o incertidumbre de la predicción junto con las predicciones correspondientes del modelo.
    5. Evalúe si las estimaciones de incertidumbre identifican predicciones asociadas con menor fiabilidad o mayor error de predicción. Mantenga el método de estimación de incertidumbre, los parámetros, las semillas aleatorias y las salidas de incertidumbre generadas para garantizar la reproducibilidad.
  4. Documentar y preservar las salidas de explicabilidad
    1. Guarde todas las puntuaciones generadas de importancia de características, mapas de calor, mapas de saliencia, visualizaciones de atención e interpretaciones específicas del paciente. Almacene las salidas de explicabilidad utilizando formatos de archivo estandarizados. Archive las salidas junto con el modelo entrenado y la configuración de preprocesamiento.
    2. Registre la configuración computacional, los parámetros de explicación, el tiempo de ejecución y las versiones del software utilizadas para la generación de explicaciones. Preservar toda la documentación de explicabilidad para facilitar la revisión independiente y la reproducibilidad.
  5. Evaluar cuantitativamente la calidad de las explicaciones
    1. Evalúe la fidelidad de la explicación perturbando o enmascarando sistemáticamente las características identificadas como importantes y midiendo el cambio correspondiente en la salida del modelo. Calcule una puntuación de fidelidad de la explicación comparando la magnitud de la atribución con el cambio resultante en la predicción del modelo.
    2. Evalúe la estabilidad de la explicación generando explicaciones para ejecuciones repetidas, entradas perturbadas o muestras clínicamente similares y calculando la similitud entre los patrones de atribución resultantes. Calcule la infidelidad midiendo la discrepancia entre el cambio predicho en la salida y el cambio estimado a partir de la atribución de la explicación bajo perturbaciones controladas de la entrada.
    3. Para explicaciones de imágenes médicas, evalúe la precisión de localización utilizando una región de interés definida por expertos cuando estén disponibles anotaciones de referencia. Evalúe la utilidad clínica obteniendo evaluaciones independientes de expertos clínicos calificados utilizando criterios de interpretación predefinidos.
    4. Calcule kappa de Cohen o kappa de Fleiss cuando múltiples expertos evalúen de forma independiente la relevancia o el acuerdo de las explicaciones.
      NOTA: Genere explicaciones globales y locales que caractericen el comportamiento predictivo del modelo de IA entrenado. Preservar las salidas de explicabilidad y las configuraciones correspondientes para una interpretación transparente y una evaluación reproducible.

9. Realizar la validación estadística y la evaluación de la reproducibilidad

  1. Realizar la validación estadística
    1. Seleccione los métodos estadísticos de acuerdo con el objetivo del estudio, el diseño experimental, la distribución de los datos y las características de las variables evaluadas.
    2. Reporte las variables continuas como la media ± desviación estándar o como la mediana y el rango intercuartílico, según corresponda, y las variables categóricas como frecuencias y porcentajes.
    3. Realice una validación cruzada de cinco pliegues en el conjunto de entrenamiento para evaluar la estabilidad del rendimiento del modelo y reporte la exactitud, el área bajo la curva ROC, la precisión, la recuperación y la puntuación F1 como valores medios ± desviación estándar entre los grupos. Estime intervalos de confianza del 95 % para las métricas de rendimiento en el conjunto de prueba independiente utilizando 1.000 remuestras bootstrap.
    4. Compare el modelo propuesto con los modelos básicos de CNN, Bosque Aleatorio y SVM mediante la prueba de McNemar para comparaciones de precisión emparejadas, la prueba de DeLong para comparaciones de AUC-ROC correlacionadas y pruebas de bootstrap emparejadas con 1.000 remuestras para comparaciones del puntaje F1.
    5. Informe el estadístico de prueba correspondiente y el valor p exacto para cada comparación, y utilice un nivel de significancia bilateral de α = 0.05.
  2. Comparar estadísticamente el rendimiento del modelo
    1. Comparar el modelo de inteligencia artificial explicable propuesto con los modelos básicos seleccionados de vanguardia en aprendizaje automático y aprendizaje profundo.
    2. Aplicar la prueba t de Student tprueba t o prueba de Mann-Whitney U según corresponda al comparar dos grupos. Aplique ANOVA de un solo factor para comparaciones paramétricas pertinentes que involucren más de dos grupos. Aplique la prueba de Kruskal-Wallis para comparaciones no paramétricas pertinentes que involucren más de dos grupos.
    3. Considere p < 0,05 estadísticamente significativo, tal como se especifica en el manuscrito original.
    4. Utilice un nivel de significación bilateral de α = 0,05 para todas las comparaciones estadísticas predeterminadas y reporte los estadísticos de prueba y valores p correspondientes.
    5. Informe los intervalos de confianza del 95 % para las métricas principales de rendimiento predictivo.
    6. Utilice el muestreo de reemplazo (bootstrap) para estimar intervalos de confianza de las medidas de rendimiento cuando sea apropiado. Utilice la prueba de DeLong para comparar valores de ROC-AUC correlacionados cuando los mismos sujetos sean evaluados por dos modelos. Utilice la prueba de McNemar para comparar resultados categóricos de clasificación apareados generados para los mismos sujetos. Utilice procedimientos de bootstrap apareados para comparar la puntuación F1 u otras métricas de rendimiento derivadas cuando sea apropiado.
    7. Evalúe la calibración utilizando gráficos de calibración, pendiente/intersección de la calibración y puntuación de Brier cuando estén disponibles predicciones probabilísticas.
    8. Para la validación del conjunto de datos de diabetes de los indios Pima trabajado, utilice la comparación estadística por pares predefinida especificada para el modelo propuesto y los modelos de referencia. Aplique la prueba seleccionada de forma consistente a las predicciones en el conjunto de prueba por pares o a las mediciones de rendimiento en ejecuciones repetidas, según corresponda a la comparación. Utilice un nivel de significancia bilateral de α = 0,05 y reporte el estadístico de prueba y el valor p exacto. No informe pruebas estadísticas alternativas como si hubieran sido realizadas, a menos que sus resultados se presenten en la sección de Resultados.
    9. Aplicar pruebas bilaterales e interpretar la significancia estadística utilizando un umbral predefinido de p < 0.05.
  3. Evaluar la robustez del modelo
    1. Repita el procedimiento completo de entrenamiento y evaluación 10 veces utilizando diferentes semillas aleatorias, manteniendo la partición predeterminada del conjunto de datos, los procedimientos de preprocesamiento, la arquitectura del modelo, los hiperparámetros, el entorno de software y el protocolo de evaluación.
    2. Registre el AUC-ROC, la precisión y la puntuación F1 para cada ejecución independiente y reporte la media ± desviación estándar a lo largo de las 10 ejecuciones.
    3. Compare los valores de rendimiento resultantes entre ejecuciones repetidas para evaluar la estabilidad predictiva y la reproducibilidad bajo diferentes inicializaciones aleatorias.
  4. Evaluar la reproducibilidad de la explicabilidad
    1. Genere atribuciones de características, mapas de atención u otras salidas explicativas en múltiples ejecuciones experimentales cuando se incluya la evaluación de estabilidad de las explicaciones. Compare cuantitativamente las salidas explicativas entre ejecuciones repetidas utilizando una medida adecuada de similitud o de concordancia basada en rangos.
    2. Para la validación realizada con el conjunto de datos de diabetes de los indios Pima, no informe métricas cuantitativas de estabilidad de las explicaciones a menos que se hayan realizado los análisis y salidas de explicaciones repetidas correspondientes.
    3. Evalúe la concordancia entre las explicaciones generadas por el modelo y las interpretaciones de los clínicos cuando estén disponibles evaluaciones clínicas apropiadas. Calcule el kappa de Cohen o el kappa de Fleiss, según corresponda, para evaluar la concordancia entre evaluadores.
  5. Documentar la reproducibilidad
    1. Conservar los datos brutos, los procedimientos de preprocesamiento, el código fuente, los modelos entrenados, las configuraciones de hiperparámetros, los resultados de explicabilidad, los scripts de análisis estadístico y los resultados generados.
    2. Registre el entorno de software y la configuración de hardware utilizados durante todo el flujo de trabajo. Vuelva a ejecutar de forma independiente el flujo de trabajo completo utilizando los archivos y configuraciones archivados.
    3. Compare el rendimiento predictivo replicado con los resultados experimentales originales, y las explicaciones del modelo replicado con las salidas de explicabilidad originales.
    4. Registre cualquier diferencia observada durante la replicación. Actualice la documentación experimental para reflejar las observaciones sobre reproducibilidad identificadas durante la ejecución independiente.
      NOTA: Obtenga resultados estadísticamente validados de rendimiento predictivo y explicabilidad que puedan evaluarse en experimentos repetidos. Conserve documentación suficiente sobre los aspectos computacionales, analíticos y metodológicos para permitir la verificación independiente de todo el flujo de trabajo.
  6. Lista de verificación de reproducibilidad
    1. Registre el nombre del conjunto de datos, la versión, la fecha de adquisición, la fuente, los criterios de inclusión, los criterios de exclusión y el recuento final de muestras. Registre todas las operaciones de preprocesamiento, los parámetros de transformación, la configuración de normalización, los procedimientos de selección de características y las reglas de partición de los datos.
    2. Registre el sistema operativo, CPU, GPU, RAM, versión de Python, versiones de los frameworks y versiones de las bibliotecas. Registre todas las especificaciones de la arquitectura del modelo y los hiperparámetros.
    3. Registre el optimizador, la tasa de aprendizaje, el tamaño del lote, el número de épocas, la función de pérdida, la regularización y los criterios de detención temprana. Registre todas las semillas aleatorias y la configuración del generador de números aleatorios.
    4. Conservar los pesos del modelo entrenado y las configuraciones de preprocesamiento. Conservar los registros de entrenamiento, los scripts de evaluación, los scripts de análisis estadístico y las salidas de explicabilidad. Registrar las versiones del modelo y del software utilizadas en los experimentos finales.
    5. Conservar el entorno computacional completo necesario para la replicación independiente.
    6. Documente la disponibilidad del código fuente, conjuntos de datos, pesos del modelo y materiales de apoyo sujetos a restricciones éticas, legales, de licencia y de privacidad.
    7. Vuelva a ejecutar el flujo de trabajo archivado de forma independiente y compare los resultados replicados con los resultados originales.
    8. Documente los requisitos completos de reproducibilidad utilizando la lista de verificación estandarizada.

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Resultados

El marco XAI propuesto se implementó utilizando el conjunto de datos de diabetes de los indios Pima como ejemplo representativo de un conjunto de datos de atención médica. El conjunto de datos de diabetes de los indios Pima se utilizó como el único conjunto de datos para la validación experimental. Todos los resultados predictivos, de explicabilidad, estadísticos y de reproducibilidad informados se generaron a partir de este conjunto de datos. TCGA-BRCA, TCGA-UCEC, MIMIC-III, ISIC 2019, HAM10000, OhioT1DM y BraTS 2021 no...

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Discusión

Los resultados demuestran la utilidad del protocolo propuesto como un flujo de trabajo estandarizado y reproducible para desarrollar y evaluar sistemas de IA explicativa (XAI) en diversos conjuntos de datos de atención médica. Como se muestra en la Tabla 2 y en la Figura 3, el preprocesamiento sistemático generó datos estandarizados y mejoró la calidad de los datos mediante el manejo de valores faltantes, la normalización de datos, la escalación de características y la parti...

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Divulgaciones

Los autores declaran que no tienen intereses financieros competitivos, relaciones comerciales ni relaciones personales que pudieran haber influido en el trabajo reportado en este estudio. Los autores no tienen conflictos de intereses que declarar.

Agradecimientos

Los autores agradecen el apoyo institucional proporcionado por sus respectivas instituciones afiliadas durante el desarrollo y la validación experimental de este protocolo de XAI en atención médica. Los autores también agradecen las instalaciones computacionales y los recursos de software utilizados para realizar los análisis experimentales. Esta investigación no recibió financiamiento externo. Los autores agradecen el uso de Python 3.11, Matplotlib 3.9 y SciPy 1.13 para el análisis computacional, la visualización de datos y la generación de las figuras presentadas en este estudio.

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Materiales

Lista de materiales utilizados en este artículo
NombreEmpresaNúmero de catálogoComentarios
CaptumMeta AIÚltima versión estableExplicabilidad en PyTorch
CUDA ToolkitNVIDIA12.2Aceleración mediante GPU
cuDNNNVIDIA9.xInfraestructura para aprendizaje profundo
GitGit SCMÚltima versión estableControl de versiones
GitHubGitHub Inc.Plataforma webRepositorio de código fuente
Grad-CAMjacobgilÚltima versión publicadaVisualización de CNN
Jupyter NotebookProyecto JupyterÚltima versión estableDesarrollo interactivo
LightGBMMicrosoft4.xImpulso de gradiente
LIMEComunidad LIME0.2.0Explicabilidad local
MatplotlibDesarrolladores de Matplotlib3.9Visualización
Microsoft ExcelMicrosoftMicrosoft 365Organización de datos
NumPyDesarrolladores de NumPy1.26Computación numérica
NVIDIA RTX 4090 GPUNVIDIA24 GB de VRAMEntrenamiento de modelos
OpenCVOrganización OpenCV4.10Preprocesamiento de imágenes
PandasEquipo de desarrollo de Pandas2.2Preprocesamiento de datos
Pillow (PIL)Biblioteca de imágenes de Python10.xProcesamiento de imágenes
PlotlyPlotly Technologies5.xVisualización interactiva
PythonPython Software Foundation3.11Entorno de programación
PyTorchPyTorch Foundation2.3Aprendizaje profundo
Scikit-learnDesarrolladores de Scikit-learn1.5Aprendizaje automático
SciPyDesarrolladores de SciPy1.13Computación científica
SeabornDesarrolladores de Seaborn0.13Gráficos estadísticos
SHAPComunidad SHAP0.46Explicabilidad global
SimpleITKInsight Software Consortium2.xProcesamiento de imágenes médicas
StatsmodelsDesarrolladores de Statsmodels0.14Análisis estadístico
RAM del sistemaCualquier fabricante32 GB o superiorMemoria
TensorBoardGoogle2.15Supervisión del entrenamiento
TensorFlowGoogle2.15Aprendizaje profundo
Ubuntu Linux / Windows 11Canonical / Microsoft22.04 LTS / 11Sistema operativo
Visual Studio CodeMicrosoftÚltima versión estableDesarrollo de código
XGBoostDesarrolladores de XGBoost2.1Impulso de gradiente

Referencias

  1. Acosta JN, Falcone GJ, Rajpurkar P, Topol EJ. Multimodal biomedical AI. Nat Med. 2022;28(9):1773-1784.
  2. Tang AS, et al. Harnessing EHR data for health research. Nat Med. 2024;30(7):1847-1855.
  3. Zhang A, Xing L, Zou J, Wu JC. Shifting machine learning for healthcare from development to deployment and from models to data. Nat Biomed Eng. 2022;6(11):1330-1345.
  4. Bera K, et al. Predicting cancer outcomes with radiomics and artificial intelligence in radiology. Nat Rev Clin Oncol. 2022;19(2):132-146.
  5. Wenderott K, Krups J, Zaruchas F, Weigl M. Effects of artificial intelligence implementation on efficiency in medical imaging—a systematic literature review and meta-analysis. NPJ Digit Med. 2024;7(1):265.
  6. Kaissis GA, Makowski MR, Rückert D, Braren RF. Secure, privacy-preserving and federated machine learning in medical imaging. Nat Mach Intell. 2020;2(6):305-311.
  7. He J, et al. The practical implementation of artificial intelligence technologies in medicine. Nat Med. 2019;25(1):30-36.
  8. Antoniadi AM, et al. Current challenges and future opportunities for XAI in machine learning-based clinical decision support systems: A systematic review. Appl Sci (Basel). 2021;11(11):5088.
  9. Samek W, et al. Explaining deep neural networks and beyond: A review of methods and applications. Proc IEEE. 2021;109(3):247-278.
  10. Holzinger A, et al. Causability and explainability of artificial intelligence in medicine. WIREs Data Min Knowl Discov. 2019;9(4).
  11. Markus AF, Kors JA, Rijnbeek PR. The role of explainability in creating trustworthy artificial intelligence for health care: A comprehensive survey of the terminology, design choices, and evaluation strategies. Nat Biomed Eng. 2021;5(9):996-1011.
  12. Arrieta AB, et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 2020;58:82-115.
  13. Selvaraju RR, et al. Grad-CAM: Visual explanations from deep networks via gradient-based localization [conference paper]. Presented at: IEEE International Conference on Computer Vision (ICCV); Venice, Italy; 2017:618-626. https://openaccess.thecvf.com/content_iccv_2017/html/Selvaraju_Grad-CAM_Visual_Explanations_ICCV_2017_paper.html
  14. Tonekaboni S, Joshi S, McCradden MD, Goldenberg A. What clinicians want: Contextualizing explainable machine learning for clinical end use. Nat Mach Intell. 2019;1(12):572-584.
  15. Sundararajan M, Taly A, Yan Q. Axiomatic attribution for deep networks [conference paper]. Presented at: 34th International Conference on Machine Learning; Sydney, Australia; 2017;70:3319-3328. https://proceedings.mlr.press/v70/sundararajan17a.html
  16. Ribeiro MT, Singh S, Guestrin C. “Why should I trust you?”: Explaining the predictions of any classifier [conference paper]. Presented at: 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; San Francisco, CA; 2016:1135-1144.
  17. Desai S, Ramaswamy HG. Ablation-CAM: Visual explanations for deep convolutional network via gradient-free localization [conference paper]. Presented at: IEEE/CVF Winter Conference on Applications of Computer Vision (WACV); 2020:983-991.
  18. Belle V, Papantonis I. Principles and practice of explainable machine learning. Front Big Data. 2021;4:688969.
  19. Vilone G, Longo L. Notions of explainability and evaluation approaches for explainable artificial intelligence. Inf Fusion. 2021;76:89-106.
  20. Ali S, et al. Explainable artificial intelligence (XAI): What we know and what is left to attain trustworthy artificial intelligence. Inf Fusion. 2023;99:101805.
  21. Gundersen OE, Kjensmo S. State of the art: Reproducibility in artificial intelligence [conference paper]. Presented at: Thirty-Second AAAI Conference on Artificial Intelligence; New Orleans, LA; 2018:1644-1651. https://ojs.aaai.org/index.php/AAAI/article/view/11503
  22. Hutson M. Artificial intelligence faces reproducibility crisis. Science. 2018;359(6377):725-726.
  23. Pineau J, et al. Improving reproducibility in machine learning research: A report from the NeurIPS 2019 reproducibility program. J Mach Learn Res. 2021;22(164):1-20.
  24. U.S. Food and Drug Administration, Health Canada, Medicines and Healthcare products Regulatory Agency. Good Machine Learning Practice for Medical Device Development: Guiding Principles. 2021.
  25. Liu X, et al. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: The CONSORT-AI extension. Nat Med. 2020;26(9):1364-1374.
  26. Mongan J, Moy L, Kahn CE Jr. Checklist for Artificial Intelligence in Medical Imaging (CLAIM): A guide for authors and reviewers. Radiol Artif Intell. 2020;2(2).
  27. Peng RD. Reproducible research in computational science. Science. 2011;334(6060):1226-1227.
  28. Collins GS, et al. Protocol for development of the TRIPOD-AI and PROBAST-AI reporting and risk-of-bias tools for studies developing, validating, or updating prediction models based on artificial intelligence. BMJ Open. 2021;11.
  29. Kapoor S, Narayanan A. Leakage and the reproducibility crisis in machine-learning-based science. Patterns. 2023;4(9):100804.
  30. Wiens J, et al. Do no harm: A roadmap for responsible machine learning for health care. Nat Med. 2019;25(9):1337-1340.

Acceso restringido. Inicie sesión o comience una prueba gratuita para ver este contenido.

Reimpresiones y permisos

Explorar más artículos

IA explicablemodelos de IA para la saludinterpretabilidad de modelosprotocolo reproduciblerendimiento predictivoingeniería de característicasvalidación estadísticaexplicaciones SHAPexplicaciones LIMEexplicaciones contrafácticas
Contáctenos
Recomendar a la biblioteca

Privacidad

Términos de uso

Políticas

Copyright © 2026 MyJoVE Corporation. Todos los derechos reservados.