Si hace un par de meses la Organización Mundial de la Salud (OMS) publicaba un informe sobre salud digital en el área europea, ahora ha sido el turno de un nuevo documento en relación con otra de las áreas emergentes de tecnologías del manejo de la información, y su impacto en los sistemas sanitarios.
Más concretamente, lo relativo a la Inteligencia Artificial. Se centra en sus aspectos regulatorios, y se titula “Regulatory considerations on artificial intelligence for health” (80 páginas).
La presentación del trabajo, firmada por el doctor Jeremy Farrar, científico jefe de la Organización, destaca la misión de la OMS de promover la salud, mantener la seguridad mundial y servir a los más vulnerables, como se plasma en su estrategia global sobre salud digital 2020-2025. En el corazón de esta estrategia, la OMS busca mejorar la salud para todos en todas partes, y se ha propuesto para ello acelerar el desarrollo y la adopción de soluciones digitales de salud que sean personales, accesibles, asequibles, escalables y sostenibles.
La OMS dice que, junto con muchas otras organizaciones internacionales y regionales y autoridades nacionales, existe un gran potencial de la inteligencia artificial para acelerar la transformación digital de la atención sanitaria. “La inteligencia artificial tiene un potencial evidente para fortalecer la prestación de servicios de salud a poblaciones desatendidas, mejorar la vigilancia de la salud pública, avanzar en la investigación de la salud y el desarrollo de medicamentos, apoyar la gestión de sistemas de salud y permitir a los profesionales clínicos mejorar la atención al paciente y realizar diagnósticos médicos complejos”, afirma.
Sin embargo, señala también que las tecnologías de inteligencia artificial existentes y emergentes, incluidos los modelos de lenguaje de gran escala, se están implementando rápidamente sin una comprensión completa de cómo pueden actuar, beneficiando o perjudicando potencialmente a los usuarios finales, incluidos los profesionales de la salud y los pacientes.
Propuestas basadas en la auditoría pública
La OMS no es un organismo regulador: no establece normativa de obligado cumplimiento, pero, aun así, se ha planteado proponer un marco regulatorio general para los países, que se basa en principios generales y que no desciende a las normativas concretas que estos deberán desarrollar.
El informe destaca especialmente la importancia de la documentación y la transparencia como aspectos clave en la regulación de los sistemas de inteligencia artificial para la salud. Estos principios son esenciales para facilitar la evaluación científica y regulatoria de los sistemas de inteligencia artificial, así como para fomentar la confianza tanto en el sistema de inteligencia artificial en sí como entre sus desarrolladores, fabricantes y usuarios finales.
Por ello, propugna que una documentación precisa y exhaustiva sea el elemento fundamental para permitir una evaluación transparente de los sistemas de inteligencia artificial para la salud. Esto implica adoptar un enfoque de ciclo de vida total del producto para pre-especificar y documentar procesos, métodos, recursos y decisiones tomadas desde la concepción inicial, desarrollo, capacitación, despliegue, validación (curación de datos o ajuste del modelo) y post-despliegue de sistemas de inteligencia artificial relacionados con la salud que pueden requerir supervisión regulatoria.
Según la OMS, la transparencia y la documentación efectiva ayudan a establecer confianza y a prevenir sesgos y manipulación de datos. Los mismos estándares regulatorios y expectativas que aseguran la eficacia de los productos regulados también se han de aplicar a los sistemas de inteligencia artificial utilizados en áreas reguladas, como es la de la sanidad.
De ahí que sea importante para los reguladores poder rastrear el proceso de desarrollo y tener una documentación adecuada de los pasos esenciales y los puntos de decisión. Por ejemplo, los aspectos que requieren una documentación cuidadosa incluyen especificar claramente el problema que los desarrolladores intentan abordar, el contexto en el que se propone que funcione el sistema de inteligencia artificial, y la selección, curación y procesamiento de conjuntos de datos de entrenamiento utilizados en el proceso de desarrollo.
Los sistemas utilizados para rastrear y documentar los procesos de desarrollo y los puntos clave de decisión deben, además, ser capaces de registrar los accesos y estar protegidos contra manipulaciones de datos y ataques adversos.
La transparencia y la documentación no deben verse como una carga, sino como una oportunidad para mostrar la fortaleza de un desarrollo basado en la ciencia que considera el contexto completo en el que se espera que se emplee el sistema de inteligencia artificial. Pasos para facilitar la transparencia incluyen publicar en revistas revisadas por pares, compartir datos y conjuntos de datos, y hacer disponible el código fuente para fomentar el aprendizaje mutuo y facilitar estudios adicionales.
Algunas de las propuestas y recomendaciones que incluye el informe se pueden sistematizar de esta manera.
Sobre la Documentación y la Transparencia, se sugiere pre-especificar y documentar el propósito médico y el proceso de desarrollo de sistemas de inteligencia artificial. Esto incluye la selección y uso de conjuntos de datos, estándares de referencia, parámetros, métricas, desviaciones de los planes originales y actualizaciones o cambios durante las fases de desarrollo.
Se pide adoptar un enfoque basado en riesgos: esto es, que su previsión esté presente en la documentación, y halla un adecuado mantenimiento de registros utilizados en el desarrollo y validación de sistemas de inteligencia artificial.
En relación con la gestión de riesgos y el enfoque de Ciclo de Vida Total del Producto, se plantea la necesidad de considerar todas las fases en la vida de un dispositivo médico como puede ser un algoritmo, incluyendo el desarrollo previo al mercado, la gestión, la vigilancia post-mercado y la gestión de cambios.
Relativo a la validación analítica y clínica y la utilización prevista, se propone disponer de documentación transparente, y proporcionar información sobre el uso previsto del sistema de inteligencia artificial, incluyendo detalles sobre la composición del conjunto de datos de entrenamiento.
La validación externa requiere demostrar el rendimiento más allá del conjunto de datos de entrenamiento a través de una comprobación analítica externa en un conjunto de datos independiente.
Sobre la calidad de datos, se hace necesario evaluar si los datos disponibles son de suficiente calidad para apoyar el desarrollo de un sistema de inteligencia artificial que pueda lograr el propósito previsto, y trabajar en la mitigación de problemas de calidad de datos en datos de atención médica y riesgos asociados.
Relativo a la privacidad y protección de datos, se requiere tenerlo en cuenta durante el diseño y despliegue de sistemas de inteligencia artificial, e implementar un programa de cumplimiento que aborde riesgos y desarrolle prácticas de privacidad y ciberseguridad.
Finalmente, sobre elementos de participación y colaboración, se propone desarrollar herramientas accesibles e informadas, mediante plataformas que faciliten la participación y colaboración efectiva entre grupos y entornos heterogéneos.
