Europa está entrando en una nueva etapa en la regulación de la inteligencia artificial.
La Unión Europea aprobó el EU AI Act, el primer marco jurídico integral dedicado específicamente a la inteligencia artificial. Su objetivo es establecer unas reglas comunes para los países de la Unión Europea que permitan desarrollar y utilizar IA con mayores garantías de seguridad, transparencia y protección de los derechos fundamentales, sin impedir la innovación tecnológica.
La razón es sencilla: no todas las aplicaciones de inteligencia artificial tienen las mismas consecuencias.
Un sistema utilizado para recomendar una película presenta un nivel de riesgo muy distinto al de una tecnología que participa en una decisión clínica, analiza imágenes médicas, interviene en un proceso de selección laboral o afecta el acceso de una persona a determinados servicios.
Por eso Europa ha optado por un modelo basado en niveles de riesgo. Cuanto mayor pueda ser el impacto de un sistema de IA sobre las personas, mayores serán las obligaciones de control, documentación, transparencia y supervisión que deberán asumir quienes lo desarrollan o utilizan. Incluso ciertos usos quedan explícitamente prohibidos cuando los derechos fundamentales del ser humano se ven vulnerados.
En sectores como la salud esta discusión adquiere una relevancia especial.
La inteligencia artificial ya forma parte de productos y dispositivos médicos capaces de analizar información clínica, procesar imágenes, identificar patrones, apoyar diagnósticos o ayudar a profesionales sanitarios a tomar decisiones.
En estos casos, un error puede tener consecuencias sobre la salud de una persona.
Por eso, determinados sistemas de inteligencia artificial incorporados a productos regulados pueden quedar clasificados dentro de las categorías de alto riesgo contempladas por la legislación europea.
Para las empresas MedTech, esto introduce una cuestión importante: prepararse para el EU AI Act no consiste únicamente en entender una nueva regulación.
Significa demostrar que la inteligencia artificial incorporada a un producto sanitario, cuando es un componente que compromete la seguridad del producto, puede mantenerse bajo control durante todo su ciclo de vida.
También es importante destacar que una solución de salud digital que no se consideraba producto sanitario bajo MDR/IVDR podría, al incorporar un componente de inteligencia artificial clasificado como de alto riesgo, tener que someterse a una evaluación de conformidad por un organismo notificado para poder permanecer en el mercado a partir de agosto de 2027.
¿Dónde está realmente el riesgo?
Existe la percepción de que una mayor regulación puede ralentizar la innovación. En productos sanitarios, avanzar sin suficientes mecanismos de control puede generar un problema mayor.
Responsabilidades poco definidas, evidencia insuficiente, problemas de seguridad, una gobernanza débil de los datos, falta de trazabilidad o dificultades para controlar las actualizaciones del sistema pueden convertirse en barreras cuando el producto llegue a una evaluación regulatoria o comience a utilizarse en condiciones reales.
Un dispositivo médico basado en IA puede alcanzar resultados técnicos muy buenos y, al mismo tiempo, presentar dificultades para ser validado, explicado, auditado o monitorizado.
Ahí aparece una de las principales diferencias entre desarrollar un buen modelo y desarrollar un producto sanitario preparado para operar dentro de un entorno regulado.
Hospitales, profesionales sanitarios, pacientes, inversores y reguladores necesitan comprender qué hace el sistema, cuáles son sus límites y cómo se mantiene bajo control.
Cuando esas respuestas no están claras, la confianza disminuye. Y la falta de confianza termina afectando la adopción.
La gobernanza de la IA ya forma parte de la preparación para el mercado
El EU AI Act, oficialmente Reglamento (UE) 2024/1689, entró en vigor en agosto de 2024 y sus diferentes obligaciones se están aplicando progresivamente. La Unión Europea está implantando además una estructura común de supervisión mediante la European AI Office y las autoridades nacionales correspondientes, en España AESIA.
Para determinados sistemas de IA de alto riesgo incorporados en productos regulados, la aplicación de las correspondientes reglas ha quedado situada actualmente en agosto de 2028. La Comisión Europea está utilizando este periodo para desarrollar guías, estándares y mecanismos que permitan a empresas y autoridades prepararse para su aplicación.
Ese plazo no debería interpretarse como una razón para esperar.
Para las empresas MedTech representa una oportunidad para incorporar desde ahora los principios de gobernanza de IA dentro del desarrollo del producto, sus procesos de calidad y su estrategia regulatoria.
Los fabricantes de productos sanitarios o soluciones de salud digital deberían plantearse desde ahora una pregunta clave:
¿Podemos demostrar que este sistema de IA es confiable dentro de un entorno sanitario regulado?
Responderla requiere mirar bastante más allá del rendimiento del algoritmo.
Hay que considerar la gestión de calidad, los riesgos, la supervisión humana, la gobernanza de los datos, la ciberseguridad, la trazabilidad, la documentación técnica, la vigilancia poscomercialización y las responsabilidades durante todo el ciclo de vida del producto.
Son elementos que condicionan la posibilidad de que una tecnología basada en IA pueda utilizarse de manera segura y mantenerse bajo control a medida que evoluciona.
El control empieza durante el diseño
Uno de los errores más frecuentes es tratar estos asuntos como requisitos documentales que deberán resolverse cuando llegue el momento de presentar el producto ante un regulador.
El control comienza mucho antes.
¿Qué propósito previsto tiene la IA?
¿Qué datos respaldan ese propósito?
¿Cómo se controla la calidad y representatividad de esos datos?
¿Qué ocurre si el rendimiento del modelo cambia con el tiempo?
¿Qué modificaciones obligan a validar nuevamente el sistema?
¿Quién mantiene la responsabilidad sobre sus resultados?
¿Cómo se integran estas decisiones dentro del sistema de gestión de calidad y del ciclo de vida del software?
Estas son decisiones de diseño.
Cuando se responden tarde, pueden obligar a modificar arquitectura, datasets, procesos de desarrollo o documentación cuando el producto ya está avanzado.
Cuando se incorporan desde las primeras fases, permiten construir una base más sólida para validar y mejorar el sistema.
Los datos también forman parte del sistema de calidad
En un producto sanitario basado en IA, el dataset no debería tratarse únicamente como un elemento utilizado por el equipo de desarrollo.
La procedencia de los datos, su etiquetado, representatividad, trazabilidad y control pueden influir directamente en la capacidad de demostrar que el producto funciona de forma adecuada para su propósito previsto.
Lo mismo ocurre con la validación.
Una métrica de rendimiento elevada durante el desarrollo no responde por sí sola a todas las preguntas que aparecerán durante la vida del producto.
Será necesario entender su robustez, limitaciones, posibles sesgos y comportamiento frente a distintas poblaciones o situaciones.
La validación debe diseñarse pensando en el producto que finalmente llegará al mercado.
La explicabilidad también debe planificarse
La explicabilidad suele aparecer como una cuestión que debe resolverse cuando alguien pregunta cómo ha llegado un sistema de IA a determinado resultado.
En determinados productos sanitarios, debería plantearse antes.
Si comprender el comportamiento del sistema será importante para la verificación, el uso clínico, la gestión del riesgo o la confianza del usuario, la estrategia de explicabilidad debe formar parte del diseño.
Esperar hasta las últimas etapas puede limitar considerablemente las opciones disponibles.
El sistema de calidad tiene que aprender a gestionar la IA
Las empresas MedTech ya trabajan con sistemas de gestión de calidad, gestión de riesgos, control de cambios y procesos definidos para el desarrollo de software.
La incorporación de IA debe integrarse dentro de esas estructuras.
El reto está en determinar cómo controlar datasets, modelos, actualizaciones, validaciones y responsabilidades a lo largo del ciclo de vida del producto.
Un buen sistema de calidad puede ayudar a los equipos a innovar con mayor seguridad porque permite mejorar el producto manteniendo control sobre los cambios y su impacto.
La confianza permite que la innovación llegue al mercado
Para una empresa MedTech que quiera operar en Europa, el EU AI Act incorpora una nueva capa dentro de un entorno regulatorio que ya incluye normas específicas para dispositivos médicos, protección de datos, calidad y seguridad.
La preparación para esta regulación afecta directamente a la capacidad del producto para superar evaluaciones, responder a organismos reguladores y de evaluación de conformidad, entrar en instituciones sanitarias y conseguir la confianza de profesionales y pacientes.
Europa intenta establecer con este marco unas reglas comunes que permitan desarrollar IA mientras se reducen riesgos que pueden afectar la salud, la seguridad y los derechos de las personas.
Para las empresas MedTech, la consecuencia práctica es clara: la confianza deberá poder demostrarse.
Será necesario explicar cómo funciona el sistema, qué evidencia respalda su comportamiento, cómo se controlan sus riesgos y qué ocurre cuando el producto cambia.
Ese trabajo comienza durante el desarrollo, dentro de la propia empresa. Además, en el caso de los productos considerados de alto riesgo, el organismo notificado podrá solicitar acceso remoto, a través de API u otras herramientas y medios técnicos pertinentes, para evaluar la documentación técnica de los modelos de IA.
Sobre el autor
Enric Bargalló Martínez es Senior MedTech Consultant y especialista en AI Quality & Regulatory Engineering en InnHealthium, donde trabaja con empresas MedTech y de salud digital en aspectos relacionados con AIaMD y SaMD, calidad de datos, validación de modelos, gestión de riesgos, integración de la inteligencia artificial en sistemas de gestión de calidad y preparación regulatoria.
Su trabajo se centra precisamente en conectar elementos que con frecuencia se gestionan de forma separada: datos, validación, gestión de riesgos, ciclo de vida del software, sistemas de calidad y preparación regulatoria. Su enfoque parte de una idea central: el rendimiento de un modelo de IA, por sí solo, no determina que un producto esté preparado para un entorno sanitario regulado.
InnHealthium es una consultora especializada en MedTech que acompaña, desde una propuesta de valor integral 360º, a innovadores, start-ups y scale-ups conectando áreas como regulación, financiación, acceso al mercado, transformación digital e inteligencia artificial, desarrollo de producto y gestión de proyectos. Su modelo busca integrar estas capacidades para llevar la innovación desde la estrategia hasta su ejecución y lograr que alcance el impacto necesario para transformar el sistema de salud.
El próximo 22 de septiembre de 2026, estos temas serán abordados en Barcelona durante “Productos sanitarios con IA: la cuenta atrás del EU AI Act”, una sesión organizada por InnHealthium en Barcelona Health Hub.
El encuentro analizará de forma práctica qué deberían comenzar a preparar los fabricantes de productos sanitarios con inteligencia artificial ante el nuevo entorno europeo: gestión de riesgos, gobernanza y calidad de datos, evaluación de modelos, documentación técnica y evaluación de conformidad.
Junto a Enric participarán Alexis Ruiz, AI Medical Expert de DEKRA España, y Celestina Bianco, especialista en Quality Assurance y Regulatory Affairs para SaMD.
📅 22 de septiembre de 2026
🕒 15:00–18:00 h
📍 Barcelona Health Hub, Barcelona
🤝 Organizado por InnHealthium 📰 DiarioSalud, media partner oficial
