Los sistemas de inteligencia artificial ya participan en diagnósticos médicos reales, y a veces se equivocan. Cuando eso ocurre, el paciente sufre las consecuencias, pero el debate sobre quién responde por ese error, si el médico que confió en la herramienta, la empresa que la desarrolló o el hospital que la implantó, sigue sin tener una respuesta clara en la mayoría de los países. La cuestión del IA error medico responsabilidad no es filosófica: es un problema legal y ético urgente que los sistemas sanitarios están afrontando ahora mismo, con herramientas jurídicas diseñadas para otro siglo.
Hay que dejar algo claro desde el principio: la IA no diagnostica sola en la mayoría de los casos clínicos actuales. Actúa como apoyo, como un segundo lector que señala anomalías en una radiografía o sugiere una hipótesis diagnóstica. Pero la diferencia entre “apoyo” y “decisión” se vuelve peligrosamente borrosa cuando los médicos tienen poco tiempo, las herramientas son sofisticadas y los sistemas de salud empujan hacia la eficiencia.
¿Qué pasa legalmente cuando una IA comete un error médico?
La legislación vigente en Europa y en la mayoría de los países no contempla a la IA como sujeto de responsabilidad. Un algoritmo no puede ser demandado. Lo que existe, por ahora, es un reparto de responsabilidades entre personas e instituciones, y ese reparto depende de quién tomó la decisión última. Si un médico firma un diagnóstico apoyado en una herramienta de IA y ese diagnóstico resulta erróneo, el marco legal tiende a señalar al profesional sanitario, porque fue él quien tomó la decisión clínica.
Ese enfoque tiene un problema de base: presupone que el médico podía detectar el error del algoritmo. Pero si el sistema de IA fue validado, comercializado y presentado como fiable por la empresa que lo desarrolló, y el profesional carecía de los conocimientos técnicos para cuestionar su salida, la responsabilidad que recae sobre él es difícilmente sostenible desde un punto de vista ético. El médico, en ese escenario, actúa de buena fe sobre una herramienta que le prometía precisión.
El Reglamento europeo de IA, aprobado en 2024, clasifica los sistemas de IA para diagnóstico médico como de alto riesgo. Esto implica obligaciones estrictas para los fabricantes: transparencia, trazabilidad de los errores, documentación técnica accesible. Pero el reglamento no resuelve el problema de la responsabilidad civil cuando el daño ya ha ocurrido. Hay un vacío entre la regulación preventiva y la reparación del perjuicio.
¿Pueden los hospitales transferir la responsabilidad al proveedor de software?
Los hospitales que contratan sistemas de IA para diagnóstico suelen firmar contratos con cláusulas que limitan la responsabilidad del proveedor tecnológico. Es una práctica extendida en el sector del software y que, trasplantada a la medicina, genera una asimetría enorme: la empresa cobra, establece las condiciones, y si el sistema falla, el contrato a menudo la protege. El hospital queda en una posición complicada: ha pagado por una herramienta que presentaba el fabricante como fiable, y ahora afronta el daño.
Algunas demandas en Estados Unidos ya están explorando esta vía, cuestionando si las cláusulas de limitación de responsabilidad son válidas cuando el producto tiene un impacto directo sobre la salud. La jurisprudencia es todavía escasa y los casos tardan años en resolverse. Mientras tanto, los pacientes damnificados navegan un sistema legal sin respuestas rápidas.
La cuestión se complica más cuando el algoritmo fue entrenado con datos que contenían sesgos. Varios estudios han documentado que ciertos sistemas de diagnóstico por imagen funcionan peor en pacientes de piel oscura, porque los conjuntos de datos de entrenamiento tenían poca representación de esos grupos. Un error sistemático por sesgo de datos tiene un responsable, pero ese responsable está varias capas por detrás del acto clínico. Algo parecido ocurre con los algoritmos que ya influyen en decisiones judiciales, donde el sesgo heredado del entrenamiento pasa desapercibido hasta que el daño está hecho.
¿Cómo se documenta un error de IA en el historial médico?
Documentar que un diagnóstico erróneo tuvo como origen parcial o total un sistema de IA es más difícil de lo que parece. En la práctica clínica actual, los registros médicos recogen la decisión del profesional, no el proceso que llevó a ella. Si el médico utilizó una herramienta de IA para apoyar su diagnóstico, eso puede quedar o no reflejado dependiendo del hospital y del protocolo interno. No existe todavía un estándar obligatorio de trazabilidad clínica que exija anotar qué sistemas de IA participaron en cada decisión.
Esa falta de trazabilidad perjudica directamente al paciente. Si no hay registro de que se usó una herramienta concreta, es casi imposible construir un caso legal que señale al fabricante del algoritmo. La opacidad del proceso diagnóstico protege al sistema, no al paciente.
Algunas iniciativas académicas y regulatorias están empujando hacia lo que podría llamarse un “libro de visitas” del algoritmo: un registro auditado de qué sistema de IA intervino, con qué versión del modelo, qué datos procesó y qué salida produjo. Esto ya es técnicamente posible. Que no sea obligatorio es una decisión política, no una limitación tecnológica. La comparación no es exacta, pero el principio recuerda a lo que ya se exige en otros sectores críticos, como la aviación, donde cualquier asistencia automatizada en una decisión de vuelo queda registrada.
La dificultad de rastrear estos errores también está presente cuando hablamos de sistemas de IA que actúan con mayor autonomía, donde la cadena de decisiones se vuelve aún más opaca para el usuario final.
¿Qué modelos de IA se usan en medicina y cuál es su tasa de error real?
Los sistemas de IA más extendidos en diagnóstico médico trabajan principalmente con imagen: radiografías, TAC, resonancias magnéticas y dermatoscopia. Empresas como Google (con su plataforma Med-PaLM), Siemens Healthineers o Philips llevan años comercializando herramientas de apoyo al diagnóstico. También hay modelos especializados en patología, en interpretación de electrocardiogramas o en cribado de retinopatía diabética, algunos de los cuales tienen autorización de la FDA estadounidense.
Las tasas de error publicadas por los fabricantes suelen ser favorables, pero proceden de estudios controlados con conjuntos de datos curados. En condiciones reales, la precisión puede bajar significativamente. Un meta-análisis publicado en The Lancet Digital Health en 2021 ya advertía de que muchos estudios sobre IA médica presentaban sesgos metodológicos que inflaban los resultados. La distancia entre el rendimiento en el laboratorio y el rendimiento en el hospital es uno de los problemas más documentados del sector.
Esto no significa que la IA sea peor que el médico en todos los casos. En cribado de cáncer de mama, algunos sistemas han demostrado resultados comparables o superiores a los radiólogos en estudios controlados. El matiz importa: comparable en condiciones ideales no equivale a fiable en el día a día clínico, con imágenes de calidad variable, historiales incompletos y presión asistencial. De hecho, los propios límites estructurales de la inteligencia artificial hacen difícil trasladar directamente el rendimiento de un entorno controlado a uno clínico real.
Hay además un problema de confianza inversa: cuando un sistema de IA tiene buena reputación en un hospital, los médicos tienden a cuestionar menos sus salidas. Se ha documentado el fenómeno de la “automatización complaciente” (automation bias), por el que el profesional acepta la sugerencia del algoritmo incluso cuando sus propios instintos clínicos apuntaban a otra dirección. El sesgo de automatización es un factor de riesgo real en los entornos donde la IA lleva tiempo funcionando bien.
¿Cuánto cambia la situación si la IA actúa de forma más autónoma?
El escenario descrito hasta aquí contempla a la IA como herramienta de apoyo con un humano que valida. Pero el sector avanza hacia sistemas con mayor capacidad de actuación autónoma, donde el algoritmo no solo sugiere sino que, en ciertos flujos de trabajo, actúa directamente. Algunos sistemas de triaje digital, por ejemplo, clasifican la urgencia de un paciente antes de que ningún médico lo haya visto. Si esa clasificación es errónea y el paciente se deteriora en sala de espera, la cadena de responsabilidad se complica todavía más.
La pregunta sobre quién responde se vuelve más urgente a medida que la autonomía del sistema crece. Y conecta directamente con debates más amplios sobre el papel de los algoritmos tomando decisiones con consecuencias reales para personas concretas, sin que exista un mecanismo claro de apelación ni de reparación.
No existe todavía ningún país con un marco legal completo que responda a todos estos escenarios. Lo que hay son propuestas, borradores, y algunos casos judiciales pioneros que irán construyendo jurisprudencia durante los próximos años. La velocidad de despliegue de estos sistemas en la sanidad pública y privada va muy por delante de la velocidad legislativa, y esa brecha es donde el paciente queda más expuesto.
Vale la pena recordar que la discusión no se limita a los errores. Los modelos de IA aprenden continuamente, también en entornos médicos, lo que significa que el sistema que cometió un error hoy puede no ser exactamente el mismo mañana. Eso abre una pregunta adicional sobre la validación continua y sobre si la autorización inicial de una herramienta sigue siendo válida cuando el modelo ha evolucionado.
¿Quién pagará los errores de la IA médica cuando los tribunales empiecen a decidir?
Los primeros fallos judiciales sobre responsabilidad en diagnóstico asistido por IA llegarán en los próximos años, probablemente desde Estados Unidos, donde el sistema legal es más ágil para este tipo de litigios. Lo que esos fallos decidan configurará el marco de referencia para el resto del mundo, incluso para Europa, que tiene su propio proceso regulatorio en marcha.
La presión más interesante no vendrá necesariamente de los tribunales, sino de las aseguradoras médicas. Las compañías que aseguran la responsabilidad civil de hospitales y médicos ya están estudiando cómo incorporar el riesgo de la IA en sus pólizas. Cuando ese riesgo tenga precio, los incentivos cambiarán. Las aseguradoras tienen el poder real de forzar estándares de trazabilidad que los reguladores tardan años en aprobar.
Mientras ese proceso se desarrolla, los pacientes que hayan sufrido un diagnóstico erróneo mediado por IA tienen pocas herramientas. Pueden acudir a las vías habituales de responsabilidad médica, que en muchos países ya son lentas y complejas. Añadir una capa tecnológica al caso lo encarece y lo alarga. No es una situación hipotética: es la situación de las personas que ahora mismo están intentando reclamar por daños que llevan en los informes la huella invisible de un algoritmo.
Y queda una pregunta que no tiene respuesta todavía: si la IA mejora el diagnóstico en promedio (reduce errores globalmente) pero genera errores nuevos en casos concretos, ¿cómo se compensa a quien cae en esa minoría estadística? La utilidad colectiva de la herramienta no consuela al paciente individual perjudicado. Ese es el nudo ético que ninguna regulación ha resuelto aún. Algo que también aparece cuando pensamos en las máquinas tomando decisiones con consecuencias irreversibles, y en cómo las sociedades construyen mecanismos de rendición de cuentas casi siempre después del daño.
Si la IA es más precisa que el médico en promedio, ¿quién defiende al paciente que queda fuera de ese promedio?
La estadística que avala una herramienta de diagnóstico habla de poblaciones, no de personas. Un sistema con un 95% de precisión es, sobre el papel, extraordinariamente bueno. Pero ese 5% restante son pacientes reales con diagnósticos erróneos, tratamientos equivocados y consecuencias que en medicina pueden ser graves o irreversibles. La pregunta no es si la IA falla menos que el médico en general: es quién responde cuando falla en un caso concreto y qué mecanismo tiene esa persona para obtener reparación.
Los marcos de responsabilidad médica tradicionales fueron diseñados para relaciones entre personas. La lex artis, el estándar de diligencia del profesional sanitario, presupone un juicio humano evaluable. Trasladarlo a una herramienta que opera como caja negra, cuyos pesos internos son inaccesibles para el clínico que la usa, es un ejercicio de ficción jurídica que perjudica a todos excepto al fabricante del algoritmo.
Hay que mencionar también el papel que pueden jugar los propios pacientes en este escenario. La tecnología amplía las capacidades humanas, pero también genera nuevas dependencias y nuevas asimetrías de información. Un paciente informado puede preguntar si su diagnóstico involucró un sistema de IA, puede pedir que eso conste en su historial, puede solicitar una segunda opinión humana. Pero para ejercer esos derechos hay que conocerlos, y la mayoría de los pacientes no saben que existe esa posibilidad.
La solución no pasa por frenar el uso de la IA en medicina. Los beneficios son reales y en muchos contextos están bien documentados. Pasa por construir, antes de que lleguen más casos a los tribunales, un sistema claro de trazabilidad, validación continua y responsabilidad compartida que no deje al paciente como el último en la cadena de rendición de cuentas. Eso es una decisión política. Y el tiempo que pase sin tomarla es tiempo en que los errores seguirán ocurriendo sin consecuencias para quienes diseñan y venden estas herramientas.
Preguntas frecuentes
¿Quién es responsable legalmente cuando una IA comete un error en un diagnóstico médico?
Hoy, la responsabilidad recae principalmente sobre el médico que firmó el diagnóstico, porque la ley no reconoce a los algoritmos como sujetos de responsabilidad. Sin embargo, también puede alcanzar al hospital que implantó la herramienta y, en algunos casos, al fabricante del sistema. El reparto concreto depende del país, del contrato entre hospital y proveedor y de si el error es atribuible a un fallo del software o a un uso indebido del mismo.
¿Están los sistemas de IA médica obligados a registrar sus errores?
No existe todavía una obligación universal de trazabilidad que exija registrar qué sistema de IA intervino en cada diagnóstico. El Reglamento europeo de IA de 2024 impone requisitos de documentación a los fabricantes, pero el registro clínico acto por acto no está estandarizado. Eso dificulta enormemente demostrar, en caso de daño, que una herramienta concreta participó en la decisión equivocada.
¿Puede un paciente negarse a que una IA participe en su diagnóstico?
En teoría, el consentimiento informado debería incluir la posibilidad de rechazar herramientas de apoyo automatizado. En la práctica, muchos hospitales no informan explícitamente al paciente de que un sistema de IA ha participado en su diagnóstico. La regulación europea avanza hacia mayor transparencia, pero por ahora la aplicación real varía mucho según el centro sanitario y el país.
¿Son los sistemas de IA médica más fiables que los médicos humanos?
Depende del contexto clínico. En tareas concretas de imagen, como el cribado de cáncer de mama o la detección de retinopatía diabética, algunos sistemas han mostrado resultados comparables o superiores a los especialistas en estudios controlados. Pero esos resultados en condiciones ideales no se trasladan automáticamente a entornos reales, donde la calidad de las imágenes, los historiales incompletos y la presión asistencial reducen la precisión efectiva.
¿Qué es el sesgo de automatización y cómo afecta a la seguridad del paciente?
El sesgo de automatización es la tendencia de los profesionales a aceptar la sugerencia de un sistema automatizado incluso cuando sus propios criterios apuntarían en otra dirección. En medicina, este fenómeno puede llevar a que un médico valide un diagnóstico erróneo de una IA sin cuestionarlo, especialmente si el sistema tiene buena reputación en el centro. Está documentado en estudios de psicología cognitiva aplicada a entornos de decisión asistida.
¿Qué debería cambiar para que los pacientes estén mejor protegidos?
Tres cosas concretas marcarían la diferencia: obligatoriedad de registrar qué sistema de IA participó en cada diagnóstico, validación continua de los modelos después de su autorización inicial y un marco de responsabilidad que incluya al fabricante cuando el error es atribuible al algoritmo. Ninguna de las tres requiere frenar el uso de la IA en medicina; requieren decisiones políticas que aún no se han tomado.
