Quien paga cuando una IA comete un error medico

La responsabilidad IA medicina legal es uno de esos debates que la industria tecnológica preferiría aplazar indefinidamente, pero que los tribunales de medio mundo están empezando a forzar. Porque la inteligencia artificial ya no es una promesa de futuro en los hospitales: diagnostica, sugiere tratamientos, analiza imágenes médicas y, en algunos casos, recomienda medicación. Y cuando algo falla, aparece una pregunta incómoda que nadie ha sabido responder todavía: ¿quién paga?

La IA ya opera en quirófanos y consultas, pero la ley llegó tarde

No es ciencia ficción. Sistemas de inteligencia artificial como IDx-DR, aprobado por la FDA estadounidense para detectar retinopatía diabética, o los algoritmos de análisis de imágenes de empresas como Google Health o Paige AI, ya forman parte de flujos de trabajo clínicos reales. En España, varios hospitales públicos utilizan herramientas de IA para la detección precoz de tumores o para priorizar urgencias.

El problema es que el derecho médico fue construido sobre un principio muy concreto: hay un profesional, hay una decisión, y si esa decisión causa daño, existe una cadena de responsabilidad rastreable. Médico, hospital, aseguradora. Todo encajaba. Ahora, esa cadena se complica cuando en el medio aparece un algoritmo que nadie sabe del todo cómo funciona por dentro.

Y esto no es una exageración. Los sistemas de IA médica más avanzados son cajas negras: llegan a una conclusión, pero no siempre pueden explicar el camino. Lo cual plantea un problema filosófico y jurídico a partes iguales. ¿Puede condenarse por negligencia a alguien que tomó una decisión siguiendo un sistema que no podía cuestionar porque no podía entenderlo?

Tres candidatos a pagar la factura

Cuando una IA falla en medicina, el daño es real y alguien tiene que asumir las consecuencias. Los candidatos principales son siempre los mismos tres: el médico que usó la herramienta, el hospital que la implantó, y la empresa que la desarrolló.

El médico: ¿herramienta o muleta?

La postura más extendida en la comunidad jurídica es que el médico sigue siendo el último responsable de cualquier decisión clínica. La IA, según esta lógica, es una herramienta de apoyo, no un sustituto del criterio profesional. Si un cirujano usa un bisturí defectuoso, puede reclamar al fabricante, pero también debe haber ejercido la diligencia necesaria.

El problema surge cuando el sistema de IA es tan complejo que el médico no tiene capacidad técnica real para cuestionarlo. Si un algoritmo le dice con un 97% de confianza que una imagen de tomografía es benigna, y el médico acepta ese resultado porque su formación no le permite rebatir ese análisis, ¿está siendo negligente o simplemente está usando la herramienta para lo que fue diseñada?

Aquí entra en juego algo que los juristas llaman automation bias: la tendencia humana a confiar más en las decisiones de una máquina que en el propio juicio. No es una debilidad moral, es una respuesta cognitiva documentada. Y los sistemas de IA, paradójicamente, están diseñados para inspirar exactamente ese tipo de confianza.

El hospital: quién decide implantar la herramienta

Las instituciones hospitalarias tienen una responsabilidad que a veces se pasa por alto: son ellas quienes eligen qué sistemas adoptan, bajo qué protocolos los integran y cómo forman a su personal. Si un hospital implanta una herramienta de diagnóstico sin los mecanismos de supervisión adecuados, sin formación específica para los profesionales que la usan, o sin un protocolo claro de actuación cuando el sistema falla, su exposición legal es considerable.

Además, muchas instituciones adoptan estas tecnologías con un incentivo económico claro: reducir tiempos, optimizar recursos, atender más pacientes. Lo cual está bien, siempre que no se convierta en una excusa para reducir la supervisión humana al mínimo. El ahorro de costes y la seguridad del paciente pueden tensionarse, y cuando eso ocurre, la responsabilidad institucional se vuelve difícil de esquivar.

La empresa desarrolladora: el fabricante invisible

Aquí es donde el debate se pone más espinoso. Las empresas que desarrollan IA médica llevan años argumentando que sus sistemas son herramientas de apoyo a la decisión, no dispositivos diagnósticos autónomos. Esa distinción no es semántica: es la línea que separa una regulación estricta de una relativamente laxa.

Pero a medida que los sistemas ganan autonomía real, esa distinción empieza a crujir. Si un algoritmo toma decisiones que los médicos no pueden revisar eficazmente, llamarlo «herramienta de apoyo» es un eufemismo que los tribunales están empezando a no aceptar. La responsabilidad por producto defectuoso —una figura legal bien establecida— podría aplicarse perfectamente si se demuestra que el sistema fue diseñado con un fallo que causó daño.

En Estados Unidos, algunos casos ya han llegado a los juzgados. En Europa, el Reglamento de IA de la UE, aprobado en 2024, clasifica los sistemas de IA médica como de alto riesgo y exige transparencia, trazabilidad y supervisión humana. Pero una regulación que existe sobre el papel tarda años en traducirse en jurisprudencia consolidada.

El problema del consentimiento informado y la caja negra

Hay otra dimensión del problema que raramente se discute en los medios generalistas: el paciente. Cuando te sometes a un diagnóstico médico, tienes derecho a saber cómo se toma esa decisión. Pero, ¿qué significa el consentimiento informado cuando el propio médico no entiende completamente cómo funciona el sistema que está usando para diagnosticarte?

Esto conecta directamente con el debate más amplio sobre los algoritmos opacos. No es muy diferente de lo que ya ocurre cuando un sistema decide tu acceso a servicios sin explicarte el razonamiento. En el caso del crédito, el daño es económico. En el caso del diagnóstico médico, puede ser la diferencia entre detectar un cáncer a tiempo o no.

Algunos países están empezando a exigir que los sistemas de IA clínica sean explicables: que puedan ofrecer, al menos, una justificación comprensible de su razonamiento. Pero la realidad es que los modelos más potentes, como las redes neuronales profundas, son intrínsecamente difíciles de explicar. Se puede mejorar la transparencia, pero eliminarla del todo es prácticamente imposible con la tecnología actual.

Casos reales que ya han llegado a los tribunales

No hay todavía una jurisprudencia consolidada en ningún país sobre responsabilidad de IA en medicina, pero sí hay casos que apuntan hacia dónde irá la cosa.

En Estados Unidos, en 2023, se presentaron las primeras demandas relacionadas con el uso de algoritmos de IA en sistemas de gestión hospitalaria que, según los demandantes, influenciaron decisiones sobre altas prematuras. Las empresas demandadas insistieron en que el sistema era una herramienta de apoyo, no el decisor final. Los casos siguen abiertos.

En el Reino Unido, el NHS ha sido demandado en casos donde se usaron sistemas de priorización algorítmica durante la pandemia. La opacidad del proceso fue el argumento central de los demandantes: no podían saber si habían sido tratados de forma equitativa porque nadie podía explicar cómo el algoritmo asignaba prioridad.

En estos contextos, la dimensión de la identidad y los datos biométricos también juega un papel relevante, porque muchos sistemas de IA médica se alimentan de información extremadamente sensible cuyo uso y almacenamiento añade otra capa de exposición legal.

¿Puede asegurarse la responsabilidad de una IA?

El sector asegurador, que suele tener un olfato fino para los riesgos emergentes, ya está moviendo ficha. Algunas aseguradoras de responsabilidad civil médica han empezado a incluir cláusulas específicas sobre el uso de inteligencia artificial. Otras, directamente, están excluyendo de sus pólizas los daños causados por sistemas de IA no validados clínicamente.

Esto crea un incentivo interesante: si los hospitales no pueden asegurar ciertos sistemas de IA, probablemente dejen de usarlos. El mercado podría regular lo que la ley todavía no ha podido. O podría simplemente encarecer el acceso a la tecnología de tal manera que solo los grandes centros hospitalarios pudieran permitírsela, ampliando las desigualdades en el acceso a la atención médica.

La pregunta sobre quién asume el riesgo también tiene ecos en otros debates digitales. La forma en que la tecnología conectada en entornos sensibles distribuye la responsabilidad entre fabricante, operador y usuario es estructuralmente parecida al problema que aquí describimos. Y en ninguno de esos ámbitos tenemos todavía una respuesta satisfactoria.

El papel de los datos: basura dentro, basura fuera

Hay una variable que suele quedar en segundo plano pero que es fundamental: la calidad de los datos con los que se entrenó el sistema. Un algoritmo de diagnóstico entrenado mayoritariamente con datos de hombres blancos de mediana edad puede fallar sistemáticamente con mujeres, personas mayores o pacientes de otras etnias. Y cuando falla de forma sistemática, estamos hablando de un sesgo estructural, no de un error puntual.

El sesgo en los datos es una forma de error que la ley todavía no sabe muy bien cómo tratar. No hay un momento en que el algoritmo «se equivocó»: simplemente nunca funcionó igual de bien para todos. ¿Es eso negligencia del fabricante? ¿Del hospital que lo adoptó sin auditar su comportamiento en su población específica? ¿De los organismos reguladores que lo aprobaron con datos insuficientes?

Este es quizás el frente más difícil de resolver, porque implica revisar no solo cómo se desarrollan los sistemas, sino cómo se aprueban y cómo se monitoriza su comportamiento real una vez desplegados. Los sistemas de IA no son estáticos: aprenden, cambian, y un sistema que funcionaba bien hace dos años puede haber derivado. ¿Quién vigila eso?

La respuesta honesta es que, en la mayoría de los casos, la seguridad en el entorno hospitalario sigue siendo una asignatura pendiente, y la supervisión continua de los sistemas tecnológicos no está ni de lejos a la altura de lo que requeriría su uso clínico.

Europa aprieta, pero la IA no espera

El Reglamento Europeo de Inteligencia Artificial es, sobre el papel, el marco regulatorio más ambicioso del mundo. Clasifica los sistemas de IA médica como de alto riesgo, lo que implica requisitos estrictos de transparencia, trazabilidad y supervisión humana. Las empresas que incumplan se enfrentan a multas millonarias.

Pero hay un problema de velocidad. La tecnología avanza más rápido que la capacidad regulatoria de cualquier institución. Para cuando un reglamento se aprueba, se transpone y se empieza a aplicar, los sistemas que intenta regular ya son otra cosa. La FDA en Estados Unidos, la EMA en Europa y los reguladores nacionales corren siempre por detrás.

Esto no es una crítica a los reguladores: es una característica estructural del problema. La innovación tecnológica tiene incentivos para ser rápida; la regulación tiene incentivos para ser cuidadosa. Esa tensión es casi inevitable, y en el campo médico, donde los errores se pagan con vidas, se vuelve especialmente aguda.

Todo esto tiene ecos en debates más amplios sobre cómo distinguir lo que produce una máquina de lo que produce un humano se está convirtiendo en una habilidad crítica que la sociedad todavía no ha desarrollado del todo, y que los sistemas legales menos aún.

Formación médica: el eslabón que nadie quiere pagar

Para que el argumento de que «el médico es el responsable final» tenga sentido, los médicos necesitan formación específica en IA. Necesitan entender, al menos a nivel funcional, qué puede y qué no puede hacer un sistema algorítmico, cuáles son sus puntos ciegos, y cuándo deben ignorar su recomendación.

Esa formación existe en algunos centros punteros, generalmente vinculados a universidades con fuertes departamentos de informática o ingeniería biomédica. Pero en la mayoría de los hospitales, la IA llega como un software más, con un tutorial de dos horas y poco más. Y se espera que el profesional la use con criterio sin haberle dado las herramientas para tenerlo.

Esto no es un problema técnico. Es un problema de voluntad institucional y de financiación. Las empresas de IA no tienen incentivos para insistir demasiado en las limitaciones de sus propios sistemas. Los hospitales no tienen presupuesto para formación prolongada. Y los colegios profesionales médicos están empezando a reclamar estándares, pero con escaso poder vinculante.

¿Y si el error de la IA nos hace mejores médicos?

Hay una perspectiva que pocas veces se incluye en este debate: la posibilidad de que los errores de la IA, correctamente analizados, sean una oportunidad para mejorar la práctica clínica. Cada vez que un algoritmo falla, existe la posibilidad de entender por qué, identificar el patrón que confundió al sistema, y retroalimentar tanto el modelo como la formación de los profesionales.

Pero esto requiere algo que va en contra de todos los incentivos actuales: transparencia sobre los fallos. Las empresas no quieren publicitar los errores de sus sistemas. Los hospitales tampoco quieren hacer visible que una herramienta que adoptaron causó daño. Y los médicos tienen sus propios miedos legales para reconocer que siguieron una recomendación algorítmica equivocada.

El aprendizaje institucional requiere que los errores sean visibles, y la lógica de la responsabilidad legal tiende a hacer exactamente lo contrario: ocultarlos, minimizarlos, atribuirlos a otros. Resolver esa contradicción podría ser más importante que resolver el debate sobre quién paga.

Hay cierta ironía en que los mismos sistemas diseñados para que los fallos tecnológicos no se repitan en otros dominios digitales sigan sin tener un equivalente real en el entorno clínico, donde las consecuencias de repetir un error son infinitamente más graves.

¿Qué pasa cuando el que falla es el sistema que nadie eligió?

Hay algo profundamente perturbador en la idea de recibir un diagnóstico equivocado de un algoritmo que nadie en esa sala diseñó, que nadie puede explicar del todo, y cuya adopción fue decidida por una comisión que probablemente nunca te ha visto. La responsabilidad IA medicina legal no es solo un problema jurídico: es un síntoma de cómo hemos delegado decisiones críticas en sistemas que no hemos aprendido todavía a gobernar.

La pregunta no es si habrá más errores. Los habrá. La pregunta es si seremos capaces de construir un marco que los asuma con honestidad, que distribuya la responsabilidad de forma justa y que, sobre todo, aprenda de ellos en lugar de enterrarlos bajo capas de litigios y silencio institucional.

Porque al final, todo este debate sobre quién paga es, en realidad, un debate sobre qué tipo de medicina queremos. Una donde la tecnología amplía las capacidades humanas con transparencia y rendición de cuentas, o una donde el algoritmo decide y el paciente firma un consentimiento informado que no entiende para autorizar un proceso que nadie puede explicarle del todo. La diferencia entre ambas no es técnica. Es una decisión política que todavía está pendiente de tomarse, y que no debería dejarse solo en manos de los abogados.

Preguntas frecuentes