Durante el XXX Congreso de Derecho Sanitario en Madrid, AMA aborda los retos legales y éticos de la IA en el ámbito sanitario, destacando la necesidad de adaptar el marco legal
La inteligencia artificial está transformando el ámbito sanitario a través de innovaciones que prometen mejorar la atención médica. Sin embargo, este avance plantea preguntas urgentes sobre la responsabilidad civil en casos de errores o fallos tecnológicos. Con esta perspectiva, el XXX Congreso de Derecho Sanitario, organizado por la Asociación Española de Derecho Sanitario en Madrid, destaca la necesidad de adaptar el marco legal para proteger tanto a pacientes como a profesionales de la salud.
En este contexto, la Agrupación Mutual Aseguradora (AMA) lidera hoy una mesa de trabajo titulada “Desafíos en derecho sanitario: inteligencia artificial y responsabilidad civil”, que reúne a figuras destacadas en derecho, medicina y tecnología para analizar cómo la IA desafía las normativas vigentes sanitarias.
Dirigido y moderado por Raquel Murillo Solís, directora general de AMA y responsable del área de Responsabilidad Civil, el evento cuenta con un panel de ponentes que abordan tanto las oportunidades como las incertidumbres que trae la IA al sector sanitario.
Murillo: “Estas opciones tecnológicas requieren de una respuesta ética y jurídica precisa”
En este sentido, han participado el Dr. Benjamín Herreros Ruiz-Valdepeñas, médico y filósofo de la Universidad Complutense de Madrid; el Dr. Ignacio Hernández Medrano, neurólogo y cofundador del sistema SAVANA, que utiliza IA para el análisis de datos médicos; Joaquín Ruiz Echauri, abogado experto en derecho de seguros y socio de Pérez-Llorca Abogados; y César Tolosa Tribiño, Magistrado del Tribunal Constitucional.
Antes de dar paso a los ponentes, Murillo ha subrayado que la inteligencia artificial “no es el futuro, es el presente”. Además, ha destacado que, aunque estas nuevas tecnologías están en pleno uso dentro del ámbito sanitario y se han vuelto herramientas fundamentales para diversas actividades, es esencial reconocer los riesgos asociados a su implementación.
“Estas opciones tecnológicas requieren de una respuesta ética y jurídica precisa, adaptada a las nuevas demandas que surgen en un sistema cada vez más automatizado”, ha explicado la directora general de AMA.
Murillo: “La IA requiere ser adaptada a las nuevas demandas que surgen”
A continuación, el Dr. Benjamín Herreros Ruiz-Valdepeñas ha abordado la cuestión de la IA no solo desde su realidad presente, sino también desde una perspectiva de futuro, planteando los posibles riesgos y problemas que podrían surgir con su desarrollo y adopción en el sector. En sus palabras, su presentación se centró en una exposición de sus ventajas en el ámbito sanitario, y una revisión de los riesgos éticos y deontológicos que esta tecnología plantea.
El Dr. Benjamín Herreros ha destacado las ventajas de la inteligencia artificial en medicina, subrayando su capacidad para procesar grandes volúmenes de datos sin errores ni sesgos cognitivos humanos. Asimismo, el ponente insistió en que, aunque la IA puede mejorar la accesibilidad y calidad de la atención, su uso debe ser realista, pues también conlleva riesgos que deben evaluarse. “Hay que ver qué moralidad, qué valores hay detrás de los humanos que alimentan y desarrollan esos algoritmos”, ha señalado, recordando que el código deontológico prohíbe manipular datos intencionadamente a través de la IA.
Asimismo, Herreros ha abordado la cuestión de la responsabilidad en la toma de decisiones. En la medicina tradicional, la responsabilidad en el acto médico es clara, ya que está basada en la exploración directa y en pruebas complementarias. Sin embargo, en el contexto de la IA, existe un riesgo de que la atribución de responsabilidades se vuelva difusa.
Herreros: “La IA es una muleta que nos ayuda en la toma de decisiones como se ha dicho pero no una prótesis”
“El principal problema es que los médicos no piensen. Nuestro objetivo es el cuidado del paciente y aunque la inteligencia artificial es una muleta que nos ayuda en la toma de decisiones como se ha dicho, no una prótesis que sustituye nuestra inteligencia”, explica el médico y filósofo de la Universidad Complutense de Madrid.
A continuación el Dr. Ignacio Hernández Medrano, especialista en Neurología y cofundador de SAVANA, ha iniciado su intervención destacando los problemas éticos asociados con el uso de la IA. Herrández ha explicado que este enfoque de enseñar a las máquinas mediante ejemplos es el núcleo del aprendizaje automático. “Las ventajas automáticas consisten en que a la máquina no le doy reglas, le doy problemas resueltos para que por sí misma aprenda las reglas. La IA sabe que una mesa es una mesa aunque sea la primera vez que la ves”, explica el experto.
Hernández Medrano: “La IA sabe que una mesa es una mesa aunque sea la primera vez que la ves”
En su conclusión, Hernández Medrano ha reflexionado sobre el delicado equilibrio entre seguridad y utilidad en el uso de tecnologías avanzadas. En esta línea, ha apuntado la dificultad de decirle a un paciente que, a pesar de contar con tecnología capaz de predecir si sufrirá un infarto en los próximos años, no se debe usar. “Qué difícil decirle a un paciente que ya hoy tenemos tecnología para crearle lo que podríamos llamar un género digital”, expresó.
Posteriormente, Joaquín Ruiz Echauri, abogado experto en derecho de seguros y reaseguro, se ha referido a la importancia de la propuesta actual sobre responsabilidad civil en el ámbito de la IA, que contempla la creación de seguros obligatorios y fondos de compensación para los daños causados por estos sistemas, algo similar a lo que ocurrió en el pasado con los vehículos automotores.
“La verdadera preocupación para el jurista radica en el uso de herramientas de IA que, aunque generen respuestas rápidas y flexibles, no garantizan necesariamente respuestas verídicas o correctas”, explica el jurista. En el ámbito jurídico, donde la confianza y la veracidad son fundamentales, esta falta de fiabilidad pone en riesgo los principios básicos del derecho, como la transparencia y la integridad de la información.
Ruiz Echauri: “La verdadera preocupación para el jurista radica es que la IA no garantizan necesariamente respuestas verídicas”
Además, el experto en derecho de seguros, destaca la necesidad de un sistema legal que garantice la transparencia en el uso de la IA, resaltando cómo las acciones colectivas podrían ser una herramienta esencial para que los consumidores afectados puedan reclamar compensaciones.
Por último, el Ruiz Echauri explica que la industria aseguradora está rezagada en cuanto a la cobertura de riesgos relacionados con la inteligencia artificial, ofreciendo coberturas limitadas y consideradas como “parches”. A medida que la IA se extienda en sectores económicos, será necesario desarrollar seguros específicos que cubran responsabilidades frente a terceros, reconociendo que la responsabilidad siempre recae en los humanos detrás de la tecnología.
La mesa ha concluido con la intervención de D. César Tolosa Tribiño, Magistrado del Tribunal Constitucional, quien destacó la complejidad de los desafíos legales relacionados con la inteligencia artificial en el ámbito sanitario y la necesidad de replantear las estructuras jurídicas para garantizar la transparencia y la responsabilidad. “Los marcos legales existentes no están preparados para hacer frente a los rápidos avances de esta tecnología y es urgente diseñar normativas que puedan equilibrar la innovación tecnológica con la protección de los derechos fundamentales de los ciudadanos”.
Tolosa Tribiño: “Los marcos legales existentes no están preparados para hacer frente a los rápidos avances de la IA”
El magistrado también ha enfatizado la importancia de garantizar que la IA sea utilizada de manera ética y que las decisiones tomadas por estas tecnologías sean comprensibles y explicables para los afectados. En este sentido, hizo hincapié la necesidad de que los legisladores consideren el impacto social y los derechos humanos involucrados en su implementación dentro del ámbito sanitario.
Para concluir, debido a la complejidad de los algoritmos utilizados en los tratamientos, será necesario reformar las figuras legales actuales, especialmente en lo que respecta a la autonomía del paciente y la transparencia en los procesos. Además, alertó sobre los riesgos relacionados con la responsabilidad derivada del uso de la IA, señalando que la legislación vigente aún no abordan completamente estas nuevas realidades tecnológicas.
