A.M.A y Fundación A.M.A han organizado una mesa de trabajo sobre los ‘Desafíos en derecho sanitario: inteligencia artificial y responsabilidad civil’, en el marco del XXX Congreso Nacional de Derecho Sanitario, moderado por Raquel Murillo, directora general de la Agrupación y directora del ramo de Responsabilidad Civil.

La directora general de A.M.A. comenzó su intervención destacando la «auténtica revolución que determinadas herramientas de la inteligencia artificial están suponiendo ya en el ámbito sanitario, favoreciendo, la posibilidad de desarrollar una medicina personalizada, preventiva y de precisión«. Pero, junto a las ventajas, el uso de estas nuevas tecnologías y la inteligencia artificial «nos colocan ante nuevos riesgos, muchos de ellos hasta ahora desconocidos, que están generando cierto desasosiego y que requieren de una respuesta ética y jurídica adecuada y precisa».

Una de las cuestiones que genera múltiples interrogantes es la responsabilidad civil profesional en el caso de que se produzca un error diagnóstico o terapéutico. «Recientemente se ha aprobado el Reglamento de la Unión Europea 2924/1689, pero queda mucho camino por recorrer», afirmó.

RC, IA y aseguramiento

El doctor Joaquín Ruiz, socio responsable del área de Seguros y Reaseguros de Pérez-Llorca Abogados, abordó una sesión sobre ‘Responsabilidad y aseguramiento de la responsabilidad civil en materia de inteligencia artificial’. En su exposición reflexionó que «la IA nos provoca fascinación y miedo», especialmente cuando hablamos de responsabilidad. «Hoy por hoy tenemos una propuesta directiva sobre IA y tardará de tres a cinco años. Se trata de una norma que quiere solucionar el problema del principio jurídico de la carga de la prueba».

Sin embargo, en este punto destacó que el Parlamento Europeo considera que en la utilización de robots se plantea la implantación de un seguro obligatorio así como un fondo de compensación. «De momento no hemos tenido ningún caso de daños por utilización de la IA. Pero en caso de daño, habría que ver de quién es la culpa, si humana o tecnología. Y, en cualquier caso, habría que tener en cuenta que, incluso si la responsabilidad recae sobre la IA, detrás de ella también hay una mano humana, desde su desarrollador hasta quién la utilizó».

Así mismo, Ruiz considera que «la IA va a tener un impacto grande en materia de gestión sanitaria. Tenemos que realizar un diálogo sobre cómo se va a usar». Y, en materia de aseguramiento, «la industria aseguradora está varios pasos por detrás. Está diciendo voy a vender coberturas específicas dentro de seguros centrados en otros ámbitos, o productos de ciberseguridad más genéricos. Sin embargo, considero que son parches. Necesitamos soluciones a medida con resolución a terceros dependiendo de la responsabilidad que el humano tenga respecto al uso de esa máquina«.

IA en la práctica clínica

Los doctores Benjamín Herrero, profesor de Medicina Legal de la Facultad de Medicina de la Universidad Complutense, e Ignacio Hernández, especialista en Neurología en el Hospital Gregorio Marañón y cofundador del sistema Savana y Medelian, desarrollaron una sesión sobre los ‘Problemas éticos y legales de la IA en la práctica clínica’.

Benjamín Herrero habló de los beneficios de la analítica de datos en el ámbito sanitario. «Es mucho más rápida con IA, así como en política y gestión sanitaria. También evita los sesgos de errores cognitivos e influencias emocionales en los diagnósticos, como el cansancio. Aporta accesibilidad y eliminación de barreras, pero no es una panacea ni un remedio para todo. Todo remedio tiene sus efectos colaterales, como problemas éticos y deontológicos».

Así enumeró posibles consecuencias de su uso como que existan intereses de terceros que pueden confluir o si con la IA «estamos garantizando la misma calidad asistencial que sin ella». También reflexionó si pueden entrar en conflicto cuestiones de protección de datos y confidencialidad, de equidad y accesibilidad, así como una posible deshumanización de la atención clínica. En este punto, el doctor Herrero comentó que también puede ser una oportunidad, ya que automatiza procesos, «por lo que se podrá invertir mayor tiempo en el paciente. Para mí, el principal problema es que los médicos no piensen porque tienen IA. Eso solo una muleta, un apoyo, una herramienta, pero no una prótesis que trabaja por nosotros».

Por su parte, Ignacio Hernández habló del aprendizaje automático del machine learning, «que está inmersa en todos los ámbitos de nuestra vida, y por ello tiene tanto éxito la inteligencia artificial». Para explicarlo mejor, realizó una similitud con el funcionamiento del aprendizaje humano y el de la IA. Según el doctor, «ya que esta tecnología aprende con la repetición y ejemplos, como nosotros«.

También explicó qué es el sistema Savana y sus funciones utilizando IA en la práctica sanitaria. En este sentido avisó que «en un entorno donde las máquinas tienen respuesta, lo pertinente siempre es hacer la buena pregunta. Aunque la IA generativa brilla mucho, no genera conocimiento nuevo, solo mejora el conocimiento que ya existe. La IA generativa no es validable científicamente, hay que utilizarla junto a la IA discriminativa, pues corremos el peligro de que los algoritmos de la IA fallen«.

Derechos fundamentales e IA en el ámbito sanitario

Por su parte, el doctor César Tolosa, magistrado del Tribunal Constitucional, desarrolló una sesión sobre la ‘Especial referencia a la protección de los derechos fundamentales, automatización de los procesos en el ámbito sanitario’. Para Tolosa, desde un punto de vista jurídico, consideró que «normalmente la realidad va más adelantada que la jurídica. En este caso, la realidad va inmensamente más deprisa que el marco jurídico. La IA no es un fin en si misma. Es un medio o vía de actuación». Así, planteó algunos de los riesgos que pueden darse con su utilización como el derecho a la igualdad, al acceso de la sanidad y su equidad. En zonas de penuria será complejo que se puedan implantar herramientas de IA». En cuanto a la transparencia de la IA, Tolosa apostó por que «está basada en algoritmos que quizás tengamos que desarrollar personalidad jurídica específica para ella. No debemos olvidar que va a tener incidencia incidencia en la autonomía del paciente y en el derecho al consentimiento respecto a las técnicas que se van a emplear».

Según explicó, el ordenamiento español se enfrenta a los siguientes problemas relacionados con la IA. El primero, la reforma de la figura del consentimiento informático, y el segundo, la figura de la responsabilidad. «Sobre la reforma de la figura del consentimiento informático hay que tener en cuenta que el paciente debe conocer qué sistemas algorítmicos se le va a aplicar. En cuanto al problema de la responsabilidad, se plantean varios escenarios. Uno, que la IA es perfecta y que el médico la pueda utilizar mal. Otro, que el error pueda ser de la IA por ofrecer datos equivocados. Por último, desconocer de quién es la responsabilidad, para la cual tendremos que acudir a la responsabilidad concurrente», afirmó.