La UE vela por una inteligencia artificial sanitaria "sin discriminaciones"

La inteligencia artificial (IA) ha roto todos los esquemas conocidos hasta ahora. Este conjunto de tecnologías en rápida evolución necesitaba una regulación y, por ello se aprobó el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, que aparece este viernes recogido en el Diario Oficial de la Unión Europea. Entre otros aspectos, Europa no quiere que la IA "discrimine" a pacientes en toma de decisiones importantes en materia sanitaria.

"El uso de la IA puede proporcionar ventajas competitivas esenciales a las empresas y facilitar la obtención de resultados positivos desde el punto de vista social y medioambiental en ámbitos como la asistencia sanitaria", indican en este documento por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

En materia sanitaria, estas nuevas reglas del juego reconocen que los sistemas de IA pueden tener "un efecto adverso" para la salud y la seguridad de las personas, en particular cuando funcionan como componentes de seguridad de productos. Por este motivo, la normativa pretende facilitar la libre circulación de productos en el mercado interior y velar por que solo lleguen al mercado aquellos productos que sean seguros. Tal y como expresa el texto, es importante "prevenir y mitigar debidamente los riesgos de seguridad" que pueda generar un producto en su conjunto debido a sus componentes digitales, entre los que pueden figurar los sistemas de IA.

"Esto se aplica también al sector sanitario, donde puede haber repercusiones especialmente importantes en la vida y la salud. Los sistemas de diagnóstico y de apoyo a las decisiones humanas, cuya sofisticación es cada vez mayor, deben ser fiables y precisos", señalan.

Por otro lado, los sistemas de IA que son componentes de seguridad de productos, o que son productos en sí mismos, están ahora también clasificados como de alto riesgo en virtud del presente Reglamento si el producto que se trate es sometido a un procedimiento de evaluación con un organismo de evaluación y la conformidad de terceros de acuerdo con dichos actos legislativos de armonización de la Unión. En este caso, entran aquí los productos sanitarios y los productos sanitarios para diagnóstico in vitro.

Concesión de servicios de asistencia sanitaria

Asimismo, desde Europa subrayan que hay que poner especial atención a la utilización de sistemas de IA para el acceso a determinados servicios y prestaciones esenciales. Se refieren, por ejemplo, al uso de estas herramientas para la concesión de servicios de asistencia sanitaria o servicios sociales que garantizan una protección en casos como la maternidad o la enfermedad, entre otros.

"Los sistemas de IA destinados a ser utilizados para la evaluación de riesgos y la fijación de precios, en relación con las personas físicas en el caso de los seguros de vida y de salud, también pueden afectar de un modo considerable a los medios de subsistencia de las personas y, si no se diseñan, desarrollan y utilizan debidamente, pueden vulnerar sus derechos fundamentales y pueden tener graves consecuencias para la vida y la salud de las personas, como la exclusión financiera y la discriminación", argumentan.

Al igual que también deben considerarse de alto riesgo los sistemas de IA empleados para evaluar y clasificar llamadas de emergencia de personas físicas o el envío o el establecimiento de prioridades,a, como servicios de asistencia médica, así como sistemas de triaje de pacientes para la asistencia sanitaria de emergencia, "dado que adoptan decisiones en situaciones sumamente críticas para la vida y la salud de las personas y de sus bienes".

No obstante, todos estos beneficios que pueden traer estas nuevas herramientas no tendrán sentido si no se usan datos de calidad. Es por ello que el reglamento publicado este viernes resalta la importancia del espacio europeo de datos sanitarios, ya que "facilitará el acceso no discriminatorio a datos sanitarios y el entrenamiento, a partir de esos conjuntos de datos, de algoritmos de IA de una manera segura, oportuna, transparente, fiable y que respete la intimidad, y contando con la debida gobernanza institucional".

Dicho reglamento incide en que va a haber una aplicación simultánea y complementaria de diversos actos legislativos, sobre todo en materia sanitaria: "Las máquinas o los productos sanitarios que incorporan un sistema de IA pueden presentar riesgos de los que no se ocupan los requisitos esenciales de salud y seguridad establecidos en la legislación armonizada de la Unión pertinente, ya que esa legislación sectorial no aborda los riesgos específicos de los sistemas de IA".