La eficacia del Sermas-GPT llega a la Asamblea para garantizar su seguridad

Más Madrid presenta una Proposición no de ley (PNL) para controlar el uso de Inteligencia Artificial en el Servicio de Salud de la Comunidad de Madrid (Sermas). La PNL, que se debatirá ante el Pleno de la Asamblea, en caso de salir adelante instará al Gobierno de la región a "establecer un protocolo de evaluación estandarizado basado en ensayos controlados aleatorizados para comprobar la eficacia y seguridad de cualquier técnica de IA que se introduzca en el Sermas".

La proposición, a la que ha tenido acceso Redacción Médica, ha sido presentada por los diputados Héctor Tejero y Marta Carmona, que en su exposición de motivos defienden las fortalezas de la inteligencia artificial a la vez que avisan de sus amenazas. "La IA tiene el potencial de revolucionar el sector de la salud, mejorando la calidad de la atención médica y optimizando la gestión de recursos en los servicios de salud", sostiene la argumentación.

No obstante, los diputados apuntan que "corremos el riesgo de dejarnos deslumbrar por posibles aplicaciones cuya eficacia o seguridad no esté demostrada, o cuyas implicaciones éticas no hayan sido tomadas en suficiente consideración". Por ese motivo señalan que la evidencia científica "es esencial" para determinar la utilidad real de las soluciones de IA en la atención médica y para asegurar que los pacientes se beneficien de estas tecnologías de manera segura y efectiva.

Además, Más Madrid hace hincapié en que más allá de la seguridad y privacidad en el uso de los datos médicos y clínicos de los pacientes "sabemos que la IA puede presentar todo tipo de sesgos presentes en los datos de entrenamiento que pueden resultar en respuestas inadecuadas". El grupo parlamentario pone de ejemplo "sesgos de anclaje" o "discriminaciones por edad, género, raza, lo que es más grave aún si cabe cuando estamos hablando del sector sanitario".

Marco regulatorio en colaboración con ecosistema y usuarios

La PNL menciona que "es necesario establecer un marco regulatorio que promueva la investigación independiente y la evaluación de las aplicaciones de IA en los servicios de salud", en colaboración con el Sistema Madrileño de Investigación e Innovación (Universidades, Centros de Investigación, empresas y auditores privados independientes).

Asimismo, Tejero y Carmona consideran "imprescindible" la participación de usuarios y profesionales sanitarios en el proceso de decisión de en qué áreas, para qué funciones y bajo qué supervisión va a introducirse el uso de inteligencia artificial, "de cara a que dicho uso facilite y mejore el trabajo clínico sin por ello distorsionar la dimensión humana del encuentro clínico, cuya importancia, efectividad y valor están respaldados por sólida evidencia".

Por todos estos motivos, la Proposición no de ley de Más Madrid califica de "crucial" que la implementación de técnicas de inteligencia artificial en el ámbito de la salud se realice de manera sistemática siguiendo protocolos estandarizados de evaluación basados en ensayos aleatorizados, lo que permitirá una introducción gradual y controlada de la IA en el sector de la salud, asegurando que los pacientes reciban atención de calidad respaldada por la evidencia científica. En ese sentido, la propuesta añade que se "asegure, ante lo incipiente del armazón jurídico en este campo, que prevalezcan el principio de prudencia y los códigos deontológicos de las respectivas profesiones sanitarias".