La UE pacta la ley que clasifica la IA médica como sector de "alto riesgo"

La Unión Europea ha dado un paso de gigante y ha logrado un acuerdo para consolidar la tan esperada Ley europea de Inteligencia Artificial. Después de ver el enorme alcance de esta tecnología, Europa decide impulsar la primera norma a nivel mundial en relación a la IA para asegurar un buen uso entre todos los estados miembro. A partir de ahora, la Unión Europea tendrá potestad para prohibir los sistemas de IA considerados una clara amenaza para los derechos fundamentales de las personas. En este sentido, Europa ha catalogado a los dispositivos médicos con esta tecnología dentro de la sección de sistemas de IA de alto riesgo. 

Después de una larga negociación, los estados han defendido el principio en su uso especialmente en casos de seguridad nacional o para hacer frente en potenciales situaciones de terrorismo. Pese a ello, el Parlamento ha trasmitido su preocupación de que esta normativa llegase a vulnerar los derechos fundamentales de la ciudadanía europea.

Ursula von der Leyen, presidenta de la Comisión Europea, se ha mostrado satisfecha tras lograr el acuerdo alcanzado acerca de la Ley de Inteligencia Artificial (Ley de IA): “Si se utiliza de forma sensata y amplia, la IA promete enormes beneficios para nuestra economía y nuestra sociedad. Por lo tanto, acojo con gran satisfacción el acuerdo político alcanzado hoy por el Parlamento Europeo y el Consejo sobre la Ley de Inteligencia Artificial”.

Von der Leyen: "La IA promete enormes beneficios para la economía y la sociedad europea"

Europa ha catalogado los diferentes sistemas de IA según el riesgo que pueden generar. La gran mayoría de ellos se encuentra en el riesgo mínimo para los derechos o la seguridad de los ciudadanos. Unos ejemplos serían sistemas de recomendación habilitados por IA o los filtros de spam.

Inteligencia Artificial de alto riesgo e inaceptable

Por otra parte, los sistemas de IA que se identifiquen de alto riesgo deberán cumplir una serie de requisitos, como es el conjunto de datos de alta calidad, registro de actividad, documentación detallada, etc. Entre los sistemas que se incluirían en este apartado, la Unión Europea ha añadido dispositivos médicos; sistemas para determinar el acceso a las instituciones educativas o para la contratación de personas; o determinados sistemas utilizados en los ámbitos de la aplicación de la ley, el control de fronteras, la administración de justicia y los procesos democráticos.

Finalmente, todos aquellos sistemas de IA que lleguen a suponer un peligro para la ciudadanía serán catalogados como de riesgo inaceptable, por lo que serán prohibidos. Esto incluye sistemas o aplicaciones de IA que manipulan el comportamiento humano, como los juguetes que utilizan asistencia de voz que fomentan el comportamiento peligroso de los menores.

El próximo paso que debe realizar la Ley de Inteligencia Artificial es lograr que la mayoría del Parlamento Europeo y del Consejo la apruebe. Una vez se llegue a este punto, se convocará a desarrolladores de IA de Europa y a nivel mundial que se comprometan de forma voluntaria a cumplir las obligaciones clave de la Ley de IA antes de los plazos legales.