Conclusiones del Paquete de Trabajo sobre IA confiable por diseño (1)

Título:

Inteligencia Artificial confiable por diseño.

Socios:

IACS (líder), Universitat de València, Barcelona Supercomputing Center, Cruz Roja Española

Reto inicial:

Definición de un modelo de cumplimiento normativo y de una metodología para la evaluación ética de la tecnología desarrollada en el proyecto y su aplicación a los diferentes casos de uso que se incluyen en el proyecto.

Potenciales beneficiarios:

Casos de uso del proyecto.

Tecnologías empleadas:

Beneficios obtenidos o potenciales de la aplicación:

Aseguramiento de una IA confiable y segura desde el diseño y por defecto para cada uno de los casos de uso del proyecto.

Descripción del desarrollo:

Se trata de un paquete de trabajo transversal cuya principal función ha sido la de asesorar y acompañar al resto de los paquetes de trabajo (casos de uso) durante la vida del proyecto. Para ello, se han llevado a cabo una serie de acciones:

• Definición de un modelo de cumplimiento normativo (RGPD). Se ha realizado una revisión de legislación y de las herramientas de diseño y evaluación de sistemas de IA con objeto de asegurar que las actuaciones a realizar dentro del proyecto garantizan los derechos fundamentales de los pacientes y la autonomía e independencia del personal sanitario en el despliegue de la Inteligencia Artificial en el área de la salud. Como resultado, se han generado dos documentos: “Guía básica de cumplimiento normativo en protección de datos para el desarrollo y gestión del proyecto AI4HealthyAging” y “Guía básica de cumplimiento normativo en protección de datos y ética para el desarrollo y gestión del Proyecto AI4HealthAging”, donde se incluye la parte de legislación correspondiente a la Ética en Inteligencia Artificial.
• Definición de una metodología para la evaluación ética de la tecnología desarrollada en el proyecto y su aplicación a los diferentes casos de uso que se incluyen en el proyecto: Cardiopatías, Sarcopenia, Sueño, Parkinson, Salud Mental, Cáncer y Deterioro cognitivo por hipoacusia.
• Aseguramiento de la seguridad desde el diseño y por defecto para cada caso de uso. Asesoramiento ético continuo durante la vida del proyecto basado en las herramientas ya existentes. Evaluación y validación del cumplimiento de los requerimientos normativos aplicable a las características propias de cada caso de uso.
• Diseño y desarrollo de actividades formativas a la vista de las necesidades surgidas durante el acompañamiento. Se han realizado dos cursos, centrados en la confiabilidad del dato: “CONFIABILIDAD DEL DATO. PROTECCIÓN DE DATOS (RGPD)” en el que se ha dado a conocer los fundamentos jurídicos y necesidades de cumplimiento normativo más relevantes en torno a la protección de datos a todos los integrantes de los equipos de trabajo del proyecto y “CONFIABILIDAD EN EL DATO. IA ÉTICA” en el que se ha hecho una introducción a la IA Ética, su marco teórico y normativo y su marco práctico en el sector salud.
• Elaboración de acuerdos de compartición/transferencia de datos.