Autoevaluación del cumplimiento ético de sistemas de IA en Salud

Antes de iniciar el cuestionario, le recomendamos que lea nuestra propuesta de principios éticos y los consejos de cómo utilizar la herramienta para que la lectura y las respuestas al cuestionario sean coherentes y de fácil comprensión.

PRINCIPIOS ÉTICOS

Propuesta de principios éticos

Implica la divulgación clara de cómo se utilizan los datos, interactúan las personas con la IA y se toman las decisiones automatizadas con el objetivo de fomentar la confianza, reducir riesgos y garantizar que los sistemas de IA sean comprensibles, auditables y comunicados de manera accesible.

Las dimensiones de la transparencia:

  • Explicabilidad: Los sistemas deben justificar de manera clara y comprensible sus decisiones.
  • Trazabilidad: Debe ser posible rastrear y documentar el proceso detrás de cada decisión.

Garantiza que los sistemas de IA sean justos, inclusivos y libres de sesgos, promoviendo la no discriminación y asegurando un acceso equitativo a diagnósticos y tratamientos mediante algoritmos y bases de datos imparciales.

Las dimensiones de la justicia e imparcialidad:

  • Equidad: Prevenir la discriminación, asegurando un trato justo para todos los grupos.
  • Inclusividad: Involucrar a todas las partes interesadas en el diseño y desarrollo de los sistemas.
  • Accesibilidad: Garantizar que las tecnologías sean utilizables y asequibles para todos.

Prioriza la seguridad y confiabilidad de los sistemas de IA, asegurando que no comprometan la integridad física o mental de las personas.

Las dimensiones de la no maleficencia:

  • Seguridad: Implementar medidas para minimizar riesgos y proteger contra amenazas.
  • Fiabilidad: Garantizar resultados precisos y confiables, especialmente en el ámbito del diagnóstico médico.

Requiere que desarrolladores, proveedores y usuarios actúen con integridad, asuman responsabilidades y garanticen sistemas de IA seguros y éticos, implementando mecanismos para identificar, evaluar y corregir errores.

Las dimensiones de la responsabilidad:

  • Supervisión humana: Garantizar que las decisiones finales tomadas por los sistemas de IA sean validadas por personas.
  • Rendición de cuentas: Definir responsabilidades en caso de fallos y establecer estrategias para su prevención.

Garantiza la protección de los datos personales de los pacientes, respetando su derecho a la intimidad y promoviendo un tratamiento seguro y ético de la información.

Las dimensiones de la privacidad:

  • Protección de datos: Realizar un uso ético de la información, aplicando principios como la anonimizació y el consentimiento informado.
  • Seguridad de los datos: Implementar medidas técnicas y organizativas como cifrado y control de accesos.

AUTOEVALUACIÓN

¿Cómo realizar la autoevaluación?

1. Transparencia

Explicabilidad
Trazabilidad
Claridad

2. Justicia e imparcialidad

Inclusividad
Equidad
Accesibilidad

3. No-maleficencia

Seguridad
Fiabilidad
Contingencias

4. Responsabilidad

Supervisión
Asignación
Auditoría

5. Privacidad y seguridad

Conformidad
Protección
Autogestión

1

Pase el cursor sobre los principios éticos y responda a las preguntas que se mostrarán.

2

Cada pregunta tiene tres posibles respuestas. Elija la opción que considere más ajustada a su realidad.

3

En función del nivel de adecuación de cada respuesta, se asignará la puntuación y el gradiente de color correspondientes.

Leyenda de posibles respuestas

  • Respuesta óptima: indica que el desarrollo presenta un nivel de cumplimiento ético sólido.

  • Respuesta mejorable: indica que el desarrollo tiene un nivel de cumplimiento ético parcial y deben considerarse ajustes.

  • Respuesta insuficiente: indica que el desarrollo requiere atención urgente en términos éticos y debe revisarse.

Nota

Una vez cumplimentado el cuestionario, se mostrará el porcentaje obtenido. Si este es inferior al 80%, es recomendable adaptar el algoritmo a la normativa vigente y repetir el cuestionario.

Un porcentaje superior al 80% es positivo, pero siempre es recomendable adaptar el algoritmo para que sea ético y seguro. Se recomiendan revisiones posteriores a la implementación; la frecuencia dependerá del nivel de riesgo del caso de uso del sistema de IA.

AUTOEVALUACIÓN

Autoevaluación Ética de IA en salud

1. Transparencia

2. Justicia e imparcialidad

3. No-maleficencia

4. Responsabilidad

5. Privacidad y seguridad

1. Transparencia

Explicabilidad

¿El sistema de IA proporciona explicaciones comprensibles y de manera adecuada para usuarios médicos y pacientes sobre su proceso de decisión, sus limitaciones y la incertidumbre en sus recomendaciones?

1. Transparencia

Trazabilidad

¿Se documentan y registran todas las etapas de desarrollo, actualizaciones y decisiones clave del sistema de IA, permitiendo su auditoría y revisión por expertos clínicos y técnicos?

1. Transparencia

Claridad

¿El sistema de IA comunica claramente a usuarios médicos y a los pacientes la finalidad del uso de los datos y el objetivo de la aplicación del algoritmo de IA en el contexto clínico?

2. Justicia e imparcialidad

Inclusividad

¿El algoritmo del sistema de IA ha sido evaluado para identificar y mitigar posibles sesgos que puedan afectar negativamente a ciertos grupos demográficos?

2. Justicia e imparcialidad

Equidad

¿El algoritmo del sistema de IA ha sido diseñado teniendo en cuenta las necesidades culturales, sociales y clínicas de los pacientes de distintas culturas y condiciones, y se han consultado a representantes de estos grupos?

2. Justicia e imparcialidad

Accesibilidad

¿El sistema de IA en salud está diseñado para ser accesible a usuarios con discapacidades físicas o cognitivas y en diferentes contextos socioeconómicos?

3. No-maleficencia

Seguridad

¿Se han implementado medidas de seguridad que prevengan amenazas y malfuncionamientos del sistema de IA?

3. No-maleficencia

Fiabilidad

¿Es el sistema de IA confiable y preciso en sus resultados, incluso ante variaciones en los datos de entrada, característicos de casos clínicos diversos?

3. No-maleficencia

Contingencias

¿El diseño del sistema de IA incluye planes de contingencia y procedimientos de respuesta rápida en caso de errores o fallos críticos?

4. Responsabilidad

Supervisión

¿El sistema de IA permite la supervisión humana en etapas críticas que puedan afectar al a seguridad del paciente?

4. Responsabilidad

Asignación

¿Están claramente definidas, documentadas y comunicadas las responsabilidades en caso de errores del sistema?

4. Responsabilidad

Auditoría

¿Se realiza una revisión exhaustiva y documentada de las fallas y se asignan responsabilidades de forma específica cuando se producen fallos para la mejora continua del sistema?

5. Privacidad y seguridad

Conformidad

¿El sistema de IA gestiona los datos personales de acuerdo con las normativas de privacidad y protección de datos y el cumplimiento se verifica regularmente?

5. Privacidad y seguridad

Protección

¿Se utilizan técnicas de cifrado, anonimización u otras medidas robustas para proteger los datos personales contra accesos no autorizados?

5. Privacidad y seguridad

Autogestión

¿Los usuarios tienen control sobre qué información comparten, son informados de manera clara sobre su uso y pueden ejercer sus derechos de acceso, rectificación y eliminación?

Gráfico de resultados

Respuestas óptimas

8

Respuestas mejorables

3

Respuestas insuficientes

4

Resultado total

85%

Comprobar respuesta
Ver resultado

Resultado total de la autoevaluación

0%
Generando PDF...

CONSEJOS

¿Cómo utilizar el cuestionario?

Antes de iniciar el cuestionario, le recomendamos que lea nuestra propuesta de principios éticos para que la lectura y las respuestas al cuestionario sean coherentes y de fácil comprensión.

1

Comience leyendo el cuestionario de autoevaluación para tener una idea de su alcance.

2

Dado que no existe un enfoque único aplicable a todos los contextos, las recomendaciones derivadas del cuestionario deben ajustarse para cumplir con las normativas y responsabilidades legales específicas de su región.

3

Se debe buscar la colaboración entre departamentos al completar el cuestionario para capturar aportes de toda la organización.

4

Decida quién necesita conocer el resultado del cuestionario y cómo se comunicará según el modelo de gobernanza establecido.

5

Complete, revise y actualice el cuestionario periódicamente. Debe utilizarse en tres etapas del ciclo de vida del sistema de IA como mínimo: durante el diseño, el desarrollo y la implementación.

Contacto

Contacte con nosotros

Si tiene alguna consulta sobre nuestros servicios no dude en escribirnos al siguiente correo electrónico.