En anteriores entregas mencionamos lo importante de la incorporación de inteligencia artificial en salud. Hicimos referencias a algunas cuestiones que requieren especial atención como la autonomía humana y la reducción de sesgos negativos, a fin de evitar que el uso de tecnología de la información sea un factor que profundice la vulnerabilidad. 

La realidad es que cuantos más complejos son los problemas que se abordan con la inteligencia artificial, más complejos son los algoritmos de los desarrollos y, por ende, es más difícil su comprensión por quienes no son especialistas en la materia. ¿Es ético que se confíe a ciegas en el algoritmo? ¿Es la IA un insumo válido para decidir, si el profesional de la salud que lo utiliza no conoce su lógica? 

A nivel internacional ya hay ejemplos de normativa que puso foco en estas cuestiones y generan obligaciones concretas en este tipo de desarrollos. Normativa que seguramente seguirá inspirando regulación y reguladores a nivel mundial y que entendemos debe tenerse presente en el desarrollo de este tipo de productos. 

Es muy probable que, si en algún momento se genera un inconveniente en la aplicación de este tipo de desarrollos, el estándar de conducta, “diligencia media”, que exija, ya sea un regulador o un Juez, esté emparentado con esta normativa. 

La explicabilidad, transparencia, rendición de cuentas y evaluaciones de impacto, son cuestiones que se repiten en la regulación y que son como herramientas fundamentales para enfrentar los problemas que puede generar la aplicación de inteligencia artificial en salud. 

En este sentido, la Organización Mundial de la Salud propone la regulación y gobernanza de la inteligencia artificial en base a los siguientes principios fundamentales: 

  • Preservar la autonomía del ser humano: Básicamente propone que (i) Los humanos deben seguir siendo los dueños de las decisiones médicas. (ii) Se debe preservar la privacidad y confidencialidad de los pacientes. Ellos deben dar su consentimiento informado y válido por medios jurídicos adecuados para la protección de sus datos.
  • Promover el bienestar y la seguridad de las personas y el interés público: Los diseñadores de tecnologías IA deben cumplir los requisitos normativos en materia de seguridad precisión y eficacia para indicaciones o usos bien definidos.
  • Garantizar la transparencia, la claridad y la inteligibilidad:Se requiere que se documente información suficiente en torno al desarrollo de una tecnología de IA. La información debe ser de fácil acceso de forma de facilitar consultas y debates respecto a su concepción y uso.
  • Promover la responsabilidad y la rendición de cuentas.Las tecnologías deben ser utilizadas en condiciones apropiadas y por personas debidamente formadas. Se deberían instaurar mecanismos eficaces para que las personas que se vean perjudicadas por decisiones basadas en algoritmos tengan la posibilidad de cuestionarlas y obtener reparación.
  • Garantizar la inclusividad y la equidad:Debe alentar la utilización y el acceso equitativo en la mayor medida de lo posible, con independencia de la edad, el sexo, el género, el ingreso, la raza, el origen étnico, la orientación sexual, la capacidad u otras características amparadas por la normativa de derechos humanos.
  • Promover una IA con capacidad de respuesta y sostenible:Se deben evaluar de forma continua y transparente a fin de determinar si responde de manera adecuada y apropiada a las expectativas y las necesidades. Los sistemas de IA también se deberían concebir de modo que se reduzcan al mínimo sus efectos medioambientales y se aumente la eficiencia energética.  

También se expresa al respecto la Organización Panamericana de la Salud, cuando entiende que el desarrollo de inteligencia artificial en salud debe seguir determinados principios: 

  • Transparente: Deben usarse enfoques transparentes, que deben comunicarse al desarrollar algoritmos de IA.
  • Protección de datos: La privacidad, la confidencialidad y la seguridad en el uso de los datos deben ser fundamentales para toda IA que se desarrolle.
  • Integridad científica: Las intervenciones de IA deben ceñirse a prácticas científicas óptimas; deben ser confiables, reproducibles, justas y honestas y posibilitar la rendición de cuentas.
  • Abierta y compatible: Todo debe ser lo más abierto y compatible posible.
  • No discriminatoria: La justicia, la igualdad y la inclusión en el diseño.
  • Tecnología controlada por seres humanos: Es obligatorio que haya procesos formales de control por seres humanos de las decisiones automatizadas. 

A nivel europeo se elaboró un proyecto de reglamento europeo de inteligencia artificial que, por ejemplo: 

  • Regula la transferencia y comunicación de información a los usuarios: Los sistemas de IA se diseñarán y desarrollarán de tal modo que garantice que funcionan con un nivel de transparencia suficiente para que los usuarios interpreten y usen correctamente su información de salida.
  • Vigilancia humana: Se diseñarán y desarrollarán de modo que puedan ser vigilados de manera efectiva por personas físicas, lo que incluye dotarlos de una herramienta interfaz humano-máquina adecuada, entre otras.
  • Precisión, solidez y ciberseguridad.
  • Registro: Los desarrollos deberán contar con un sistema de registro de nivel adecuado que permita trazabilidad del funcionamiento del sistema. 

Los desarrollos de inteligencia artificial deben ser explicables. Deben poder ser entendidos por los operadores y pacientes. Deben conocer cómo funciona para entender cuál es alcance de sus resultados y cómo llega a ellos. Los riesgos potenciales deben evaluarse y gestionarse continuamente, mediante auditorías y rendición de cuentas. 

Si el profesional de la salud no tiene conocimiento de la lógica de la inteligencia artificial, no debería ser un insumo válido. No basta con aceptar la conclusión que produce de la IA. Es necesario entender d las bases de datos que nutren el algoritmo y su proceso. Esto nutrirá el juicio del decisor en forma adecuada y reducirá el riesgo de eventuales errores de la IA. Asimismo, aportará a la confianza del paciente en cuanto a cuáles fueron los insumos del diagnóstico médico, sus alcances y limitaciones.