Aspectos éticos del uso de la IA en Salud y el papel de las organizaciones

Photo: Glenn Carstens

Las tecnologías de IA están liderando el camino en términos de revolucionar muchas industrias, incluida la industria de salud. Una gran cantidad de clínicas a escala mundial están comenzando a utilizar el poder del machine learning y la tecnología de IA de procesamiento de lenguaje natural. Sin embargo, con la implementación de la IA en el cuidado de la salud, se cuestionan los aspectos éticos de su uso. Por lo tanto, analizaremos estos aspectos éticos del uso de la IA en el mundo de la salud, así como su papel en las organizaciones.

Adoptar y usar la IA requiere una gestión cuidadosa y una implementación adecuada

Las tecnologías de IA pueden ser increíblemente útiles tanto para los centros de salud como para los pacientes. Sin embargo, actualmente hay muchos debates en curso sobre los posibles aspectos éticos de su uso con pacientes. La principal preocupación es cómo podemos equipar los sistemas de IA con una visión humana y ética, que podría tener ciertos puntos de vista morales. Los puntos de vista morales pueden cambiar dependiendo de varios factores, como lo es por ejemplo la cultura, y por lo tanto, muchos se preguntan si la IA puede llegar a comprender realmente las culturas y los idiomas humanos en su totalidad.

Aparte de estas grandes implicaciones morales, hay otra capa de consideración ética a la que los centros médicos deben prestar mucha atención. El sesgo, la discriminación y la violación de la privacidad a través de la IA son temas extremadamente importantes y realmente se conectan con otras preocupaciones éticas importantes sobre el uso de la IA. Los líderes de las organizaciones que usan sistemas de IA, incluidas las clínicas de salud, tienen como objetivo implementar la IA de tal manera que no cause ninguno de los problemas mencionados anteriormente. Sin embargo, detener el uso de IA no es una solución. Por el contrario, la IA aporta muchos beneficios a los sistemas de salud, como menores tiempos de espera, un manejo más fácil de las diferentes tareas relacionadas con la atención médica, una programación más rápida y eficiente, etc. Las clínicas de salud deben centrarse en proporcionar algunas pautas clave para la implementación de IA que ayudarán a los expertos a implementarla adecuadamente.

Adquisición apropiada de datos

Los datos o la recopilación de datos para ser más precisos es lo que alimenta cada sistema de IA. La IA puede aprender y crecer gracias a las técnicas de machine learning, pero necesita poder recopilar datos. Por supuesto, cuando se habla de atención médica, recopilar datos también significaría recopilar ciertos datos de la comunicación y la interacción con los pacientes. Sin embargo, algunos pacientes sienten que esto invade su privacidad y se preocupan no solo por posibles filtraciones de datos, sino también por la creación de una imagen incompleta de sus vidas con todos los datos y el contexto.

Por lo tanto, dado que la recopilación de datos es un problema ético potencial, los expertos que están detrás de los sistemas de inteligencia artificial para la atención médica deben estar atentos al preguntar a sus equipos de ciencia de datos de dónde provienen los conocimientos. Los equipos también deben poder predecir y crear un plan adecuado de recopilación de datos que no rompa la privacidad de los pacientes y solo sirva para beneficiar su viaje de atención médica. Este es, después de todo, el objetivo principal del uso de la IA en el cuidado de la salud.

Relevancia de los datos recopilados

Los grupos de pacientes que han sido analizados para cierta recopilación de datos necesitan saber que es relevante para su atención médica y su salud en general. Las clínicas deben proporcionar preguntas lo suficientemente detalladas para que los equipos científicos entiendan cómo tomaron muestras de datos para construir sus modelos. Esto se hace para evitar problemas como el prejuicio racial y de género, entre otros. Hay algunas preguntas clave que deben formularse y responderse para que la relevancia de los datos recopilados sea correcta y dentro de lo razonable. Estas preguntas son:

• ¿Los datos reflejan poblaciones reales?

• ¿Incluyeron datos relevantes para los grupos minoritarios?

• ¿Habrá problemas con los datos recopilados a través de las pruebas de rendimiento?

• ¿Falta algo en los datos recopilados?

Es necesario garantizar la equidad de los resultados de la inteligencia artificial. Los algoritmos de machine learning recopilan datos a través de diversos medios y detectaron patrones, y formulan predicciones y recomendaciones, en función de los datos y la experiencia. Los sesgos y juicios humanos históricos pueden afectar las predicciones en un amplio espectro. Se necesita un monitoreo constante de los datos para evitar esto. Un equipo dedicado de expertos humanos debe estar en contacto constante con su sistema de inteligencia artificial y analizar los datos constantemente.

El monitoreo constante de los equipos de ciencia de datos requiere acciones como la elección de datos, la elección de "características" de los datos sin procesar, el desarrollo, la evaluación y el monitoreo de modelos.

Cumplimiento normativo y compromiso

Las organizaciones cuyas actividades no estaban reguladas en el pasado tenían estándares menos estrictos para la protección de la privacidad de los datos. Sin embargo, con muchas reglas y regulaciones nuevas, la forma en que cada organización recopila datos siempre se supervisa para detectar posibles abusos, fugas de datos, problemas de privacidad, etc. Cuando se trata de eso, los centros de salud, los líderes de las organizaciones y los expertos humanos detrás de los sistemas de IA deben asegurarse de que sus equipos de ciencia de datos, legales y de cumplimiento trabajen juntos para definir criterios claros para la recopilación de datos y la implementación de IA en clínicas. Esto es extremadamente importante y sin este paso, la implementación adecuada de la IA no es posible y los pacientes definitivamente dudarían más en entablar una conversación con la IA.

Explicabilidad del modelo

Finalmente, el último paso para garantizar que la IA se implemente correctamente y sin problemas éticos es asegurarse de que tanto las clínicas como los pacientes conozcan los conceptos básicos de cómo funciona un modelo de IA en particular. Por supuesto, los pacientes realmente no necesitan saber exactamente todos los aspectos de cómo una IA predice ciertas cosas porque esto es irrelevante para su atención médica. Para dar un ejemplo, una aplicación médica de un sistema de IA que no necesita explicarse a los pacientes es cómo la IA clasifica las imágenes para predecir de manera adecuada, consistente y precisa qué tipos de imperfecciones de la piel tienen un alto riesgo de preocupación y cuáles no. La IA puede usar el tono, la forma, la proximidad a otra imperfección de la piel de la mancha, etc., pero es poco probable que el paciente se preocupe por cómo la IA recopila esto.

La principal preocupación de un paciente sería si la recomendación hecha por la IA es correcta o no. Ser capaz de explicar algunos resultados y cómo la IA modela y predice ciertas cosas a las clínicas, pero también a los pacientes, es una tarea importante que cada equipo de expertos que implementa sistemas de IA debe comprender y manejar adecuadamente.