La necesidad de un debate sobre los aspectos éticos ligados a la inteligencia artificial se vuelve cada vez más imperante: es lo que garantiza que podamos evitar esos “futuros distópicos” sobre los que advierte la ciencia ficción. Esta consideración se vuelve aún más especial cuando la IA se aplica al sector de salud.
Sobre este tema expuso Sandra Pitta, investigadora del Conicet, durante el evento ChatGPT: escenarios posibles como herramienta de innovación en los negocios, en el que compartió panel con Juan V. Echagüe, director de investigación y desarrollo en Practia.
Partiendo de la disyuntiva “¿El futuro es maravilloso o aterrador?” y centrándose en el universo healtchare, Pitta destacó que hay poca probabilidad de que los pacientes acepten relaciones médicas humano-máquina, ya que los robots no propician los ambientes empáticos y compasivos que hacen al proceso de curación.
Una correcta gobernanza
Aún así, la IA avanza sobre esta industria, lo que motiva la necesidad de establecer ciertos tipos de gobernanza para que las interacciones con los algoritmos se produzcan en un entorno regulado.
Entre otras cosas, es importante establecer un enfoque holístico que incluya abogados, especialistas en ética, médicos, farmacéuticos, matemáticos, científicos e incluso pacientes reals, para entender la verdadera dimensión del desafío y generar respuestas acordes.
Es fundamental que la incorporación de IA respete, ante todo, los derechos fundamentales de los pacientes: que conozca todo el proceso involucrado en su tratamiento, la privacidad de los datos y el control de acceso, el cuidado de su información genética, que tenga la posibilidad de rechazar un tratamiento y conocer al responsable humano en caso de que un dispositivo médico basado en IA falle.
Control de expectativas
Pitta destaca también la importancia de ser honestos con pacientes y familias respecto de lo que pueden esperar de estas tecnologías: un seteo adecuado de expectativas.
Mientras tanto, debe avanzarse en los principales desafíos que impone esta nueva realidad: garantizar que los robots con información médica sean ciberseguros, evitar la confianza extrema en sistemas de diseño de fármacos para que no surjan moléculas tóxicas por diseño o definir nuevos límites jurídicos. También si la IA terminará reemplazando el diagnóstico médico y si los pacientes están dispuestos a confiar en los diagnósticos de las máquinas.
“¿Cómo se puede responsabilizar a una máquina autónoma por sus decisiones con respecto a la ética normativa, la ética aplicada y la metaética? ¿Cómo podemos enseñar a la máquina a excluir o rechazar soluciones inhumanas para combatir una enfermedad?”, se pregunta la experta.
Las oportunidades son enormes, desde el desarrollo de estrategias de medicina preventiva hasta un diseño más efectivo de medicamentos, pero los desafíos están a la altura: como sociedad, debemos ser muy inteligentes para incorporar la IA en la salud y hacerla jugar en beneficio de la humanidad.
¿Cómo ves este debate acerca de los aspectos éticos ligados a la inteligencia artificial? Contáctanos haciendo click aquí y conoce más sobre nosotros en nuestras redes LinkedIn y Twitter.