Científico del MIT expuso en Chile controversia sobre “sesgos de los datos”
Estudios evidencian brechas de desigualdad en plataformas sanitarias de inteligencia artificial
- El Dr. Leo Celi, director del MIT Critical Data, fue uno de los principales conferencistas de la Make Health Latam Chile 2023, un evento que convocó a más de 400 especialistas en salud digital, y que fue organizado por CENS, la alianza local de HL7 y la red de universidades estatales RDSUE.
- Según el investigador, si bien 2022 fue el año en que la tecnología pilar de la revolución 4.0 parece haber comenzado a cumplir sus promesas, sus desconocidos impactos negativos advierten la necesidad de seguir trabajando en fortalecer los modelos predictivos.
- Recientes estudios publicados en revistas científicas dan cuenta de que las poblaciones minoritarias están pobremente representadas y que los nuevos dispositivos tecnológicos sanitarios están diseñados en torno a una demografía exclusiva: blanca y de países ricos.
Nuestro entendimiento de la salud y las enfermedades está basado en estudios que tienen un sesgo de datos, advirtió el científico del Instituto Tecnológico de Massachusetts, MIT, Leo Anthony Celi, principal conferencista de la Semana de la Salud Digital realizada por segunda vez en Chile.
El académico del MIT, quien lidera uno de los mayores consorcios de Estados Unidos para el análisis y el procesamiento de datos con fines de investigación, el MIT Critical Data, expuso acerca de la necesidad de fortalecer la representatividad de éstos para el desarrollo de plataformas, y que estas puedan tener una aplicación útil en contextos reales.
Celi recalcó que, si bien 2022 fue el año en que la inteligencia artificial “parece haber comenzado a cumplir sus promesas”, no son pocos los casos donde las nuevas tecnologías evidencian sesgos que incrementan la desigualdad de las poblaciones y ocasionan consecuencias no deseadas a los usuarios.
El investigador del MIT recordó casos en los que los algoritmos de IA han “afectado la vida de las personas”.
Entre ellos, el uso de herramientas predictivas en el sistema judicial de Estados Unidos –que afectaban en mayor medida a poblaciones latinas y afroamericanas–, el proyecto HireVue para selección de personal, las soluciones para predecir el éxito de estudiantes o las tecnologías para calcular el riesgo de abuso infantil que fallaban en el caso de familias de menores ingresos.
“Son cosas sobre las que no escuchamos a menudo, pues todo el tiempo leemos noticias sobre ideas como ChatGPT cuando se habla sobre inteligencia artificial”, dijo el investigador. “El 2022 ha sido el año donde la IA comenzó a vivir el ‘hype de su hype’ o el año en que comenzó cumplir su promesa. En el caso de la salud, uno de los titulares que más leemos es que los algoritmos pueden ser más precisos que los médicos en el diagnóstico”.
En Chile, el acceso a una mejor calidad de datos fue uno de los principales temas de discusión del evento Make Health Latam, organizado por el Centro Nacional en Sistemas de Información en Salud CENS en colaboración con el Capítulo Chileno de HL7 y la Red de Salud Digital de Universidades del Estado (RDSUE) y que se realizó con una convocatoria de más de 400 especialistas del sector en Valparaíso.
El MIT Critical Data es un grupo integrado por un grupo de científicos de datos y médicos provenientes de distintos países del mundo reunidos por la visión común de generar un sistema de salud basado en datos apoyado por la informática en salud sin fronteras, impulsando proyectos con foco en países de ingreso medio y bajo.
Chile y la transformación digital en salud
La iniciativa, enmarcada en la denominada Semana de la Salud Digital, contó con la presencia de expertos nacionales e internacionales, que se dieron cita en la ciudad puerto para participar de actividades como conferencias, mesas de trabajo, talleres y paneles de discusión.
Uno de sus principales propósitos ha sido el de fomentar alianzas y generar esfuerzos colaborativos para la transformación digital del sector.
El encuentro tuvo la participación de tres organismos públicos: el Ministerio de Ciencias, la Corfo y la Agencia Nacional de Investigación y Desarrollo (ANID), y consideró como actividades finales la presentación de resultados de la Red de Salud Digital de las Universidades del Estado RSDUE y la cuenta pública de CENS (organismo hoy dependiente de ANID, pero nacido al alero de la Corfo en 2017 para impulsar la transformación digital de la salud chilena)
“El ecosistema en salud digital necesita para realizar los impactos que prometen las nuevas tecnologías habilitantes que son de base, como el acceso a datos de calidad, la formación de capital humano avanzado y la interoperabilidad de los sistemas. No lograremos avanzar en la velocidad adecuada en la medida que no tengamos una sólida integración público-privada, de la academia y de la innovación”, dijo la directora ejecutiva de CENS, la Dra. May Chomali.
En cinco jornadas, realizadas en la Facultad de Derecho de la Universidad de Valparaíso, startups y especialistas técnicos de la academia, el sector privado y organismos públicos reflexionaron y exploraron acerca de potenciales soluciones a problemas de salud de alto impacto, como el cáncer, la salud mental y enfermedades no transmisibles, utilizando para ello datos de acceso público.
“Lo que hemos demostrado en este encuentro es que generar esa vinculación entre los múltiples actores que jugarán un rol importante en la evolución tecnológica del sistema sanitario en Chile sí es una meta posible. Nos vamos con una enorme cantidad de desafíos para el futuro de la salud chilena y de la urgente transformación digital para este sector fundamental para la vida de los chilenos y chilenas”, subrayó la Dra. Chomali.
Para Steffen Härtel, académico de la Universidad de Chile, CENS, coordinador de la RDSUE y organizador fundador de MakeHealth Latam y el evento en Valparaíso, el ecosistema debe “diversificarse y crear más fuerzas y competencias para afrontar los desafíos de lo que estamos formentando”, en el proceso de comprender los resultados de las investigaciones basados en datos y las distintas fases de exploración de un proyecto tecnológico en ciencias de información.
“Nos damos cuenta que el mundo es más complejo y versátil de lo que pensamos al principio”, señaló el investigador, quien lideró recientemente un proyecto que diseñó una plataforma de inteligencia artificial en radiología con datos de pacientes chilenos, y que fue financiado por los fondos covid-19 de la ANID.
“Tener una buena selección de los datos iniciales que respeten la complejidad de la temática es fundamental. Ocurren errores al principio, pero al entrar a ciclos de mejora continua los datos comienzan a representar lo que está pasando en la realidad. De esta forma la inteligencia artificial puede hacer su trabajo y ayudarnos con los mejores consejos emanados de los datos”, dijo el académico de la Universidad de Chile.
Los encuentros Make Health Latam nacieron en Chile al alero de CENS y MITen 2019, ya han tenido dos versiones en Colombia y se extenderán en los próximos meses a otros países de América Latina,en : Argentina, México y Brasil.
Sesgos de datos en salud
¿Es posible que la salud sea diferente de otros campos donde las brechas en la calidad de datos utilizados para entrenar los algoritmos de inteligencia artificial están causando serios problemas? Para Celi, la respuesta es un rotundo “no”.
“La IA en salud no es iferente y una prueba de esto es que varios publicaciones demuestran que no existe evidencia que las herramientas para detectar covid-19 tuvieran uso clínico”.
El investigador del MIT recalcó que su conferencia no apunta a sembrar dudas sobre la utilidad de las nuevas tecnologías de la industria 4.0, sino exponer las actuales falencias en el desarrollo y diseño de las mismas, y así avanzar a su resolución.
El punto clave del problema, a su juicio, radica en la reproducibilidad de los datos utilizados para crear plataformas de inteligencia artificial.
“Hace años que esperamos resolver el problema de los sesos, pero no lo hemos hecho. Lo que hemos aprendido en los últimos años es que incluso si tienes representación de todas las poblaciones en su base de datos, no es una garantía de que el algoritmo vaya a ser justo (…) Estamos redescubriendo que hay mucha subjetividad en la forma en que tomamos decisiones”.
El estado del arte en la disciplina, específicamente en el caso de la salud, muestra que la validación de algoritmos no siempre se realiza con información robusta. En el último año, un informe de investigadores de Princeton advirtió acerca de una crisis de reproducibilidad de los datos en inteligencia artificial.
“Una de las principales noticias en los últimos dos años es que el un montón de tecnología está demostrando no estar bien diseñada para todas las poblaciones. Hay publicaciones que muestran que incluso ciertos dispositivos ocasionaran la muerte de personas debido a la falsa seguridad de que estaban oxigenando bien, cuando en realidad estaban en déficit de oxígeno en su torrente sanguíneo”, resumió el director del MIT Critical Data.
Celi señaló que existen más de 400 publicaciones en revistas científicas de alto impacto que no describen su metodología ni suficientes detalles respecto al uso de algoritmos que respalden la validez de las conclusiones. Estos errores, añadió, son “inaceptables si consideramos que se despliegan en más de 70 campos científicos”.
“Hay cada vez más reportes en el área médica que demuestran que nuestro entendimiento de la salud y enfermedades están probablemente contaminados con sesgos. La observación primaria de población blanca en países ricos, con lo cual nuestra comprensión sobre diabetes quizás es muy incompleta, debido a que la enfermedad es muy distinta dependiendo de si el paciente es de un país rico o pobre”.
La promesa de la tecnología
En su visita a Valparaíso, el Dr. Celi compartió el reciente libro del consorcio: Análisis Secundario de Historias Clínicas Electrónicas. De acuerdo a la publicación, se espera que nueve de cada diez centros de salud funcionen con historiales clínicos digitalizados.
Los investigadores participantes señalaron que “ha llegado el momento de aprovechar los datos que generamos durante la atención de los pacientes para formular un compendio más completo de recomendaciones basadas en evidencias y para apoyar a la toma de decisiones”.
Juan Sebastián Osorio, investigador colombiano integrante del MIT Critical Data, señaló que el esfuerzo del grupo de investigación con sede en Estados Unidos no es “decir que la inteligencia artificial o la tecnología en salud va a fallar, sino mostrar la evidencia que estamos encontrando en los estudios e incentivar que comencemos a tener esta discusión”.
“Tenemos que ser muy responsables en cómo la desarrollamos y la implementamos”, afirmó el investigador colombiano, quien cree que el “sesgo “ en los datos para el desarrollo de tecnología en salud podría ser un problema en la adopción de soluciones innovadoras en América Latina.
“Hace años que venimos hablando de las consecuencias no esperadas de la tecnología. Ahora lo vemos en la inteligencia artificial, con temas de equidad por el sesgo de los datos por no haber analizado ciertas poblaciones. En Estados Unidos puede ser la población afroamericana, pero en América Latina grupos que no tienen acceso al sistema y por tanto no tenemos datos de ellos: personas de lugares remotos o que por su condición económica no tienen acceso a salud”, señaló Osorio.
César Galindo, académico de CENS y la Universidad de Valparaíso, director de HL7 Chile, expuso que el “sesgo” en la captura, análisis y procesamiento de los datos puede generar un efecto no deseado en la tecnología: aumentar la desigualdad en el acceso a servicios que utilicen estas plataformas. Sin embargo, el país está aún a tiempo para establecer protocolos que permitan fortalecer la calidad del dato.
“Es también un tema cultural: la calidad del dato en lugares rezagados es mucho más deficiente en población de alto nivel. También porque al paciente ser un cliente, el sistema es mucho más exigente en sus derechos. El sesgo en Chile existe y debemos trabajarlo. Tenemos zonas aisladas, de difícil acceso y necesitamos trabajar en ellos” (Por: Luis Francisco Sandoval. Agencia Inés Llambías Comunicaciones).
