NSF y Amazon otorgan 1 millón de dólares por la integridad de la IA en el cuidado de la salud

La Universidad de Duke y la Universidad de Connecticut son dos de los 13 beneficiarios que reciben fondos a través de la tercera ronda de financiación del programa Equidad en la IA de la Fundación Nacional de Ciencias de EE. UU. y Amazon.

POR QUÉ ES IMPORTANTE

Las propuestas aceptadas establecen objetivos para mejorar el acceso a los pacientes desatendidos y para mejorar la atención al paciente en entornos hospitalarios de alto riesgo.

Para esta tercera ronda de financiación de Equidad en IA que asciende a $9,5 millones en premios, los investigadores se les pidió que enviaran propuestas antes del 3 de agosto de 2021.

Se les pidió a los solicitantes que se centraran en lo que podría esperar: teoría y algoritmos, principios de interacción humana con IA, etc., junto con aplicaciones para decisiones de contratación, educación, justicia penal y servicios humanos, con el objetivo de construir una sociedad más equitativa.

Investigación dirigida por la Universidad de Duke, Un marco de IA interpretable para el Cuidado de Pacientes Críticamente Enfermos que Involucran Árboles de Decisión y Coincidencia , recibió $625,000. La investigación introducirá un marco para usar técnicas de casi coincidencia exacta (AME) en el aprendizaje automático y el diseño de políticas interpretables a través de árboles de decisión «dispersos» para médicos y otros.

Según el anuncio de financiación, el marco surgió de un desafío sobre cómo tratar a los pacientes en estado crítico en el hospital que están en riesgo de convulsiones subclínicas. El proyecto tiene como objetivo abordar la publicación del código AME en varios formatos en diferentes niveles de experiencia.

Investigadores de la Universidad de Connecticut utilizarán un premio de $392,994 para una gran Estudio computacional a escala de información de salud sesgada que se enfoca en la reducción de sesgos en el dominio de la salud.

Los objetivos de la Reducción del sesgo en el estudio de información médica incluye informar la política pública y mejorar el bienestar de los pacientes históricamente desatendidos. BRIMI trabajará para desarrollar nuevos enfoques de IA tanto para establecer empíricamente las inequidades en la información de salud como para crear pautas de clasificación para que los funcionarios y profesionales de la salud pública las reduzcan.

El programa conjunto financiado por la NSF y Amazon se lanzó en 2019 para promover la equidad en la inteligencia artificial y el aprendizaje automático en torno a atributos sensibles protegidos legalmente. Amazon proporciona fondos para los premios, pero no participa en el proceso de selección de subvenciones, según el anuncio.

LA TENDENCIA MÁS GRANDE

En el anuncio inaugural de la subvención Fairness in AI, NSF dijo que trabaja en estrecha colaboración con los beneficiarios de subvenciones de investigación académica para abordar cuestiones de equidad, transparencia y responsabilidad, y desarrollar sistemas de IA libres de sesgos.

Proyecto de UConn El premio « incluye importantes esfuerzos de divulgación, que involucrarán a las comunidades minoritarias directamente en nuestro proceso científico; la amplia participación de las partes interesadas garantizará que el enfoque de investigación para los grupos estudiados sea respetuoso, ético y centrado en el paciente», según el anuncio de financiación.

En el pasado, se pensó que al agregar más Las restricciones de equidad al aprendizaje automático reducen la precisión de los datos. Sin embargo, con el modelado continuo de IA, algunas investigaciones muestran que podemos minimizar o evitar la compensación entre equidad y eficacia .

Es posible construir sistemas que sean justos y equitativos sin sacrificar la precisión, dicen los investigadores de Carnegie Mellon que descubrieron que por al definir objetivos de equidad por adelantado en el proceso de aprendizaje automático y luego tomar decisiones de diseño para lograr ese objetivo, podrían abordar los resultados sesgados y mantener la precisión de los datos.

En entornos de atención médica, los datos aparentemente inocuos pueden reproducir sesgos en la IA, Chris Hemphill, vicepresidente de IA aplicada y crecimiento en SymphonyRM, dijo Healthcare IT News el año pasado.

Por ejemplo, es posible que las mediciones clínicas no tengan en cuenta los obstáculos, como las barreras económicas o los prejuicios raciales, que impiden que los pacientes busquen atención. Pero si bien descubrir los matices con el aprendizaje automático y las discusiones de los usuarios requiere trabajo y esfuerzo adicionales, dijeron que vale la pena investigarlo.

«El modelado no significa nada si no tienes la experiencia del usuario, las discusiones de los usuarios, la capacitación sobre cómo y por qué las personas deberían usarlo», explicaron.

EN EL REGISTRO

«Estos premios son parte del compromiso de la NSF de buscar descubrimientos científicos que nos permitan alcanzar el espectro completo del potencial de la inteligencia artificial. al mismo tiempo, abordamos preguntas críticas sobre sus usos e impactos», dijo Wendy Nilsen, subdirectora de división de la División de Sistemas Inteligentes e Información de NSF, en un comunicado.

Andrea Fox es editora sénior de Healthcare IT News.
Correo electrónico: afox@himss.org
Noticias de TI para el cuidado de la salud es una publicación HIMSS.

Lee mas

Deja un comentario

Tu dirección de correo electrónico no será publicada.