Una agencia de financiación dice que su uso de IA para examinar cientos de solicitudes de subvenciones hace que el proceso sea más eficiente.Crédito: Tashatuvango/Istock a través de Getty
Puede llevar semanas escribir una propuesta de subvención, entonces, ¿cómo se sentiría que una máquina la rechazaría en segundos? Los investigadores en España han estado descubriendo, después de una importante fundación de financiación en el país recurrió a la inteligencia artificial (IA) para obtener ayuda con la revisión de las propuestas de subvenciones.
«Estamos utilizando un modelo compuesto por tres algoritmos de IA para evaluar las propuestas que tienen bajas posibilidades de ser seleccionados finalmente en nuestra llamada de investigación de salud específica», dice Inés Bouzón-Arnáiz, quien trabaja en investigación y becas en la Fundación sin fines de lucro La Caixa en Barcelona, España.
La Fundación, que distribuye 145 millones de euros (US $ 170 millones) en fondos de investigación anualmente, utiliza la herramienta AI para examinar cientos de aplicaciones a su programa anual de financiación biomédica insignia, que ofrece subvenciones de tres años de hasta € 1 millón. Al capacitar al modelo en aplicaciones exitosas de años anteriores, La Caixa dice que puede encontrar y avanzar en propuestas que tienen la mejor oportunidad de éxito de manera más eficiente.
El esquema de revisión asistido por AI se ha ejecutado durante tres años. En la ronda de financiación de este año, los algoritmos destacaron 122 aplicaciones de un total de 714 como teniendo una baja probabilidad de éxito. Esta decisión fue verificada por dos revisores humanos, que rescataron 46 aplicaciones inicialmente marcadas para el rechazo del sistema de IA. Los 76 restantes fueron rechazados. De las 638 propuestas enviadas a especialistas para revisión por pares, solo 34 fueron financiadas.
Pros y contras
El cambio de la Fundación hacia el uso de algoritmos de IA es el último intento de los financiadores de abordar un carga cada vez mayor colocada en revisores de pares.
«Es difícil encontrar buenos revisores, y si tienen una gran carga de trabajo, no lo harán», dice Bouzón-Arnáiz. «Estamos quitando propuestas que no tienen posibilidades de ser finalmente seleccionados». La medida fue en parte impulsada por los revisores que dijeron que a menudo se les envió propuestas inmaduras e inmaduras para evaluar, agrega.
Los investigadores que usan IA para analizar la revisión por pares
Aunque el uso de algoritmos en el proceso de revisión por pares se ha filtrado en la publicación académica, La Caixa cree que es el primer financiador en incorporar algoritmos de IA en su proceso de toma de decisiones de esta manera. De hecho, muchas organizaciones de entrega de subvenciones evitan explícitamente que los solicitantes y los revisores usen la tecnología. La investigación e innovación del Reino Unido, el financiador nacional de investigación del Reino Unido, dice que los revisores que rompen esa regla podrían enfrentar podría enfrentar una prohibición de por vida.
Sin embargo, es un problema en vivo y en evolución, con nuevas posibilidades que emergen todo el tiempo. A principios de este año, la Federación de Científicos Americanos, una organización sin fines de lucro en Washington DC, instó a la Oficina de Política de Ciencia y Tecnología de los Estados Unidos a Subvenciones de subvención al análisis de IA. La organización dijo que esto ayudaría a «predecir el futuro de la ciencia, mejorar la revisión por pares y fomentar mejores decisiones de inversión de investigación del sector público y privado». Y los financiadores de investigadores en Imperial College London están utilizando un sistema de IA para escanear los resúmenes de estudio para identificar proyectos del Reino Unido que Quieren apoyar.
Bouzón-Arnáiz dice que es más fácil para los financiadores privados como la Fundación La Caixa experimentar con herramientas de IA y otros sistemas alternativos de revisión por pares porque no están utilizando dinero público. Aún así, otros cuerpos de entrega de subvenciones contactados por Naturaleza tuvo reacciones mixtas al uso de algoritmos de La Caixa.
«Estamos muy preocupados por el posible desglose en la confianza entre los investigadores y los financiadores si la IA se convirtiera en una parte integral del proceso de evaluación», dice Anders Smith, quien dirige el programa de ciencias técnicas y naturales en The Villum Fonden, una base filantrópica en Søborg, Dinamarca. «El escenario de pesadilla es aplicaciones creadas por AI y posteriormente evaluada por AI». Esto podría crear un proceso que perpetúa los sesgos de capacitación de un sistema de IA sin ideas realmente nuevas creadas, dice.
Por el contrario, la Fundación Volkswagen, un financiador privado en Hanover, Alemania, está evaluando la tecnología y cómo podría usarse. «Hemos comenzado a experimentar con él. Sin embargo, realmente estamos al principio y aún necesitamos establecer todas las pautas regulatorias y el marco legal», dice Hanna Denecke, directora de exploración del equipo en la fundación.
Seguridad de datos
Sebastian Porsdam Mann en la Universidad de Copenhague, que estudia los aspectos prácticos y la ética del uso de herramientas generativas de IA en la investigación, dice que es sorprendente que más financiadores no hayan adoptado sistemas de IA para ayudar con el proceso de revisión por pares. «El potencial de ganancias de eficiencia es aún mayor para las subvenciones que en la publicación académica», dice.
