Lunes 28 de julio de 2025
Investigadores de los Institutos Nacionales de Salud (NIH) han desarrollado un agente de inteligencia artificial (IA) impulsado por un modelo de lenguaje grande (LLM) que crea descripciones más precisas e informativas de los procesos biológicos y sus funciones en el análisis de conjuntos de genes que los sistemas actuales.
El sistema, llamado Geneagent, verifica sus propias predicciones iniciales, también conocidas como reclamos, por precisión contra la información de bases de datos establecidas y curadas por expertos y devuelve un informe de verificación que detalla sus éxitos y fallas. El agente de IA puede ayudar a los investigadores a interpretar datos moleculares de alto rendimiento e identificar rutas biológicas relevantes o módulos funcionales, lo que puede conducir a una mejor comprensión de cómo las diferentes enfermedades y condiciones afectan a grupos de genes individualmente y juntos.
El contenido generado por IA es producido por LLMS capacitados en enormes cantidades de datos de texto de todo Internet. Los LLM usan esos datos para reconocer patrones y predecir qué palabras podrían seguir entre sí en una oración. Sin embargo, los LLM no están diseñados para verificar la verdad, lo que significa que el contenido generado por IA puede ser falso, engañoso o fabricado, un fenómeno llamado alucinaciones de IA. Además, los LLM son propensos al razonamiento circular, verificar sus resultados generados con sus propios datos, lo que los hace sonar más seguros en la salida incluso cuando la información es falsa.
Avanzar las alucinaciones de IA es importante cuando se utilizan herramientas LLM para el análisis de conjuntos de genes, el proceso de generar descripciones funcionales colectivas de genes agrupados y sus posibles interacciones. Estudios previos que enseñaron LLM a responder preguntas genómicas o resumir los procesos biológicos en un conjunto de genes determinado no abordaron explícitamente las alucinaciones en el contenido generado.
Geneagent mitiga este problema tomando sus propias afirmaciones y comparándolas de forma independiente con el conocimiento establecido compilado en bases de datos externas y curadas por expertos. El equipo de investigación probó por primera vez a Geneagent en 1.106 conjuntos de genes procedentes de bases de datos existentes con funciones conocidas y nombres de procesos. Para cada conjunto de genes, Geneagent generó primero una lista inicial de reclamos funcionales. Luego utilizó de forma independiente su módulo de agente de autoverificación para verificar estas reclamaciones con las bases de datos seleccionadas y crear un informe de verificación que señalara si cada una de sus reclamos fue compatible, parcialmente compatible o refutado.
Para determinar mejor su precisión en el paso de autoverificación, los investigadores presentaron dos expertos humanos para revisar manualmente 10 conjuntos de genes seleccionados al azar con 132 reclamos acumulativos y juzgar si los informes de autoverificación de Geneagent eran correctos, parcialmente correctos o incorrectos. De los informes de autoverificación generados por Geneagent, los expertos determinaron que el 92% de sus decisiones eran correctas, lo que indica un alto rendimiento en su capacidad para realizar la autoverificación, especialmente en comparación con GPT-4. Su revisión detallada confirmó la efectividad del modelo para minimizar las alucinaciones y generar narraciones analíticas más confiables.
El equipo de investigación también analizó la aplicación del mundo real de GeneAgent en los conjuntos de genes del modelo animal. Cuando se aplica a siete conjuntos de genes novedosos derivados de líneas celulares de melanoma de ratón, Geneagent pudo ofrecer una visión valiosa de nuevas funcionalidades para genes específicos. Esto podría significar el descubrimiento de conocimiento para cosas como posibles nuevos objetivos farmacológicos para enfermedades como el cáncer.
Si bien los LLM como Geneagent todavía están limitados por la información que pueden usar y su incapacidad para razonar como humanos, la capacidad de Geneagent para la verificación de hechos autónoma muestra una promesa notable para mitigar las alucinaciones de IA.
Sobre la Biblioteca Nacional de Medicina (NLM): NLM es un líder en investigación en informática biomédica y ciencia de datos y la biblioteca biomédica más grande del mundo. NLM realiza y apoya la investigación en métodos para registrar, almacenar, recuperar, preservar y comunicar información de salud. Crea recursos y herramientas que se utilizan miles de millones de veces cada año por millones de personas para acceder y analizar la biología molecular, la biotecnología, la toxicología, la salud ambiental y la información de los servicios de salud. La información adicional está disponible en https://www.nlm.nih.gov.
Sobre los Institutos Nacionales de Salud (NIH): NIH, la agencia de investigación médica de la nación, incluye 27 institutos y centros y es un componente del Departamento de Salud y Servicios Humanos de los Estados Unidos. NIH es la agencia federal principal que realiza y apoya la investigación médica básica, clínica y traslacional, y está investigando las causas, tratamientos y curas para enfermedades comunes y raras. Para obtener más información sobre NIH y sus programas, visite www.nih.gov.
Nih … convertir el descubrimiento en salud®
Referencia
Wang, Z., Jin, Q., Wei, cap. et al. Geneagent: agente de lenguaje de autoverificación para el análisis del conjunto de genes utilizando bases de datos de dominio. Métodos NAT (2025). https://doi.org/10.1038/s41592-025-02748-6
