La guía de un científico para los agentes de IA: ¿cómo podrían ayudar a su investigación?

Millones de personas consultan chatbots todos los días. Pero los defensores de la inteligencia artificial (IA) están apostando a que los «agentes de IA» son la aplicación de esta tecnología que más afectará a la sociedad.

La IA Agentic implica el uso de un modelo de lenguaje grande (LLM) para llevar a cabo tareas de varios pasos, conectándola a herramientas externas como navegadores de Internet o suites de codificación. La esperanza es que se puedan crear asistentes de IA que simplifiquen las tareas del mundo real. En la ciencia, algunos piensan que Agentes de IA: tal vez incluso varios trabajando juntos – No solo ahorrará tiempo, sino que también ejecutará sus propios experimentos y generará conocimiento.

AI para la investigación: la mejor guía para elegir la herramienta adecuada

Pero este sueño aún no es una realidad. A pesar de Acceso a agentes de IA ya está siendo vendido por empresas de tecnología, muchos de estos agentes tienen un alcance limitado o existen en versiones beta que requieren una supervisión humana significativa. Debido a que se basan en LLM, que son, en el fondo, máquinas de predicción estadística, son propensas a hacer errores conocidos como alucinaciones. En un juicio a principios de este año de Anthrope en San Francisco, California, para ver si su agente Claudio podría dirigir una tienda de expectativa con sede en la máquina.el agente conjuró los detalles de la cuenta bancaria falsa y vendió algunos artículos con pérdidas.

Naturaleza Habló con los investigadores que desarrollan, evalúan y utilizan agentes de IA para descubrir cómo los científicos pueden hacer uso de los bots y mitigar los riesgos.

¿Qué es un agente de IA?

Los investigadores ya usan herramientas automatizadas, por ejemplo, gerentes de citas que organizan y formatan referencias, y paquetes de flujo de trabajo que procesan y analizan datos. Pero los agentes de IA son diferentes. En lugar de seguir las instrucciones prescritas para cada tarea, los agentes usan LLM para hacer y refinar planes sobre la marcha para una variedad de objetivos de varios pasos. A diferencia de Lone LLMS, también aprovechan las herramientas para tomar acciones en el mundo real, por ejemplo, para escribir y ejecutar código o navegar bases de datos, con algunos interactuar entre sí y usar la memoria de trabajo para recordar las preferencias de los usuarios y las acciones anteriores.

¿Qué pueden hacer?

Redacción de las tareas de investigación cotidianas es un objetivo. «En mi grupo, cada estudiante de doctorado ahora tiene su propio agente de inteligencia artificial que efectivamente sirve como asistente de investigación», dice Marinka Zitnik, investigadora de informática biomédica de la Universidad de Harvard en Boston, Massachusetts. Estos agentes caseros ayudan al equipo de Zitnik a realizar tareas de bajo riesgo, como la curación de conjuntos de datos, convertir el texto en tablas y escribir ciertas piezas de código, dice ella.

Necesitamos una nueva ética para un mundo de agentes de IA

Una aplicación atractiva de los agentes radica en usarlos para emular la colaboración de varios investigadores con diferentes experiencia.. Un ejemplo es la AI 'Tumor Board' desarrollada por Microsoft. En este caso, los agentes, cada uno con acceso a diferentes conjuntos de datos y capacitación, interactúan para imitar las deliberaciones del equipo multidisciplinario que determina un plan de tratamiento individual para una persona con cáncer. Debido a que las juntas tumorales generalmente se forman solo para pacientes con los casos más complicados, el uso de agentes de atención médica para ayudar a los médicos podría permitir que se brinden atención personalizada a más personas, dice Ece Kumar, quien lidera el Laboratorio de Fronteras de IA en Microsoft Research, con sede en Redmond, Washington. (En un comunicado en mayo, Microsoft dijo que sus modelos de IA de atención médica estaban destinados al uso de la investigación y que no debían implementarse en entornos clínicos «tal cual»).

¿Pueden los agentes de IA ayudar a hacer descubrimientos?

Esta es una idea que excita a los investigadorespero la respuesta sigue sin estar clara. Google y muchas otras empresas y grupos académicos han desarrollado agentes 'co-científicos'que generan hipótesis buscando ideas ocultas en los datos existentes. El co-científico utiliza múltiples agentes para, por ejemplo, evolucionar y mejorar las ideas, o probarlas entre sí.

Zitnik y sus colegas también están explotando la capacidad de un agente para acceder a datos en vivo y 'razón' sobre la base de esos datos, en el descubrimiento de fármacos. En el trabajo no publicado, utilizaron un agente de IA para aprovechar y analizar datos sobre ensayos clínicos, sobre efectos adversos y en documentos regulatorios, para buscar medicamentos que tengan efectos protectores contra las enfermedades para las que no se les recetó. Descubrieron, por ejemplo, que las personas con diabetes a las que recibieron dapagliflozin tenían una menor incidencia de la enfermedad de Alzheimer más tarde en la vida que aquellos que no se los recetaron. El equipo también se está ejecutando en silico 'ensayos clínicos' utilizando registros de salud electrónicos para probar hipótesis, dice ella.

¿Qué tipo de experiencia necesitas?

Para usos simples, como revisiones de literatura, la IA de agente ya existe como paquetes que «cualquiera puede usar», dice Doug Downey, investigador de IA en el Instituto Allen de Inteligencia Artificial (AI2) en Seattle, Washington. Aunque los sistemas más avanzados requieren experiencia en el aprendizaje automático, algunos investigadores están tratando de democratizar el acceso. Zitnik y sus colegas están desarrollando Unvelcese de herramientasun entorno en línea abierto que permite a los investigadores conectar LLM a herramientas de uso común en diferentes dominios científicos, utilizando solo comandos de lenguaje natural. Esto debería «hacer que los agentes de IA sean más ampliamente accesibles para otros campos y científicos que no escriben código», dice ella.

¿Qué tan bien funcionan los agentes?

El agente final, uno que puede hacer algo de manera autónoma de manera confiable, es «casi un problema de inteligencia general artificial», dice Kumar. «Estamos lejos de tener esos agentes». Pero los investigadores intentan comparar qué tan bien funcionan los agentes ahora.

Cómo los motores de búsqueda científicos con IA pueden acelerar su investigación