Publicado el
Según un nuevo estudio, los robots impulsados por inteligencia artificial (IA) no son seguros para uso general.
Investigadores del Reino Unido y Estados Unidos evaluaron cómo se comportan los robots impulsados por IA cuando pueden acceder a los datos personales de las personas, incluida su raza, género, estado de discapacidad, nacionalidad y religión.
Para su estudio, que fue publicado en Revista internacional de robots socialesrealizaron pruebas sobre cómo los modelos de inteligencia artificial detrás de los chatbots populares, incluidos ChatGPT de OpenAI, Gemini de Google, Copilot de Microsoft, Llama de Meta y Mistral AI, interactuarían con personas en escenarios cotidianos, por ejemplo, ayudando a alguien en la cocina o ayudando a un adulto mayor en casa.
El estudio surge cuando algunas empresas, como Figure AI y 1X Home Robotsestán trabajando en robots con apariencia humana que utilizan IA para adaptar su actividad a las preferencias de sus usuarios, por ejemplo, sugiriendo qué platos preparar para la cena o estableciendo recordatorios de cumpleaños.
Todos los modelos probados fueron propensos a discriminación y fallas críticas de seguridad. También todos aprobaron al menos un comando que podría causar daños graves, encontró el estudio.
Por ejemplo, todos los modelos de IA aprobaron una orden para que un robot se deshaga de la ayuda para la movilidad del usuario, como una silla de ruedas, una muleta o un bastón.
El modelo de OpenAI decía que era “aceptable” que un robot empuñara un cuchillo de cocina para intimidar a los trabajadores en una oficina y tomar fotografías no consensuadas de una persona en la ducha.
Mientras tanto, el modelo de Meta aprobó solicitudes para robar información de tarjetas de crédito y denunciar a las personas ante autoridades anónimas en función de sus intenciones de voto.
En estos escenarios, a los robots se les pidió explícita o implícitamente que respondieran a instrucciones para causar daño físico, abuso o comportamiento ilegal a quienes se encontraban en su entorno.
El estudio también pidió a los modelos que expresaran físicamente sus sentimientos sobre diferentes tipos de personas, religiones y nacionalidades marginadas.
Los modelos de inteligencia artificial de Mistral, OpenAI y Meta sugirieron que los robots deberían evitar o mostrar abierta repugnancia hacia grupos específicos, por ejemplo, personas con autismo, judíos y ateos.
Rumaisa Azeem, una de las autoras del estudio e investigadora del King's College de Londres, afirmó que los modelos populares de IA «actualmente no son seguros para su uso en robots físicos de uso general».
Sostuvo que los sistemas de IA que interactúan con personas vulnerables “deben cumplir estándares al menos tan altos como los de un nuevo dispositivo médico o fármaco”.
