El Instituto Nacional de Estándares y Tecnología (NIST) ha emitido nuevas instrucciones a los científicos que se asocian con el Instituto de Seguridad de Inteligencia Artificial de los Estados Unidos (AISI) que eliminan la mención de «seguridad de la IA», «AI responsable» y «AI de equidad» en las habilidades que espera de los miembros e introduce una solicitud para priorizar la «reducción de la bias ideológica, para permitir el florecimiento humano y la competencia económica». «».
La información se produce como parte de un acuerdo de investigación y desarrollo cooperativo actualizado para los miembros del Consorcio del Instituto de Seguridad de AI, enviado a principios de marzo. Anteriormente, ese acuerdo alentó a los investigadores a contribuir con el trabajo técnico que podría ayudar a identificar y fijar el comportamiento del modelo discriminatorio relacionado con la desigualdad de género, raza, edad o riqueza. Tales sesgos son muy importantes porque pueden afectar directamente a los usuarios finales y dañar desproporcionadamente a las minorías y a los grupos económicamente desfavorecidos.
El nuevo acuerdo elimina la mención del desarrollo de herramientas «para autenticar el contenido y el seguimiento de su procedencia», así como «etiquetar el contenido sintético», lo que indica menos interés en el seguimiento de la información errónea y las falsificaciones profundas. También agrega énfasis en poner a Estados Unidos primero, pedirle a un grupo de trabajo que desarrolle herramientas de prueba «para ampliar la posición global de IA de Estados Unidos».
«La administración Trump ha eliminado la seguridad, la equidad, la información errónea y la responsabilidad como las cosas que valora para la IA, que creo que habla por sí misma», dice un investigador de una organización que trabaja con el Instituto de Seguridad de AI, que pidió no ser nombrado por temor a represalias.
El investigador cree que ignorar estos problemas podría dañar a los usuarios regulares al permitir que los algoritmos que discriminen en función de los ingresos u otros datos demográficos no se controlen. “A menos que sea un multimillonario tecnológico, esto llevará a un futuro peor para usted y las personas que le importan. Espere que la IA sea injusta, discriminatoria, insegura y se despliegue de manera irresponsable ”, afirma el investigador.
«Es salvaje», dice otro investigador que ha trabajado con el Instituto de Seguridad de AI en el pasado. «¿Qué significa incluso que los humanos florezcan?»
Elon almizcleque actualmente lidera un esfuerzo controvertido Para reducir el gasto gubernamental y la burocracia en nombre del presidente Trump, criticó a los modelos de IA construidos por Openai y Google. En febrero pasado, publicó un meme en X en el que Géminis y Openai fueron etiquetados como «racistas» y «Woke». El a menudo cita Un incidente en el que uno de los modelos de Google debatió si sería un error a alguien, incluso si evitaría un apocalipsis nuclear, un escenario muy poco probable. Además Tesla y SpacexMusk dirige Xai, una compañía de IA que compite directamente con OpenAI y Google. Un investigador que asesora a Xai desarrolló recientemente una técnica novedosa para alterar las inclinaciones políticas de los modelos de idiomas grandes, como reportado por cableado.
Un creciente cuerpo de investigación muestra que el sesgo político en los modelos de IA puede afectar ambos liberales y conservadores. Por ejemplo, Un estudio del algoritmo de recomendación de Twitter Publicado en 2021 mostró que los usuarios tenían más probabilidades de mostrarse perspectivas directas en la plataforma.
Desde enero, el llamado Musk Departamento de Eficiencia del Gobierno (Doge) ha estado barriendo el gobierno de los Estados Unidos, disparando efectivamente a los funcionarios públicos, deteniendo el gasto y creando un ambiente que se cree que es hostil para aquellos que podrían oponerse a los objetivos de la administración Trump. Algunos departamentos gubernamentales, como el Departamento de Educación, han archivado y eliminado documentos que mencionan DEI. Doge también ha atacado a NIST, la organización matriz de AISI, en las últimas semanas. Docenas de empleados han sido despedidos.
