«Si no se incluye a las personas con discapacidades o a las personas con diferencias faciales en el desarrollo de estos procesos, nadie va a pensar en estos temas», dice Kathleen Bogart, profesora de psicología de la Universidad Estatal de Oregón que se especializa en la investigación de la discapacidad y vive con una diferencia facial. «La IA ha amplificado estos problemas, pero tiene sus raíces en una subrepresentación y un prejuicio de larga data hacia las personas con diferencias faciales que ocurrieron mucho antes de que existiera la IA».
Demasiado poco, demasiado tarde
Cuando los sistemas de verificación facial fallan, a menudo es difícil encontrar ayuda, lo que aumenta la presión en una situación estresante. Durante meses, Noor Al-Khaled, residente de Maryland, ha luchado por crear una cuenta en línea en la Administración de la Seguridad Social. Al-Khaled, que vive con una rara enfermedad cráneo-facial Macrostomía de Ablepherondice que tener una cuenta en línea le permitiría acceder fácilmente a los registros de la SSA y enviar documentos rápidamente a la agencia.
«No conduzco por mi visión; debería poder confiar en el sitio», dice Al-Khaled. «Hay que tomarse una selfie y las fotografías tienen que coincidir», dice Al-Khaled. «Debido a la diferencia facial, no sé si es no reconocer la identificación o la selfie, pero siempre dice que las imágenes no coinciden».
No tener ese acceso hace la vida más difícil. «A nivel emocional, me hace sentir excluida de la sociedad», explica. Al-Khaled dice que todos los servicios deberían proporcionar formas alternativas para que las personas accedan a los sistemas en línea. «La falta de otras opciones alternativas significa que a veces las personas quedan atrapadas en estos laberintos de sistemas tecnológicos», dice Byrum de Present Moment Enterprises.
Cortesía de fuente WIRED
Un portavoz de la SSA dice que hay opciones alternativas para enfrentar la verificación y que está «comprometida» a hacer que sus servicios sean accesibles para todos. La agencia, dice el portavoz, no utiliza sistemas de reconocimiento facial por sí misma, sino que utiliza Login.gov e ID.me para los servicios de verificación. La Administración de Servicios Generales, que administra Login.gov, no respondió a la solicitud de comentarios de WIRED. “La accesibilidad es un núcleo prioridad para ID.me”, dice un portavoz de ID.me, agregando que anteriormente ha ayudado a personas con diferencias faciales y se ofreció a ayudar directamente a Al-Khaled después de que WIRED se pusiera en contacto.
«Hay pocas cosas más deshumanizantes que que una máquina te diga que no eres real debido a tu cara», dice Corey Taylorun actor y orador motivacional radicado en Nueva York que vive con una anomalía craneofacial. El año pasado, dice Taylor, estaba usando una aplicación financiera para acceder a una pequeña cantidad de dinero; Mientras intentaba completar los procesos de pago, descubrió que el sistema de verificación facial no podía hacer coincidir su selfie con la imagen de su identificación. Para que el sistema funcionara, tuvo que moverse a diferentes posiciones. «Tuve que literalmente levantar los ojos y contorsionar la cara», dice Taylor. Cuando envió un correo electrónico a la empresa, recibió lo que parecía ser una respuesta repetitiva.
