Es temporada de regalos y algunos grupos de defensa de los consumidores y de los niños están expresando su preocupación por los últimos juguetes de IA que merecen la pena.
Elva Etienne/Getty Images
ocultar título
alternar título
Elva Etienne/Getty Images
Fairplay, una organización de seguridad infantil sin fines de lucro, insta a quienes dan regalos a evitar comprar juguetes con inteligencia artificial para niños en esta temporada navideña, según un consultivo emitido el jueves.
Fairplay, junto con otros grupos de defensa de los niños y los consumidores, dice que estos juguetes (juguetes como peluches, muñecas, figuras de acción y robots para niños integrados con chatbots y otras tecnologías de inteligencia artificial) pueden ser peligrosos.
Diseñados para imitar comportamientos humanos e interactuar con los niños como si fueran amigos, los juguetes ofrecen novedad en un momento en que la IA está comenzando a infiltrarse en muchos rincones de la vida de las personas.
El aviso de Fairplay, titulado «Los juguetes con IA NO son seguros para los niños», dice que estos juguetes se aprovechan de la confianza de los niños e interrumpen las relaciones humanas, entre otros daños. El aviso fue respaldado por más de 150 expertos y grupos, incluida la profesora y autora del MIT Sherry Turkle, la pediatra e investigadora Jenny Radesky, el Social Media Victims Law Center y la International Play Association USA.
«Es ridículo esperar que los niños pequeños eviten posibles daños aquí», dijo Rachel Franz, directora del programa Fairplay, en una declaración a NPR. «Los niños pequeños son especialmente susceptibles a los daños potenciales de estos juguetes, como la invasión de su privacidad, la recopilación de datos, la generación de confianza y amistad falsas y el desplazamiento de lo que necesitan para prosperar, como las interacciones entre humanos y el tiempo para jugar con todos los sentidos. Estos pueden tener impactos a largo y corto plazo en el desarrollo».
Otros comparten preocupaciones
El aviso sigue a advertencias recientes similares del Grupo de Investigación de Interés Público (PIRG). La 40ª edición anual «Problema en Toyland» de la organización sin fines de lucro de derechos del consumidor informe dice que algunos juguetes de IA permiten hablar en profundidad sobre temas sexualmente explícitos, tienen pocos controles parentales y recopilan una montaña de datos sobre sus dueños menores de edad.
«Todos ellos están recopilando potencialmente las voces de sus hijos. Están recopilando sus nombres, sus fechas de nacimiento. Todo tipo de información: lo que le gusta, lo que no le gusta, sus juguetes favoritos, sus amigos favoritos», dijo Teresa Murray, coautora del informe PIRG y directora de su programa de vigilancia del consumidor, en un entrevista con NPR. «Debido a que están conectados a Internet, hay cualquier cosa disponible, ¿quién sabe de qué podrían empezar a hablar esos juguetes con sus hijos con sus amigos o con los padres de sus amigos o con su vecindario? Quiero decir, es aterrador».
La industria del juguete y los actores de la IA destacan la seguridad y la privacidad
La industria del juguete y las empresas de inteligencia artificial están respondiendo a esos temores destacando su enfoque en la seguridad y la privacidad.
OpenAI dijo que suspendió al fabricante del osito de peluche Kumma, impulsado por IA, a principios de esta semana, después de PIRG informó el juguete compartía consejos cuestionables con menores, como proporcionar detalles sobre cómo encontrar y encender cerillas. Cuando los investigadores lo solicitaron, también habló en profundidad sobre cuestiones sexuales. «Suspendimos a este desarrollador (el fabricante de juguetes FoloToy, con sede en Singapur) por violar nuestras políticas», dijo el portavoz de OpenAI, Gaby Raila, en un correo electrónico a NPR. «Nuestras políticas de uso prohíben cualquier uso de nuestros servicios para explotar, poner en peligro o sexualizar a cualquier persona menor de 18 años. Estas reglas se aplican a todos los desarrolladores que utilizan nuestra API, y las supervisamos y aplicamos para garantizar que nuestros servicios no se utilicen para dañar a menores».
Las tecnologías de la compañía también están integradas en otros juguetes de IA, incluida la mascota robot de IA Loona, y entró en un acuerdo asociación estratégica con Mattel a principios de este año «para respaldar productos y experiencias impulsados por IA basados en las marcas de Mattel». Aún no se han anunciado productos. Pero la compañía dijo que el conjunto inicial de productos y experiencias de Mattel se centrará en familias y clientes mayores, no en usuarios menores de 13 años.
Fairplay destacó varios juguetes de IA para demostrar los riesgos potenciales de la recopilación de datos y el impacto en la comprensión de la confianza por parte de un niño. Entre ellos están Mikoun lindo robot de plástico que viene con juegos educativos y el lema «Construido para ser tu nuevo mejor amigo». Loona Petbotun pequeño robot compañero de plástico que se mueve sobre ruedas y tiene una pantalla y una oreja, y gabboun robot de peluche con forma de cubo y grandes ojos de estilo anime. No tiene pantalla, pero se puede conectar a wifi y hacer chat de voz. NPR se ha puesto en contacto con los fabricantes de estos productos para solicitar comentarios.
«La seguridad de los niños es nuestra principal prioridad», dijo Curio, la compañía detrás de Gabbo y otros juguetes de IA, en una declaración a NPR. «Nuestras barreras de seguridad están meticulosamente diseñadas para proteger a los niños y animamos a los padres a monitorear las conversaciones, realizar un seguimiento de las ideas y elegir los controles que mejor funcionen para su familia en la aplicación Curio: Interactive Toys».
«El reconocimiento facial en Miko 3 es completamente opcional y existe únicamente para ayudar a las familias a disfrutar de una experiencia más personalizada e interactiva», dijo Ritvik Sharma, vicepresidente senior de Miko.ai, en un correo electrónico a NPR. «Es importante destacar que todos los datos visuales se procesan localmente en el dispositivo. Nunca se envían a la nube ni se comparten externamente. Para ofrecer a las familias mayor confianza y control, cada robot Miko incluye un obturador físico de la cámara que permite a los padres bloquear completamente la cámara cuando lo deseen».
En un correo electrónico a NPR, The Toy Association, que representa a los fabricantes de juguetes, dijo que los juguetes vendidos por fabricantes y minoristas responsables deben cumplir con más de 100 estrictas normas y pruebas federales de seguridad, incluida la Ley de Protección de la Privacidad Infantil en Línea, que rige la privacidad de los niños y la seguridad de los datos en línea y está supervisada por la Comisión Federal de Comercio. «La Asociación del Juguete insta a los padres y cuidadores a comprar sólo a fabricantes, marcas y minoristas de juguetes acreditados que prioricen la seguridad de los niños por encima de todo», dice el comunicado, y agrega que ofrece consejos de seguridad para IA y otros productos conectados para informar mejor las decisiones de compra de las personas.
