Esta pieza es parte de Tendencia hacia adelantenuestra serie de videos y podcasts que analiza el mundo de cómo la tecnología disruptiva está llegando a cambiar la forma en que vivimos. Esta semana hablamos con Arun Gupta, fundador y director ejecutivo de Hapiko, sobre la
Si eres uno de esos que dice «parece que la IA está en todas partes», bueno, estás equivocado. Sí, se está deslizando hacia el trabajo, la escuela y otros lugares, pero se está moviendo rápidamente hacia muchos otros mundos nuevos.
Uno de ellos es el pasillo de los juguetes, y eso conlleva riesgos aterradores. Como padre, la idea de que su hijo tenga acceso casi sin filtros a lo mejor (y lo peor) de la web parece un gran no-no y, sin embargo, estamos viendo una proliferación de juguetes que pueden convertir los cuentos antes de dormir en verdaderos cuentos de hadas de Grimm.
Por eso hablamos con Aron Gupta, un emprendedor que inició con éxito empresas en el sector minorista de moda y wearables. Pero mientras pasaba tiempo con su familia, empezó a pensar en cómo la tecnología no sólo podía entretener a los niños sino también educarlos y fomentar su creatividad.
Gupta se volvió a conectar con su socio técnico, Robert Whitney, y comenzaron a trabajar creando Caja de pegatinasun dispositivo autónomo que utiliza inteligencia artificial para permitir que los niños describan las imágenes que imaginan (prácticamente cualquier cosa) y las vean en la pantalla monocromática en el frente antes de imprimirlas a pedido.
El diseño recuerda al antiguo Etch a Sketch, y las pegatinas se imprimen en una impresora térmica integrada, lo que significa menos desorden y los niños pueden colorearlas como quieran.
El concepto es simple y descubrí que ya abandonó la órbita de los primeros usuarios y está ganando fama. Cuando habló recientemente sobre el Stickerbox con una amiga en el Reino Unido con niños pequeños, ella dijo: «Oh, ¿esa cosa adhesiva de Etch-a-Sketch AI? ¡Quiero muchísimo uno de esos!'
mientras yo asumir quiso decir que lo quería para sus hijos, lo que demuestra que la IA es secundaria aquí: la capacidad de crear cosas tangibles con la voz es algo que enciende la emoción, no que tenga el aprendizaje automático en el centro.
Una nueva generación de juguetes
Stickerbox parece haber sido diseñado, construido y funciona como un claro contraste con otros juguetes de IA en el mercado. Los más problemáticos se ofrecen a ser amigos y confidentes de su hijo.
Escuchan constantemente todo lo que se dice en el ambiente e incluso pueden manipular a los niños. Ha habido ejemplos de juguetes de IA que les dicen a los niños cómo encontrar armas y cerillas.
Y ahí está el conflicto: las herramientas de IA pueden fomentar el asombro y la creatividad en los niños, permitiéndoles hacer cosas que antes simplemente no eran posibles. Pero esa oportunidad también conlleva un riesgo increíble, y esa es la razón por la que estamos hablando con Gupta porque es simple: ¿cómo se puede hacer un juguete que aporte los beneficios de la IA sin los peligros que conlleva el acceso?
Un estudio publicado recientemente por PIRG destacó enormes preocupaciones sobre los juguetes basados en el acceso a LLM como el de OpenAI ChatGPTy la forma en que, incluso si hay barreras de seguridad, se pueden sortear.
Entonces, ¿en qué se diferencia Stickerbox?
«Comenzamos con una pregunta muy simple: ¿y si la IA estuviera diseñada para niños?» dice Gupta.
«Creo que Bob y yo, cuando iniciamos esta empresa, estábamos muy inspirados por las redes sociales y el impacto que las redes sociales han tenido en la generación más joven. Las redes sociales, todo el mundo lo sabe, fueron construidas con mecánicas de casino, diseñadas para darte ese golpe de dopamina, diseñadas para la mayor participación posible para que puedan servirte tanto como sea posible.
«Pero luego tomas eso y piensas en ese modelo para niños y… esto realmente no encaja muy bien. No hay redes sociales que estén realmente diseñadas para niños. Y creo que se ve lo mismo con la IA».
Por lo tanto, Stickerbox fue diseñado para aprovechar el poder creativo de la IA y al mismo tiempo ser seguro para los niños. Hay tres factores de seguridad específicos: el dispositivo sólo “escucha” cuando se presiona el botón del micrófono; existen pautas estrictas para la seguridad del contenido en la salida; y los padres pueden monitorear completamente las creaciones de sus hijos en la aplicación adjunta.
La caja no permitirá que los niños visualicen desnudez, sangre, violencia o sangre, ya que Gupta dijo que la compañía quería «pecar de más seguro en lugar de menos seguro a medida que comenzamos».
Stickerbox se conecta a Internet para acceder a la IA, pero es un sistema propietario en lugar de aprovechar OpenAI, como lo hacen muchas otras empresas. Crear su propio LLM significó que Hapiko pudiera integrar lo que Gupta llama «puntos de estrangulamiento»:
“Tenemos muchas barreras de seguridad integradas en la caja en este momento y es una gran cantidad de software propietario, pero básicamente puedes pensar en ello de esta manera simple: hay un sistema en el que el niño dice una indicación, la indicación se traduce en texto, el texto se traduce en una imagen y la imagen regresa.
«Entonces, en ese proceso, hay múltiples puntos de estrangulamiento. Está el punto de estrangulamiento donde se crea el texto, y puedes escanear lo que hay en el texto. Luego puedes hacer un filtrado de seguridad sobre eso. (Luego) está el mensaje que va del texto a la imagen, y puedes escanear eso y ver qué va a la imagen».
Stickerbox les enseña a los niños una lección importante sobre cómo construir sus instrucciones para el motor de inteligencia artificial. Cuando la calcomanía no es exactamente lo que imaginaron, deben pensar en cómo editar su mensaje para obtener el resultado que desean.
Si bien puedes hacer lo mismo con cualquier chatbot, el elemento de impresión requiere que conectes el hardware y necesita la ayuda de un padre para supervisar el proceso y, potencialmente, explicar algunos temas delicados.
Profundizamos en el futuro de esta caja: cómo fue recibida tanto por padres como por maestros, cómo superaron algunos de los primeros desafíos y preguntas, y qué podría deparar el futuro en este espacio de juguetes de IA en rápido crecimiento… y cómo Hapiko tuvo que omitir algunas características para llevar este producto al mercado de manera segura.
