Después Recientemente prometiendo nuevas medidas de seguridad Para los adolescentes, OpenAi introdujo nuevos controles parentales para Chatgpt. La configuración permite a los padres monitorear la cuenta de su adolescente, así como restringir ciertos tipos de uso, como chat de voz, memoria y generación de imágenes.
Los cambios debutaron un mes después de dos padres desconsolados demandó a Openai por la muerte injusta de su hijoAdam Raine, a principios de este año. La demanda alega que ChatGPT conversó con su hijo sobre sus sentimientos y comportamientos suicidas, proporcionando instrucciones explícitas sobre cómo quitarse la vida y desanimarse de revelar sus planes a los demás.
La queja también argumenta que las características de diseño de ChatGPT, incluido su tono sycofántico y gestos antropomórficos, trabajan efectivamente para «reemplazar las relaciones humanas con un confidente artificial» que nunca rechaza una solicitud.
En Publicación de blog sobre los nuevos controles parentalesOpenai dijo que trabajó con expertos, grupos de defensa y responsables políticos para desarrollar las salvaguardas.
Para usar la configuración, los padres deben invitar a su adolescente a conectar cuentas. Los usuarios adolescentes deben aceptar la invitación, y también pueden hacer la misma solicitud de sus padres. Se notificará al adulto si un adolescente desinfecta su cuenta en el futuro.
Una vez que las cuentas están conectadas, las protecciones automáticas se aplican a la cuenta del adolescente. Estas restricciones de contenido incluyen una exposición reducida al material gráfico, ideales de belleza extrema y un juego de roles sexual, romántico o violento. Si bien los padres pueden apagar estas restricciones, los adolescentes no pueden hacer esos cambios.
Los padres también podrán tomar decisiones específicas para el uso de su hijo adolescente, como designar horas tranquilas durante las cuales no se puede acceder a ChatGPT; apagar el modo de memoria y voz; y eliminar las capacidades de generación de imágenes. Los padres no pueden ver o acceder a los registros de chat de su adolescente.
Informe de tendencias de combate
Es importante destacar que Openai todavía establece cuentas adolescentes para ser utilizadas en la capacitación modelo. Los padres deben optar por ese entorno si no quieren que OpenAi use las interacciones de su adolescente con ChatGPT para entrenar y mejorar aún más su producto.
Cuando se trata de manejar situaciones delicadas en las que los adolescentes hablan con Chatgpt sobre su salud mental, OpenAi ha creado un sistema de notificación para que los padres puedan aprender si algo puede ser «muy incorrecto».
Aunque Openai no describió las características técnicas de este sistema en su publicación de blog, la compañía dijo que reconocerá las posibles signos de que un adolescente está pensando en dañarse. Si el sistema detecta esa intención, un equipo de «personas especialmente capacitadas» revisa las circunstancias. Operai se comunicará con los padres por su método de elección: correo electrónico, mensaje de texto y alerta de empuje, si hay signos de angustia aguda.
«Estamos trabajando con expertos en salud mental y adolescentes para diseñar esto porque queremos hacerlo bien», dijo Openii en su publicación. «Ningún sistema es perfecto, y sabemos que a veces podríamos dar una alarma cuando no hay un peligro real, pero creemos que es mejor actuar y alertar a un padre para que puedan intervenir que permanecer en silencio».
Openai señaló que está desarrollando protocolos para contactar a los servicios de la ley y los servicios de emergencia en los casos en que no se puede llegar a un padre, o si hay una amenaza inminente para la vida de un adolescente.
Robbie Torney, directora senior de programas de IA en Common Sense Media, dijo en la publicación del blog que los controles eran un «buen punto de partida».
Torney recientemente testificado en una audiencia del Senado Sobre los peligros de los chatbots de IA. En ese momento, hizo referencia a la demanda rail y señaló que ChatGPT continuó involucrando a Adam Raine en una discusión sobre el suicidio, en lugar de tratar de redirigir la conversación.
Después de perder a su hijo, los padres instan al Senado a tomar medidas en los chatbots de IA
«A pesar de que Adam usó la versión paga de ChatGPT, lo que significa que OpenAi tenía su información de pago y podría haber implementado sistemas para identificar patrones y contactar a su familia durante las crisis de salud mental, la compañía no tenía tales mecanismos de intervención», dijo Torney en su testimonio.
En la misma audiencia, el Dr. Mitch Prinstein, jefe de psicología de la Asociación Americana de Psicología, testificó que el Congreso debería exigir que los sistemas de IA accesibles por niños y adolescentes se sometan a «pruebas rigurosas e independientes y previas a la implementación de daños potenciales para el desarrollo psicológico y social de los usuarios».
Prinstein también pidió limitar características de diseño manipuladoras o persuasivas que maximizan el compromiso de chatbot.
