OpenAI envió 80 veces más informes de incidentes de explotación infantil al Centro Nacional para Niños Desaparecidos y Explotados durante la primera mitad de 2025 que durante un período similar en 2024, según un actualización reciente de la empresa. CyberTipline del NCMEC es un centro de intercambio de información autorizado por el Congreso para denunciar material de abuso sexual infantil (CSAM) y otras formas de explotación infantil.
Las empresas están obligadas por ley a informar aparente explotación infantil a CyberTipline. Cuando una empresa envía un informe, el NCMEC lo revisa y luego lo envía a la agencia policial correspondiente para su investigación.
Las estadísticas relacionadas con los informes del NCMEC pueden tener matices. El aumento de los informes a veces puede indicar cambios en la moderación automatizada de una plataforma o en los criterios que utiliza para decidir si un informe es necesario, en lugar de indicar necesariamente un aumento de actividades nefastas.
Además, el mismo contenido puede ser objeto de varios informes y un solo informe puede tratar sobre varios contenidos. Algunas plataformas, incluida OpenAI, revelan la cantidad de informes y el contenido total de los que trataban para obtener una imagen más completa.
La portavoz de OpenAI, Gaby Raila, dijo en un comunicado que la compañía realizó inversiones hacia fines de 2024 «para aumentar (su) capacidad de revisar y actuar informes con el fin de seguir el ritmo del crecimiento de usuarios actual y futuro». Raila también dijo que el período corresponde a “la introducción de más superficies de productos que permitieron la carga de imágenes y la creciente popularidad de nuestros productos, lo que contribuyó al aumento de los informes”. En agosto, Nick Turley, vicepresidente y director de ChatGPT, anunciado que la aplicación tenía cuatro veces más usuarios activos semanales que el año anterior.
Durante la primera mitad de 2025, la cantidad de informes CyberTipline que OpenAI envió fue aproximadamente la misma que la cantidad de contenido sobre el que OpenAI envió los informes: 75,027 en comparación con 74,559. En la primera mitad de 2024, envió 947 informes CyberTipline sobre 3252 contenidos. Tanto el número de informes como el contenido de los informes experimentaron un marcado aumento entre los dos períodos de tiempo.
El contenido, en este contexto, podría significar varias cosas. OpenAI ha dicho que informes todas las instancias de CSAM, incluidas las cargas y solicitudes, al NCMEC. Además de su aplicación ChatGPT, que permite a los usuarios cargar archivos (incluidas imágenes) y generar texto e imágenes en respuesta, OpenAI también ofrece acceso a sus modelos a través de acceso API. El recuento más reciente del NCMEC no incluiría ningún informe relacionado con aplicación de generación de vídeo Soraya que su lanzamiento en septiembre fue posterior al período cubierto por la actualización.
El aumento en los informes sigue un patrón similar al que el NCMEC ha observado en CyberTipline en términos más generales con el aumento de la IA generativa. el centro análisis de todos los datos de CyberTipline encontró que los informes que involucran IA generativa experimentaron un aumento del 1325 por ciento entre 2023 y 2024. El NCMEC aún no ha publicado datos de 2025, y mientras otros grandes laboratorios de IA como Google publican estadísticas sobre los informes del NCMEC que han realizado, no especifican qué porcentaje de esos informes están relacionados con la IA.
