India ordenó a X de Elon Musk que realice cambios técnicos y de procedimiento inmediatos en su chatbot de inteligencia artificial Grok después de que usuarios y legisladores señalaron la generación de contenido «obsceno», incluidas imágenes de mujeres alteradas por inteligencia artificial creadas con la herramienta.
El viernes, el Ministerio de TI de la India emitió la orden ordenando a Musk's X que tomara medidas correctivas contra Grok, incluida la restricción de la generación de contenido que involucre «desnudez, sexualización, material sexualmente explícito o de otro modo ilegal». El ministerio también le dio a la plataforma de redes sociales 72 horas para presentar un informe de las medidas tomadas que detalla las medidas que ha tomado para evitar el alojamiento o la difusión de contenido considerado «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por la ley».
La orden, revisada por TechCrunch, advirtió que el incumplimiento podría poner en peligro las protecciones de «puerto seguro» de X: inmunidad legal de responsabilidad por el contenido generado por el usuario según la ley india.
La medida de la India surge tras las preocupaciones planteadas por usuarios que compartieron ejemplos de cómo se pidió a Grok que alterara imágenes de personas, principalmente mujeres, para que pareciera que llevaban bikinis, lo que provocó una denuncia formal de la parlamentaria india Priyanka Chaturvedi. Por otra parte, informes recientes señalaron casos en los que el chatbot de IA Generaron imágenes sexualizadas que involucran a menores.un problema X admitido El viernes temprano se debió a fallas en las salvaguardias. Esas imágenes fueron eliminadas posteriormente.
Sin embargo, las imágenes generadas con Grok que hacían que las mujeres parecieran usar bikinis a través de una alteración de IA permanecían accesibles en X en el momento de la publicación, según descubrió TechCrunch.
La última orden llega días después de que el Ministerio de TI de la India emitiera el lunes un aviso más amplio, que también fue revisado por TechCrunch, para las plataformas de redes sociales, recordándoles que el cumplimiento de las leyes locales que rigen el contenido obsceno y sexualmente explícito es un requisito previo para conservar la inmunidad legal de responsabilidad por el material generado por el usuario. El aviso instaba a las empresas a fortalecer las salvaguardias internas y advertía que de no hacerlo podría dar lugar a acciones legales en virtud de las leyes penales y de TI de la India.
«Se reitera que el incumplimiento de los requisitos anteriores se considerará seriamente y puede tener consecuencias legales estrictas contra su plataforma, sus funcionarios responsables y los usuarios de la plataforma que violen la ley, sin previo aviso», advirtió la orden.
Evento tecnológico
san francisco
|
13-15 de octubre de 2026
El gobierno indio dijo que el incumplimiento podría dar lugar a acciones contra X según la ley de TI y los estatutos penales de la India.
India, uno de los mercados digitales más grandes del mundo, se ha convertido en un caso crítico de prueba de hasta dónde están dispuestos a llegar los gobiernos para responsabilizar a las plataformas por el contenido generado por IA. Cualquier endurecimiento de la aplicación de la ley en el país podría tener efectos dominó para las empresas tecnológicas globales que operan en múltiples jurisdicciones.
La orden se produce mientras la X de Musk continúa desafiando aspectos de la India. normas de regulación de contenidos en los tribunalesargumentando que los poderes de eliminación del gobierno federal corren el riesgo de extralimitarse, incluso cuando la plataforma ha cumplido con la mayoría de las directivas de bloqueo. Al mismo tiempo, los usuarios de X utilizan cada vez más Grok para verificación de hechos en tiempo real y comentarios sobre eventos noticiosos, lo que hace que sus resultados sean más visibles (y más políticamente sensibles) que los de las herramientas de inteligencia artificial independientes.
X y xAI no respondieron de inmediato a las solicitudes de comentarios sobre la orden del gobierno indio.
