Si no se aborda adecuadamente la desinformación en línea, es “sólo cuestión de tiempo” que el contenido viral desencadene una repetición de los disturbios del verano de 2024, advirtieron los parlamentarios.
Chi Onwurah, presidente del comité selecto de ciencia y tecnología de la Cámara de los Comunes, dijo que los ministros parecían complacientes con la amenaza y que esto estaba poniendo al público en riesgo.
El comité dijo que estaba decepcionado por la respuesta del gobierno a su Informe reciente que advierte a las redes sociales. Los modelos de negocio de las empresas contribuyeron a las perturbaciones posteriores a la crisis. Asesinatos de Southport.
En respuesta a las conclusiones del comité, el gobierno rechazó un pedido de legislación que abordara las plataformas de inteligencia artificial generativa y dijo que no intervendría directamente en el mercado de publicidad en línea, que según los parlamentarios ayudó a incentivar la creación de material dañino después del ataque.
Onwurah dijo que el gobierno estuvo de acuerdo con la mayoría de sus conclusiones, pero no llegó a respaldar sus recomendaciones de acción.
Onwurah acusó a los ministros de poner en riesgo a la población y dijo: “El gobierno necesita colmar urgentemente las lagunas en la Ley de seguridad en línea (OSA), pero en cambio parece complaciente con los daños causados por la difusión viral de información errónea legal pero dañina. La seguridad pública está en riesgo y es sólo cuestión de tiempo hasta que se repitan los disturbios del verano de 2024 alimentados por desinformación”.
Los parlamentarios dijeron en un informe titulado Redes sociales, desinformación y algoritmos dañinos que se habían publicado imágenes incendiarias de IA en plataformas de redes sociales a raíz de los apuñalamientos, en los que murieron tres niños, y advirtieron que las herramientas de IA han facilitado la creación de contenido odioso, dañino o engañoso.
En su respuesta publicada por el comité el viernes, el gobierno dijo que no era necesaria una nueva legislación y que el contenido generado por IA ya está cubierto por la OSA, que regula el material en las plataformas de redes sociales. Dijo que introducir más leyes obstaculizaría su implementación.
Sin embargo, el comité señaló el testimonio de Ofcom en el que un funcionario del regulador de comunicaciones dijo que los chatbots de IA no están 100% capturados por la ley y que se necesitaban más consultas con la industria tecnológica.
El gobierno también se negó a actuar de inmediato sobre la recomendación del comité de crear un nuevo organismo para abordar los sistemas de publicidad en las redes sociales que permiten “la monetización de contenido dañino y engañoso”, incluido un sitio web que difunde información errónea sobre el nombre del asesino de Southport.
En su respuesta, el gobierno dijo que «reconoce las preocupaciones» sobre la falta de transparencia en el mercado de la publicidad en línea y que continuaría revisando la regulación de la industria. Añadió que un equipo de publicidad en línea esperaba aumentar la transparencia y la rendición de cuentas en el sector, particularmente en relación con los anuncios ilegales y la protección de los niños de productos y servicios nocivos.
Respondiendo a la demanda del comité de realizar más investigaciones sobre cómo los algoritmos de las redes sociales amplifican el contenido dañino, el gobierno dijo que Ofcom estaba «en la mejor posición» para decidir si se debía realizar una investigación.
En respuesta al comité, Ofcom dijo que había trabajado en algoritmos de recomendación, pero reconoció la necesidad de seguir trabajando en sectores académicos y de investigación más amplios.
El gobierno también rechazó el llamado del comité para presentar un informe anual al parlamento sobre el estado de la desinformación en línea, argumentando que podría exponer y obstaculizar las operaciones gubernamentales para limitar la difusión de información dañina en línea.
El gobierno del Reino Unido define la desinformación como la difusión inadvertida de información falsa, mientras que la desinformación es la creación y difusión deliberada de información falsa para crear daño o perturbación.
Onwurah destacó las respuestas sobre la inteligencia artificial y la publicidad digital como específicamente preocupantes. «En particular, es decepcionante ver una falta de compromiso para actuar en materia de regulación de la IA y publicidad digital», afirmó.
“Al comité no le convence el argumento del gobierno de que la OSA ya cubre la IA generativa y que la tecnología se está desarrollando a un ritmo tan rápido que claramente será necesario hacer más para abordar sus efectos en la desinformación en línea.
«Además, sin abordar los modelos de negocio basados en la publicidad que incentivan a las empresas de redes sociales a amplificar algorítmicamente la información errónea, ¿cómo podemos detenerla?»
