Parece que desde AI Llegó a nuestro mundo, los creadores han puesto un pie de la cabeza en el gas. Sin embargo, según un nuevo documento de política, Meta El CEO Mark Zuckerberg podría ralentizar o detener el desarrollo de sistemas AGI que se consideran «alto riesgo» o «riesgo crítico».
AGI es un sistema de IA que puede hacer cualquier cosa que un humano pueda hacer, y Zuckerberg prometió hacerlo abiertamente disponible algún día. Pero en el documento «Frontier AI Framework,«Zuckerberg reconoce que algunos sistemas de IA altamente capaces no se lanzarán públicamente porque podrían ser demasiado arriesgados.
El marco «se centra en los riesgos más críticos en las áreas de amenazas y riesgos de ciberseguridad de las armas químicas y biológicas».
«Al priorizar estas áreas, podemos trabajar para proteger la seguridad nacional al tiempo que promueve la innovación. Nuestro marco describe una serie de procesos que seguimos para anticipar y mitigar el riesgo al desarrollar sistemas de IA fronterizos». Se lee en un comunicado de prensa sobre el documento.
Velocidad de luz mashable
Por ejemplo, el marco tiene la intención de identificar «posibles resultados catastróficos relacionados con los riesgos cibernéticos, químicos y biológicos que nos esforzamos por prevenir». También lleva a cabo «ejercicios de modelado de amenazas para anticipar cómo los diferentes actores podrían tratar de mal uso de la IA fronteriza para producir esos resultados catastróficos» y tiene «procesos establecidos para mantener los riesgos dentro de los niveles aceptables».
Si la compañía determina que los riesgos son demasiado altos, mantendrá el sistema interno en lugar de permitir el acceso público.
«Si bien el enfoque de este marco está en nuestros esfuerzos para anticipar y mitigar los riesgos de resultados catastróficos, es importante enfatizar que la razón para desarrollar sistemas de IA avanzados en primer lugar se debe al tremendo potencial de beneficios para esas tecnologías de esas tecnologías «, dice el documento.
Sin embargo, parece que Zuckerberg está golpeando los frenos, al menos por ahora, en la vía rápida de Agi hacia el futuro.
