Legisladores del estado de Nueva York aprobado un proyecto de ley El jueves, eso tiene como objetivo evitar que los modelos de IA fronterizos sean de OpenAi, Google y antrópico contribuyan a escenarios de desastres, incluida la muerte o lesión de más de 100 personas, o más de $ 1 mil millones en daños.
La aprobación de la Ley de aumento representa una victoria para el movimiento de seguridad de IA, que tiene El terreno perdido en los últimos años Como Silicon Valley y la administración Trump han priorizado la velocidad y la innovación. Los defensores de la seguridad, incluido el premio Nobel Geoffrey Hinton y el pionero de investigación de IA, Yoshua Bengio, han defendido la Ley de Aumento. Si se convierta en ley, el proyecto de ley establecería el primer conjunto de estándares de transparencia legalmente obligatorios para los laboratorios de IA fronterizos.
La Ley de aumento tiene algunas de las mismas disposiciones y objetivos que La controvertida factura de seguridad de IA de California, SB 1047, que fue finalmente vetado. Sin embargo, el copatrocinador del proyecto de ley, el senador del estado de Nueva York, Andrew Gounardes, le dijo a TechCrunch en una entrevista que diseñó deliberadamente la Ley de Aumento de tal manera que no relaciona la innovación entre las nuevas empresas o los investigadores académicos, una crítica común de SB 1047.
«La ventana para colocar las barandillas se reduce rápidamente dado lo rápido que está evolucionando esta tecnología», dijo el senador Gounardes. «Las personas que saben (ai) dicen que estos riesgos son increíblemente probables (…) eso es alarmante».
La Ley de aumento ahora se dirige al escritorio del gobernador de Nueva York Kathy Hochul, donde podría firmar el proyecto de ley, enviarlo de regreso para enmiendas o vetarlo por completo.
Si se firma, el proyecto de ley de seguridad de IA de Nueva York requeriría que los laboratorios de inteligencia artificiosos más grandes del mundo publiquen informes exhaustivos de seguridad en sus modelos de IA fronterizos. El proyecto de ley también requiere que los laboratorios de IA reporten incidentes de seguridad, como en relación con el comportamiento del modelo de IA o los malos actores que roban un modelo de IA, si suceden. Si las empresas tecnológicas no están a la altura de estos estándares, la Ley de Aumento faculta al Fiscal General de Nueva York para traer sanciones civiles de hasta $ 30 millones.
La Ley de aumento tiene como objetivo regular por poco las empresas más grandes del mundo, ya sea en California (como OpenAi y Google) o China (como Deepseek y Alibaba). Los requisitos de transparencia del proyecto de ley se aplican a las empresas cuyos modelos de IA fueron capacitados utilizando más de $ 100 millones en recursos informáticos (aparentemente, más que cualquier modelo de IA disponible en la actualidad), y se están poniendo a disposición de los residentes de Nueva York.
Si bien es similar a SB 1047 de alguna manera, la Ley de Aumento se diseñó para abordar las críticas de los proyectos de ley de seguridad de IA anteriores, según Nathan Calvin, el Vicepresidente de Asuntos Estatales y el Asesor General de ENCODE, que trabajó en este proyecto de ley y SB 1047, en particular, el ACT de ACEA no requiere que los desarrolladores de modelos de IA incluyan un «cambio de matar» en sus modelos, ni lo hace a las empresas que tienen las compañías que poseen los modelos AI de la AI.
Sin embargo, Silicon Valley ha rechazado significativamente el proyecto de ley de seguridad de IA de Nueva York, el AsambleMember del Estado de Nueva York y copatrocinador de la Ley de Aumento, Alex Bores a TechCrunch. Bors calificó la resistencia de la industria no sorprendente, pero afirmó que la Ley de aumento no limitaría la innovación de las empresas tecnológicas de ninguna manera.
«El acto de aumento de Nueva York es otro estúpido y estúpido estúpido nivel estatal AI Bill que solo lastimará a los Estados Unidos en un momento en que nuestros adversarios están corriendo por delante», dijo Andreessen Horowitz, su compañero general Anjney Midha en un Publicación del viernes en x. Andreessen Horowitz y Startup Incubator Y Combinator fueron algunos de los oponentes más feroces de SB 1047.
Antrópico, el laboratorio de IA centrado en la seguridad que pidió transparencia federal StanorteDards para compañías de IA A principios de este mes, no ha alcanzado una postura oficial sobre el proyecto de ley, dijo el cofundador Jack Clark en un Publicación del viernes en x. Sin embargo, Clark expresó algunas quejas sobre cuán amplia es el acto de aumento, señalando que podría presentar un riesgo para las «empresas más pequeñas».
Cuando se le preguntó sobre las críticas de Anthrope, el senador estatal Gounardes le dijo a TechCrunch que pensó que «pierde la marca», señalando que diseñó el proyecto de ley para no postularse a las pequeñas empresas.
Operai, Google y Meta no respondieron a la solicitud de comentarios de TechCrunch.
Otra crítica común de la Ley de aumento es que los desarrolladores de modelos de IA simplemente no ofrecerían sus modelos de IA más avanzados en el estado de Nueva York. Esa fue una crítica similar presentada contra SB 1047, y es en gran medida lo que se desarrolla en Europa gracias a las difíciles regulaciones del continente sobre tecnología.
El ensamblador de Bores le dijo a TechCrunch que la carga regulatoria de la Ley de aumento es relativamente ligera y, por lo tanto, no debería requerir que las compañías tecnológicas dejen de operar sus productos en Nueva York. Dado el hecho de que Nueva York tiene el tercer PIB más grande en los Estados Unidos, retirarse del estado no es algo que la mayoría de las empresas tomarían a la ligera.
«No quiero subestimar la mezquindad política que podría suceder, pero estoy muy seguro de que no hay una razón económica para que (las compañías de IA) no pongan sus modelos a disposición en Nueva York», dijo el asambleo Bore.
