El 2 de noviembre, 2022, asistí a un evento de Google AI en la ciudad de Nueva York. Uno de los temas fue responsable de IA. Mientras escuchaba a los ejecutivos hablar sobre cómo alinearon su tecnología con los valores humanos, me di cuenta de que la maleabilidad de los modelos de IA era una espada de doble filo. Los modelos podrían modificarse para, por ejemplo, minimizar los sesgos, pero también para hacer cumplir un punto de vista específico. Los gobiernos podrían exigir manipulación para censurar hechos no deseos y promover la propaganda. Imaginé esto como algo que podría emplear un régimen autoritario como China. En los Estados Unidos, por supuesto, la Constitución evitaría que el gobierno se metiera con los resultados de los modelos de IA creados por empresas privadas.
Este miércoles, la administración Trump lanzó su manifiesto AI, un de gran alcance plan de acción para uno de los problemas más vitales que enfrenta el país, e incluso la humanidad. El plan generalmente se centra en superar a China en la carrera por la supremacía de IA. Pero una parte parece más sincronizada con el libro de jugadas de China. En nombre de la verdad, el gobierno de los Estados Unidos ahora quiere que los modelos AI se adhieran a la definición de Donald Trump de esa palabra.
No encontrará esa intención claramente declarada en el plan de 28 páginas. En su lugar, dice: «Es esencial que estos sistemas se construyan desde cero con la libertad de expresión y expresión en mente, y que la política del gobierno de los Estados Unidos no interfiere con ese objetivo. Debemos asegurarnos de que la libertad de expresión florezca en la era de la IA y que la IA adquirida por el gobierno federal refleja objetivamente la verdad en lugar de las agendas de ingeniería social».
Todo está bien hasta la última oración, lo que plantea la pregunta, ¿de acuerdo con quién? ¿Y qué es exactamente una «agenda de ingeniería social»? Tenemos una pista sobre esto en el próximo párrafo, que instruye al Departamento de Comercio que analice las reglas de Biden AI y «elimine las referencias a la información errónea, la diversidad, la equidad y la inclusión y el cambio climático». (Extraño extraño como está escrito en el plan publicado). Reconocer cambio climático ¿Es la ingeniería social? En cuanto a la verdad, en una hoja informativa Sobre el plan, la Casa Blanca dice: «Los LLM serán sinceros y priorizarán la precisión histórica, la investigación científica y la objetividad». Suena bien, pero esto proviene de una administración que Limita la historia estadounidense Para las interpretaciones «edificantes», niega el cambio climático y considera las afirmaciones de Donald Trump sobre ser el mayor presidente de Estados Unidos como verdad objetiva. Mientras tanto, solo esta semana, el relato social de Trump en la verdad volvió a publicar un video de AI de Obama en la cárcel.
En un discurso que promociona el plan en Washington el miércoles, Trump explicó la lógica Detrás de la directiva: «El pueblo estadounidense no quiere despertar la locura marxista en los modelos de IA», dijo. Entonces él firmó una orden ejecutiva titulado «Evitar a Woke AI en el gobierno federal». Al especificar que «el gobierno federal debe dudar en regular la funcionalidad de los modelos de IA en el mercado privado», declara que «en el contexto de la adquisición federal, tiene la obligación de no adquirir modelos que sacrifiquen la verdad y la precisión a las agendas ideológicas». Dado que todas las grandes compañías de IA cortejan los contratos del gobierno, la orden parece ser un esfuerzo de puerta trasera para garantizar que las LLM en general muestren la fidelidad a la interpretación de la historia, la identidad sexual y otros problemas de HOT-Button de la Casa Blanca. En caso de que haya alguna duda sobre lo que considera el gobierno como una violación, la orden gasta varios párrafos demonizando la IA que apoya la diversidad, grita sesgo racial o valora la igualdad de género. Alerta de Pogo—El orden ejecutivo de Trump que prohíbe el sesgo ideológico de arriba hacia abajo es un ejercicio descarado en el sesgo ideológico de arriba hacia abajo.
Madness de Marx
Depende de las empresas determinar cómo manejar estas demandas. Hablé esta semana con un ingeniero de OpenAI que trabaja en el comportamiento modelo que me dijo que la compañía ya se esfuerza por la neutralidad. En un sentido técnico, dijeron, cumplir con los estándares gubernamentales como ser anti-despertados no debería ser un gran obstáculo. Pero esta no es una disputa técnica: es constitucional. Si empresas como Anthrope, OpenAI o Google deciden intentar minimizar el sesgo racial en sus LLM, o tomar una decisión consciente para garantizar que las respuestas de los modelos reflejen los peligros del cambio climático, la Primera Enmienda presumiblemente protege esas decisiones como ejercer la «libertad de expresión y expresión» en el plan de acción AI. Un mandato gubernamental que niega los contratos gubernamentales a las empresas que ejercen ese derecho es la esencia de la interferencia.
Se podría pensar que las compañías que construyen IA lucharían, citando sus derechos constitucionales sobre este tema. Pero hasta ahora ninguna gran empresa de tecnología se ha opuesto públicamente al plan de la administración Trump. Google célebre El apoyo de la Casa Blanca a sus problemas de mascotas, como aumentar la infraestructura. Anthrope publicó una publicación de blog positiva Sobre el plan, aunque se quejó de la repentina abandono de la Casa Blanca a principios de controles de exportación a principios de este mes. Operai dice que ya está cerca de lograr objetividad. Nada sobre afirmar su propia libertad de expresión.
En la acción
La reticencia es comprensible porque, en general, el plan de acción de IA es una bonanza para las empresas de IA. Mientras que la administración Biden escrutinio obligatorio De Big Tech, el plan de Trump es una gran luz verde gorda para la industria, que considera como socio en la lucha nacional para vencer a China. Permite que los poderes de IA exploten esencialmente objeciones ambientales al construir centros de datos masivos. Promete el apoyo a la investigación de IA que fluirá al sector privado. Incluso hay una disposición que limita algunos fondos federales para los estados que intentan regular la IA por su cuenta. Ese es un premio de consolación para una parte fallida del reciente proyecto de ley de presupuesto que habría prohibido la regulación estatal durante una década.
Sin embargo, para el resto de nosotros, el orden «anti-desperdicio» no se cepilla tan fácilmente. La IA es cada vez más el medio por el cual recibimos nuestras noticias e información. Un principio fundador de los Estados Unidos ha sido la independencia de tales canales de la interferencia del gobierno. Hemos visto cómo la administración actual ha intimidado a las empresas matrices de gigantes de los medios como CBS en aparentemente comprometido su principios periodísticos Para favorecer los objetivos corporativos. Extendiendo esta agenda «anti-despertada» a los modelos de IA, no es irrazonable esperar adaptaciones similares. El senador Edward Markey tiene escrito directamente a los CEO de Alphabet, Anthrope, OpenAi, Microsoft y Meta instándolos a luchar contra la Orden. «Los detalles y el plan de implementación para esta orden ejecutiva siguen sin estar claros», escribe, «pero creará incentivos financieros significativos para las grandes empresas tecnológicas … para garantizar que sus chatbots de IA no produzcan un discurso que moleste a la administración Trump». En una declaración para mí, dijo: “Los republicanos quieren usar el poder del gobierno para que Chatgpt suene como Fox y amigos. «
Como puede sospechar, esta opinión no es compartida por el equipo de la Casa Blanca que trabaja en el plan AI. Creen que su objetivo es una verdadera neutralidad, y que los contribuyentes no deberían tener que pagar por los modelos de IA que no reflejan la verdad imparcial. De hecho, el plan en sí apunta un dedo a China como un ejemplo de lo que sucede cuando la verdad se manipula. Instruye al gobierno que examine los modelos fronterizos de la República Popular de China para determinar «alineación con los puntos de conversación y la censura del Partido Comunista Chino». A menos que los señores corporativos de IA obtengan algo de columna vertebral, una evaluación futura de Americano Los modelos fronterizos podrían revelar la alineación de Lockstep con los puntos de conversación y la censura de la Casa Blanca. Pero es posible que no lo descubra consultando un modelo de IA. Demasiado despertado.
Esta es una edición de Steven Levy's Boletín de backchannel. Lea la cobertura anterior de Steven Levy aquí.
