«Este será un trabajo estresante y saltarás al fondo casi de inmediato», dijo el director ejecutivo de OpenAI, Sam Altman. escribió en X en su anuncio del puesto de “jefe de preparación” en OpenAI el sábado.
A cambio de $555,000 por añoSegún el anuncio de trabajo de OpenAI, se supone que el jefe de preparación debe «ampliar, fortalecer y guiar» el programa de preparación existente dentro del departamento de sistemas de seguridad de OpenAI. Este lado de OpenAI construye las salvaguardas que, en teoría, hacen que los modelos de OpenAI «se comporten según lo previsto en entornos del mundo real».
Pero bueno, espera un minuto, ¿están diciendo que ahora los modelos de OpenAI se comportan según lo previsto en entornos del mundo real? En 2025, ChatGPT Continuó alucinando en presentaciones legalesatraído cientos de quejas de la FTCincluidas quejas de que estaba provocando crisis de salud mental en los usuarios, y evidentemente Convirtió fotos de mujeres vestidas en bikinis deepfakes.. Sora tenía que tener la habilidad de hacer videos de figuras como Martin Luther King, Jr. revocado porque los usuarios estaban abusando del privilegio de hacer figuras históricas veneradas decir básicamente cualquier cosa.
Cuando los casos relacionados con problemas con los productos OpenAI llegan a los tribunales, como con la demanda por muerte por negligencia presentada por la familia de Adam Raine, quien, se alega, recibió consejos y aliento de ChatGPT que llevaron a su muerte, se puede argumentar legalmente que los usuarios estaban abusando de los productos OpenAI. En noviembre, se citó una presentación de los abogados de OpenAI violaciones de las reglas como causa potencial de la muerte de Raine.
Ya sea que creas o no el argumento del abuso, es claramente una gran parte de la forma en que OpenAI da sentido a lo que sus productos están haciendo en la sociedad. Altman reconoce en su publicación X sobre el trabajo de jefe de preparación que los modelos de la empresa pueden afectar la salud mental de las personas y pueden encontrar vulnerabilidades de seguridad. Estamos, dice, “entrando en un mundo donde necesitamos una comprensión y una medición más matizadas de cómo se puede abusar de esas capacidades, y cómo podemos limitar esas desventajas tanto en nuestros productos como en el mundo, de una manera que nos permita a todos disfrutar de los tremendos beneficios”.
Después de todo, si el objetivo fuera simplemente no causar ningún daño, la forma más rápida de asegurarse de ello sería simplemente eliminar ChatGPT y Sora del mercado por completo.
El jefe de preparación de OpenAI, entonces, es alguien que enhebrará esta aguja y “poseerá la estrategia de preparación de OpenAI de extremo a extremo”, descubriendo cómo evaluar los modelos para detectar habilidades no deseadas y diseñar formas de mitigarlas. El anuncio dice que esta persona tendrá que «evolucionar el marco de preparación a medida que surjan nuevos riesgos, capacidades o expectativas externas». Esto sólo puede significar descubrir nuevas formas potenciales de productos OpenAI. podría ser capaz de dañar a las personas o a la sociedad, y proponer la rúbrica para permitir que los productos existan, al tiempo que demuestra, presumiblemente, que los riesgos se han atenuado lo suficiente como para que OpenAI no sea legalmente responsable de los aparentemente inevitables “desventajas” futuros.
Ya sería bastante malo tener que hacer todo esto para una empresa que se mantiene a flote, pero OpenAI tiene que tomar medidas drásticas para generar ingresos y lanzar productos de vanguardia rápidamente. En una entrevista el mes pasado, Altman fuertemente implícito que llevaría los ingresos de la empresa desde donde están ahora (aparentemente en algún lugar por encima de los 13.000 millones de dólares al año) a 100.000 millones de dólares en menos de dos años. Altman dijo que el «negocio de dispositivos de consumo de su empresa será algo significativo e importante» y que «la IA que puede automatizar la ciencia creará un valor enorme».
Entonces, si desea supervisar el «diseño de mitigación» en las nuevas versiones de los productos existentes de OpenAI, junto con nuevos dispositivos físicos y plataformas que aún no existen, pero que se supone que deben hacer cosas como «automatizar la ciencia», todo mientras el CEO le está dando la espalda sobre la necesidad de hacer aproximadamente la misma cantidad de ingresos anuales que Walt Disney El año siguiente, disfrute siendo el jefe de preparación en OpenAI. Intenta no joder al mundo entero en tu nuevo trabajo.
