El sitio web antrópico en una computadora portátil organizada en New Hyde Park, Nueva York, el 22 de agosto. Anthrope es una de las principales compañías de inteligencia artificial. El CEO de la compañía fue uno de los que firmó una declaración pública en 2023 reconociendo el «riesgo de extinción de la IA».
Gabby Jones/Bloomberg a través de Getty Images
escondite
alternar
Gabby Jones/Bloomberg a través de Getty Images
Nate Soares, coautor del libro Si alguien lo construye, todos muerendice que el tiempo se está agotando para evitar que una IA sobrehumana anote a la humanidad.
Martin Kaste/NPR
escondite
alternar
Martin Kaste/NPR
¿Qué sucede cuando hacemos una inteligencia artificial que es más inteligente que nosotros? Algunos investigadores de IA han advertido durante mucho tiempo Ese momento significará La fatalidad de la humanidad.
Ahora que la IA avanza rápidamente, algunos «Doomers de AI» dicen que es Es hora de golpear los frenos. Dicen que la revolución del aprendizaje automático que condujo a modelos de IA cotidianos como ChatGPT también ha hecho que sea más difícil descubrir cómo «alinear» la inteligencia artificial con nuestros intereses, a saber, evitando que la IA fuera de más humanos. Los investigadores de la seguridad de la IA dicen que existe la posibilidad de que una inteligencia tan sobrehumana actúe rápidamente para eliminarnos.
Martin Kaste de NPR informa sobre las tensiones en Silicon Valley sobre la seguridad de AI.
Para una discusión más detallada sobre los argumentos a favor, y contra, ai doom, escuche este episodio especial de NPR explica:
Ai y la probabilidad de fatalidad
Y para los verdaderos curiosos, una lista de lectura:
La versión abreviada del argumento «Todos muere», en el Atlántico.
La refutación de los «idiotas útiles», también en el Atlántico
La línea de tiempo potencial de una adquisición de IA
Investigación sobre «IA Fake» y engaño
Tal vez la IA no está acelerando la IA más inteligente, al menos aún no. Investigación de METR
Análisis y escepticismo -De expertos sobre la probabilidad a corto plazo de inteligencia artificial a nivel humano o sobrehumano
