El Comité de Seguridad Nacional de la Cámara de Representantes envió una carta al director ejecutivo de Anthropic, Dario Amodei, para que testifique el 17 de diciembre sobre una campaña de ciberataque supuestamente realizada por actores afiliados a China que utilizan Claude AI de la compañía, según un nuevo informe de axios.
Andrew Garbarino, presidente de Seguridad Nacional de la Cámara de Representantesun republicano de Nueva York, envió cartas a Amodei y también El director ejecutivo de Google Cloud, Thomas Kurian, y el director ejecutivo de Quantum Xchange, Eddy Zervigon, solicitaron testificar el próximo mes. Si Amodei acepta testificar, sería la primera vez que un ejecutivo de Anthropic comparece ante un comité del Congreso, según Axios.
Antrópico explicado en un 13 de noviembre informó que había detectado actividad sospechosa a mediados de septiembre y, después de una investigación, descubrió que había habido una “campaña de espionaje altamente sofisticada”. Los atacantes utilizaron las capacidades de agente de Claude «en un grado sin precedentes» para ejecutar los ataques ellos mismos, según la empresa:
El actor de la amenaza (que evaluamos con gran confianza era un grupo patrocinado por el estado chino) manipuló nuestra herramienta Código Claude para intentar infiltrarse en aproximadamente treinta objetivos globales y tuvo éxito en una pequeña cantidad de casos. La operación estaba dirigida a grandes empresas tecnológicas, instituciones financieras, empresas de fabricación de productos químicos y agencias gubernamentales. Creemos que este es el primer caso documentado de un ciberataque a gran escala ejecutado sin una intervención humana sustancial.
La compañía lo llamó una escalada del “pirateo de vibraciones” que se ha visto en los últimos meses. El término «codificación de vibración» entró en el léxico nacional durante el año pasado cuando cada vez más personas que no tenían experiencia en codificación comenzaron a utilizar herramientas de inteligencia artificial generativa para crear e implementar código.
La terminología de vibraciones se ha ampliado para incluir muchos otros usos, quizás el más infame cuando el fundador de Uber, Travis Kalanick, apareció en el podcast All-In y dijo que estaba haciendo «física de vibraciones». Kalanick se había convencido a sí mismo de que estaba descubriendo nuevos tipos de cienciaalgo que los modelos de lenguaje grandes simplemente no son capaces de hacer.
¿Por qué Anthropic estaría construyendo herramientas que podrían permitir ataques cibernéticos contra Estados Unidos? La compañía abordó esto en su informe del 13 de noviembre y dijo que Claude era crucial para la ciberdefensa:
Esto plantea una pregunta importante: si los modelos de IA pueden usarse indebidamente para ataques cibernéticos a esta escala, ¿por qué seguir desarrollándolos y publicándolos? La respuesta es que las mismas capacidades que permiten utilizar a Claude en estos ataques también lo hacen crucial para la ciberdefensa. Cuando inevitablemente ocurren ataques cibernéticos sofisticados, nuestro objetivo es que Claude (en el que hemos incorporado fuertes salvaguardas) ayude a los profesionales de la ciberseguridad a detectar, interrumpir y prepararse para futuras versiones del ataque. De hecho, nuestro equipo de Threat Intelligence utilizó ampliamente a Claude para analizar las enormes cantidades de datos generados durante esta misma investigación.
«Por primera vez, estamos viendo a un adversario extranjero utilizar un sistema comercial de inteligencia artificial para llevar a cabo casi una operación cibernética completa con una mínima participación humana», dijo Garbarino a Axios en un comunicado. «Eso debería preocupar a todas las agencias federales y a todos los sectores de infraestructura crítica».
Contactado por teléfono, un portavoz de Anthropic se negó a hacer ningún comentario oficial el miércoles sobre la próxima audiencia.
