Google está integrando las credenciales de contenido C2PA en la cámara Pixel 10 y Google Photos, para ayudar a los usuarios a distinguir entre imágenes auténticas e inalteradas y las generadas o editadas con tecnología de inteligencia artificial.
La compañía estadounidense señala que el problema del etiquetado de los medios sintéticos se ha vuelto más grande en los últimos años, ya que los enfoques tradicionales ya no son adecuados y dejan espacio para dejar espacio para la interpretación y tergiversación.
En los últimos píxeles 10 teléfonos, cada foto de JPEG capturada se adjuntará automáticamente credenciales de contenido, lo que revela cómo se hicieron.
«Las credenciales de contenido transmiten un rico conjunto de información sobre cómo se hicieron medios, como imágenes, videos o archivos de audio, protegidos por la misma tecnología de firma digital que ha asegurado transacciones en línea y aplicaciones móviles durante décadas». Google explica.
«Empodera a los usuarios identificar contenido generado por IA (o alterado), ayudando a fomentar la transparencia y la confianza en la IA generativa».
Si el usuario edita la imagen original utilizando herramientas de IA o no AI, Google Photos adjunta nueva información de credenciales de contenido, asegurando que se registre todo el historial de ediciones.
Fuente: Google
Google dice que el sistema funciona fuera de línea, está seguro de la interferencia externa durante todo el proceso y no amenaza el anonimato del usuario al tiempo que conserva su verificabilidad.
El gigante tecnológico describe varias capas de seguridad e integridad garantiza que se infunda en el sistema de credenciales de contenido para que sea resistente a los manipulaciones y confiables, incluyendo:
- La firma criptográfica que invalida la firma digital cuando se modifican los metadatos.
- Almacenamiento de teclas resistente a la manipulación, con todas las teclas criptográficas generadas y almacenadas en Android Strongbox dentro del chip de seguridad Titan M2.
- Android Key Chestation, que permite a las autoridades de certificación C2PA de Google verificar la autenticidad tanto del hardware como de la aplicación que solicita la credencial.
- Las claves de uso único por imagen, lo que significa que cada foto está firmada con una clave criptográfica única que nunca se reutiliza, preservando la privacidad y el anonimato del usuario.
- Las marcas de tiempo de confianza en el dispositivo, admitidas por un reloj interno seguro mantenido por el chip tensor, que permite que los dispositivos de píxeles conecten marcas de tiempo verificables incluso cuando están fuera de línea.
Aunque el sistema de credenciales de contenido actualmente solo está disponible en dispositivos Pixel 10, Google ha insinuado planes de expandir esto a más dispositivos Android en el futuro, pero sin compartir ninguna línea de tiempo específica.
La firma insta a las partes interesadas de la industria a ir más allá de las etiquetas de IA simplistas y adoptar credenciales de contenido, enfatizando que combatir la información errónea y los defensores profundos requiere una adopción amplia y en todo el ecosistema de la procedencia verificable.
El 46% de los entornos tenían contraseñas agrietadas, casi duplicando desde el 25% el año pasado.
Obtenga el informe PICUS Blue 2025 ahora para ver más hallazgos sobre la prevención, la detección y las tendencias de exfiltración de datos.
