Durante años, el costo de utilizar servicios “gratuitos” de Google, Facebook, microsofty otras grandes empresas tecnológicas han estado entregando sus datos. Cargar su vida en la nube y utilizar tecnología gratuita brinda ventajas, pero pone la información personal en manos de corporaciones gigantes que a menudo buscarán monetizarla. Ahora, el próxima ola de IA generativa Es probable que los sistemas quieran tener más acceso a sus datos que nunca.
En los últimos dos años, las herramientas de IA generativa, como Abierto AI's ChatGPT y de google Géminis—han ido más allá de los chatbots relativamente sencillos de solo texto que las empresas lanzaron inicialmente. En cambio, la Gran IA está construyendo e impulsando cada vez más la adopción de agentes y “asistentes” que prometen que pueden tomar acciones y completar tareas en su nombre. ¿El problema? Para aprovecharlos al máximo, deberá otorgarles acceso a sus sistemas y datos. Si bien gran parte de la controversia inicial sobre los grandes modelos lingüísticos (LLM) fue la copia flagrante de datos protegidos por derechos de autor en línea, el acceso de los agentes de IA a sus datos personales probablemente causará una nueva serie de problemas.
«Los agentes de IA, para tener su funcionalidad completa, para poder acceder a las aplicaciones, a menudo necesitan acceder al sistema operativo o al nivel del sistema operativo del dispositivo en el que se ejecutan», dice Harry Farmer, investigador principal del Instituto Ada Lovelace, cuyo trabajo ha incluido el estudio de la impacto de los asistentes de IA y descubrió que pueden causar una “profunda amenaza” a la ciberseguridad y la privacidad. Para la personalización de chatbots o asistentes, dice Farmer, puede haber compensaciones en materia de datos. «Todas esas cosas, para que funcionen, necesitan mucha información sobre ti», dice.
Si bien no existe una definición estricta de lo que es realmente un agente de IA, a menudo es mejor considerarlo como un sistema de IA generativo o LLM que se ha impartido. cierto nivel de autonomía. Actualmente, agentes o asistentes, incluidos Navegadores web con IApuede tomar el control de su dispositivo y navegar por la web por usted, reservar vuelos, realizar investigaciones o agregar artículos a carritos de compras. Algunos pueden completar tareas que incluyen docenas de pasos individuales.
Si bien los agentes de IA actuales tienen fallas y a menudo no puedo completar las tareas se han propuesto hacerlas empresas de tecnología están apostando a que los sistemas serán fundamentalmente cambiar millones de puestos de trabajo a medida que se vuelven más capaces. Una parte clave de su utilidad probablemente provenga del acceso a los datos. Entonces, si desea un sistema que pueda brindarle su agenda y tareas, necesitará acceso a su calendario, mensajes, correos electrónicos y más.
Algunos productos y funciones de IA más avanzados permiten vislumbrar cuánto acceso se podría dar a los agentes y sistemas. Ciertos agentes que se están desarrollando para empresas pueden leer códigocorreos electrónicos, bases de datosmensajes de Slack, archivos almacenados en Google Drive y más. El controvertido retiro del mercado de Microsoft El producto toma capturas de pantalla de su escritorio cada pocos segundos, para que pueda buscar todo lo que ha hecho en su dispositivo. Tinder ha creado una función de inteligencia artificial que puede buscar entre fotos en su teléfono “para comprender mejor” los “intereses y la personalidad” de los usuarios.
Carissa Véliz, autora y profesora asociada de la Universidad de Oxford, dice que la mayoría de las veces los consumidores no tienen una forma real de comprobar si las empresas de tecnología o de inteligencia artificial están manejando sus datos de la manera que afirman. “Estas empresas son muy promiscuas con los datos”, afirma Véliz. «Han demostrado no ser muy respetuosos con la privacidad».
