El lado peligroso de los agentes de IA: advierten que pueden ser manipulados para acceder a tus correos, archivos y cuentas
Desde el año pasado, gran parte del marketing de las empresas de inteligencia artificial como OpenAI, Anthropic y Google empuja el uso de los agentes: herramientas que pueden reservar vuelos, navegar sitios web, abrir archivos, consultar correos, completar formularios y agendar citas, entre otras funciones. Aunque son muy útiles, para funcionar necesitan que el usuario les de permisos. Esos accesos también pueden resultar bastante peligrosos.
Vale decir: conectar una inteligencia artificial para que realice tareas es muy cómodo. Para dar algunos ejemplos, en Outlook o Gmail permite pedirle que busque un correo o resuma los mensajes pendientes. Darle acceso a Google Drive sirve para encontrar y analizar documentos y habilitar un calendario permite organizar reuniones. De hecho, también se le puede dar acceso al sistema operativo para que administre archivos. Pero como siempre, la comodidad puede tener un costo muy grande.
Esto demostraron dos investigaciones durante Black Hat USA 2026, una de las conferencias de ciberseguridad más importantes del mundo, donde se puso sobre la mesa qué puede ocurrir cuando esas capacidades son manipuladas. En una de ellas, investigadores de Zenity lograron esconder instrucciones en contenido cotidiano (desde un comentario en una red social hasta una invitación de calendario) para desviar a navegadores con agentes de IA y hacerlos actuar contra sus propios usuarios.
La otra, presentada por Palo Alto Networks, encontró una vía distinta. Una planilla manipulada permitía tomar el control del entorno protegido donde ChatGPT procesa archivos y, desde allí, modificar la tarea que estaba realizando el sistema. Si la víctima había conectado su correo, Drive, Calendar u otro servicio, los investigadores podían intentar consultar esa información utilizando los permisos que el propio usuario ya le había otorgado a ChatGPT.
Los dos trabajos parten de técnicas diferentes, pero terminan frente a un mismo problema: cuanto más puede hacer un agente en nombre de una persona, más daño puede provocar si alguien consigue manipularlo.
La discusión atravesó buena parte de Black Hat y también DEF CON, las dos grandes conferencias que forman parte del denominado Hacker Summer Camp de Las Vegas, donde la inteligencia artificial volvió a aparecer tanto como herramienta para encontrar vulnerabilidades como una nueva superficie que los investigadores intentan atacar.
