Seguridad de agentes de IA: Uber ya no pregunta si el agente puede, sino si debe hacerlo
Seguridad de agentes de IA: Uber evalúa si cada acción es apropiada, no solo permitida. Conoce su marco de tres capas y qué puede copiar hoy tu empresa.

Un agente de IA puede tener todos los permisos correctos y, aun así, hacer exactamente lo que no debería. Esa es la premisa que llevó a Uber a rediseñar su enfoque de seguridad de agentes de IA: los sistemas de identidad y autorización saben decir si un usuario o servicio tiene acceso a un recurso, pero no si la acción que propone un agente tiene sentido en ese contexto. Según un artículo de Uber Engineering que recoge InfoQ, el problema se agrava cuando los agentes razonan sobre contenido externo y ejecutan acciones en el mundo real. Ahí aparecen los riesgos de prompt injection, envenenamiento de herramientas y memoria, secuestro de objetivos, deriva de comportamiento y acciones provocadas por alucinaciones.
La respuesta de Uber es un marco de tres capas que cubre todo el ciclo de vida del agente. Antes del despliegue, cada agente debe registrarse en el Uber AI Registry, donde se fijan su identidad, responsable, persona, intenciones permitidas, restricciones, dependencias y clasificación de riesgo. Un sistema llamado Argus automatiza el proceso: analiza código fuente, prompts, configuraciones, dependencias, endpoints expuestos y rutas de invocación de herramientas para detectar debilidades. La misma disciplina se aplica a los servidores MCP y a las herramientas que usan los agentes. En tiempo de ejecución, el modelo clásico de administración, decisión y aplicación de políticas incorpora la autorización conductual, que evalúa si una acción es apropiada en su contexto. Para ello se combinan el AI Registry (que define políticas, personas, intenciones y restricciones), los AI Guards (que evalúan interacciones y acciones propuestas) y los hooks de Agent Guard, que consultan al guardia «en puntos críticos» y aplican su veredicto antes de dejar avanzar la acción. Después del despliegue, entra la garantía continua: una traza de ejecución unificada que conecta acciones del agente, llamadas a herramientas y decisiones de seguridad, más interacciones grabadas que se pueden reproducir cada vez que cambian las políticas para comprobar si siguen funcionando.
Uber no publicó métricas de impacto en lo que cubre InfoQ, pero sí compartió dificultades reales: equilibrar políticas para evitar tanto falsos positivos como protección insuficiente, minimizar la latencia, reducir la fricción para los desarrolladores y abandonar los controles genéricos a favor de políticas específicas por agente, que hicieron la aplicación «más contextual y precisa».
Qué puedes aplicar en tu empresa: seguridad de agentes de IA paso a paso
La primera lección es que la gobernanza de agentes de IA no se resuelve con el IAM que ya tienes. Los permisos siguen siendo necesarios, pero insuficientes. Si tu organización ya despliega agentes, o piensa hacerlo este año, estas acciones son un buen punto de partida:
Si quieres ver cómo se articula el control a otra escala, Uber también explicó cómo gobierna miles de herramientas de agentes con un único gateway MCP. Y para entender por qué estos controles importan, basta recordar el caso en que un agente de AWS confundió $410 con $410 millones.
Los límites del enfoque de Uber: costo y agentes que no controlas
El marco no está exento de críticas, y conviene escucharlas antes de copiarlo. Tristan G., responsable sénior de tecnología de la información en la ONU, señaló en LinkedIn que las personas, intenciones y calibraciones por agente son lo que más valor aporta, pero también lo que más cuesta, porque «el esfuerzo escala con el número de flujos de trabajo». Además, recordó que la medida más fuerte, restringir a los agentes a restricciones explícitas, es el viejo principio de mínimo privilegio. Su gran pregunta abierta: ¿qué pasa con los agentes que no construyes, como los de proveedores o SaaS, donde no puedes insertar tus propios hooks?
El arquitecto de IA Pratik Dhanave coincide en que la lección «menos glamorosa» es la mejor valorada: intenciones y restricciones explícitas por agente. El precio es la flexibilidad, y según Uber vale la pena pagarlo. Para tu empresa, esto implica empezar por los agentes de mayor riesgo y no intentar cubrirlos todos a la vez. También conviene exigir a los proveedores capacidades de auditoría y control equivalentes, y dejar los controles de proceso en manos humanas cuando hay dinero o datos sensibles de por medio, como hace Arca en gestión patrimonial.
El siguiente paso para tu seguridad de agentes de IA
El marco de Uber sigue evolucionando, pero deja una idea clara: la seguridad de agentes de IA no consiste solo en decidir quién entra, sino en vigilar qué hace cada agente con ese acceso, antes, durante y después de actuar. La pregunta para tu comité de tecnología es incómoda pero útil: si mañana uno de tus agentes recibe una instrucción maliciosa escondida en un documento, ¿tienes algo que le impida obedecerla?
Preguntas frecuentes
¿Qué es la autorización conductual en la seguridad de agentes de IA?
Es una capa que evalúa si la acción propuesta por un agente es apropiada según la petición del usuario, el propósito del agente, sus permisos y el contexto. Complementa al control de identidad, que solo verifica si el agente tiene acceso a un recurso, pero no si debería usarlo en ese momento.
¿Cuáles son las tres capas del marco de seguridad de IA de Uber?
La primera es previa al despliegue: registro del agente en el AI Registry y análisis automatizado con Argus. La segunda es de ejecución: AI Guards y hooks de Agent Guard que validan cada acción. La tercera es garantía continua: observabilidad, auditoría, explicabilidad y reproducción de interacciones tras cambios de políticas.
¿Cuáles son los principales desafíos de implementar gobernanza de agentes de IA?
Uber cita el equilibrio entre falsos positivos y protección insuficiente, la latencia en tiempo de ejecución, la fricción para los desarrolladores y el paso a políticas específicas por agente. Los críticos añaden el costo, que crece con cada flujo de trabajo, y la dificultad de controlar agentes de proveedores externos.