5 min de lectura

Gobernanza de agentes de IA: así controla BMW cientos de agentes para más de 12.500 desarrolladores

Gobernanza de agentes de IA en BMW: 12.500 desarrolladores, niveles de autonomía y controles en CI/CD. Descubre el modelo que puedes copiar en tu empresa.

Red de agentes de IA luminosos fluyendo por puertas de control hacia miles de desarrolladores, símbolo de gobernanza a escala

Más de 12.500 desarrolladores trabajan en unos 500 millones de líneas de código de software de vehículo en el área de I+D de BMW Group. A eso se suma un backend en la nube con más de 1.300 microservicios que da servicio a 24 millones de vehículos. En un entorno así, la gobernanza de agentes de IA no puede dejarse para después. Y BMW lo sabe: lleva desde 2023 construyendo y operando sistemas agénticos a escala empresarial. Ahora comparte, en el blog de AWS Machine Learning, el manual que ha destilado de esa experiencia.

El problema que describe BMW es conocido por cualquier CTO. Los equipos necesitan libertad para experimentar rápido, pero la empresa necesita imponer estándares de seguridad, composición y costos. Sin equilibrio, el resultado es un archipiélago de «islas de IA» y trabajo duplicado, algo especialmente grave con cientos de equipos distribuidos por todo el mundo construyendo agentes. La premisa de BMW es construir agentes que cooperen desde el principio, sin obligar a todos a usar un único framework. Su arquitectura gira en torno al agent harness: una capa de ejecución alrededor del modelo de lenguaje que aporta el bucle de ejecución, el despacho de herramientas, la memoria y los ganchos de observabilidad. Cada práctica se codifica como infraestructura como código, de modo que adoptarla sea repetible, auditable y obligatoria sin frenar a DevOps. BMW no publica métricas de productividad ni de ROI. Lo que ofrece es un patrón de arquitectura probado en producción.

Gobernanza de agentes de IA: tres propiedades que BMW exige desde el diseño

BMW defiende que la gobernanza debe ser estructural y acompañar todo el ciclo de vida del agente. Para ello propone tres propiedades:

  • Independiente del framework y externalizada. La autenticación, la autorización, los límites de uso y el filtrado de contenido se aplican en la capa de integración (un gateway MCP, un registro central de agentes y una frontera de orquestación), no dentro del código de cada agente. Así, las reglas sobreviven a migraciones de framework, cambios de modelo y reorganizaciones.
  • Sensible al dominio y graduada. No es lo mismo redactar documentación que escribir en una base de datos de producción. BMW define tres niveles de autonomía de los agentes: nivel 0 (humano en el circuito, cada acción requiere aprobación), nivel 1 (humano sobre el circuito, el agente actúa y una persona revisa de forma asíncrona) y nivel 2 (autónomo dentro de límites estrictos, reservado a operaciones de bajo riesgo con historial verificado). La clave: la confianza se asigna por paso, no por agente.
  • Aplicada de forma determinista. Las reglas se ejecutan como código fuera del razonamiento del agente, sobre todo en el pipeline de CI/CD. Los permisos, las políticas como código y las validaciones de cumplimiento bloquean cada despliegue, y ni el agente ni sus prompts pueden saltárselos. Los controles de salida, como las listas de destinatarios permitidos y el escaneo de secretos, evitan que un agente con datos confidenciales los filtre mediante una llamada aparentemente legítima.
  • Evaluación continua de agentes: medir antes de confiar

    La observabilidad de un agente va más allá de comprobar si un servicio devolvió un HTTP 200. La pregunta es si el agente produjo una respuesta fiel y conforme a las políticas, y si eso se puede demostrar con trazas. BMW exige un dataset de referencia (ground truth) con consultas habituales y casos límite desde el primer día, no prompts sintéticos. La instrumentación cubre tres dimensiones:

    1. Trazado de intención: razonamientos, llamadas a herramientas y recuperaciones de contexto, con spans de OpenTelemetry que enlazan la petición del usuario con el resultado final.
    2. Verificación y evaluación como CI: cualquier cambio (un prompt, una herramienta nueva, un cambio de modelo) activa el pipeline. Primero corren pruebas de regresión deterministas y, solo si pasan, se evalúa la salida no determinista contra el dataset con umbrales de calidad. Un agente sin instrumentación falla la validación.
    3. Telemetría de enrutamiento entre modelos: se registra qué modelo se eligió y por qué. Los niveles de modelo se derivan de los resultados de evaluación por tipo de tarea, y los malos resultados vuelven como nuevos casos de prueba.

    Cómo aplicar esta gobernanza de agentes de IA en tu empresa

    BMW también recomienda empezar acotado y diseñar para la composición, pasando de agentes generalistas monolíticos a varios agentes especializados, como ya ocurrió con los microservicios. Antes de escribir lógica de orquestación, cada equipo debe producir cinco artefactos: alcance definido, modelo de interacción, definición precisa de herramientas, dataset de referencia y criterios de evaluación. Para llevarlo a tu organización:

  • Saca las reglas del agente. Centraliza autenticación, límites y filtrado en un gateway. Mira cómo lo resuelve Uber con un único gateway MCP para 5.000 herramientas en 800 servidores.
  • Empieza en nivel 0 y sube con datos. Todo agente nuevo arranca con aprobación humana. Sube de nivel paso a paso cuando las evaluaciones lo respalden, no por intuición.
  • Convierte el pipeline en tu policía. Si una política no se puede comprobar en CI/CD, no es una política, es una recomendación.
  • Crea el dataset de evaluación antes del agente. Sin él, no hay forma de medir si un cambio de modelo mejora o empeora. Es la misma disciplina que permite a Airbnb comparar ocho modelos nuevos en cinco semanas por costo por tarea.
  • Piensa en qué debe hacer el agente, no solo en qué puede. Es el enfoque que explica Uber en su visión de seguridad de agentes.
  • El error que BMW intenta evitar es el más común: dejar que cada equipo invente su propio control y descubrir, un año después, que nada es auditable ni reutilizable. La instrumentación y la gobernanza no se pueden añadir a posteriori.

    Si hoy tu empresa tiene agentes en producción, ¿podrías demostrar a un auditor qué hizo cada uno, con qué permisos y bajo qué evidencia de calidad? Si la respuesta es no, tu gobernanza de agentes de IA es la prioridad antes de escalar.

    Preguntas frecuentes

    ¿Qué es la gobernanza de agentes de IA según BMW?

    Es un conjunto de reglas (autenticación, autorización, límites de uso y filtrado de contenido) que se aplican fuera del código de cada agente, en un gateway MCP, un registro central y el pipeline de CI/CD. Así sobreviven a cambios de framework o de modelo y ningún agente puede saltárselas.

    ¿Qué son los niveles de autonomía de los agentes de IA?

    BMW usa tres niveles. En el nivel 0, una persona aprueba cada acción. En el nivel 1, el agente actúa y un humano revisa después. En el nivel 2, opera solo dentro de límites estrictos aplicados por código. Se asignan por paso del flujo, no por agente, y suben según los datos de evaluación.

    ¿Cómo evalúa BMW la calidad de sus agentes de IA?

    Con un dataset de referencia creado desde el primer día y un pipeline de CI/CD. Cualquier cambio dispara primero pruebas de regresión deterministas y, si pasan, una evaluación de la salida contra umbrales de calidad. Los agentes sin instrumentación fallan la validación y los malos resultados se convierten en nuevos casos de prueba.