Plataforma de IA generativa empresarial: DoorDash la usa con 5.000 empleados y el 40% no son ingenieros

Cuando le pidieron firmar el primer contrato con OpenAI en abril de 2023, Swaroop Chitlur, hoy líder de GenAI Platform en DoorDash, recuerda que sudaba: ¿de verdad iban a gastar tanto dinero? Hoy esa cifra "parece menor", y la plataforma de IA generativa empresarial que nació de aquella duda da servicio a más de 5.000 usuarios internos, con 45 nuevas altas cada día. El dato que más sorprendió a su propio equipo: el 40% no son ingenieros. Legal, ventas, operaciones y estrategia ya consumen APIs de modelos de lenguaje.

La historia, presentada por Chitlur y su colega Siddharth Kodwani en QCon AI Boston 2026, no va de un modelo mágico. Va de plomería. Según el resumen de la charla, cuando DoorDash empezó a adoptar LLMs, cada equipo reimplementaba lo mismo: lógica de reintentos, mecanismos de respaldo, control de costos, versionado de prompts y procesamiento por lotes. Unos usaban OpenAI directamente, otros pasaban por Bedrock, y nadie tenía observabilidad consistente. La respuesta fue una capa de componentes compartidos: un LLM Gateway (enrutamiento, observabilidad y fallback), una plataforma de Batch Inference para cargas masivas, un Agentic Gateway para flujos de varios pasos y plantillas del Agent Development Kit (ADK). En el camino, la compañía pasó de una estrategia centrada en proveedores a una abierta a modelos de pesos abiertos. Su propuesta de valor interna es ayudar a los equipos de producto a optimizar la ecuación entre precisión, latencia y costo.

Las tres decisiones que explican el éxito de su estrategia de IA generativa

Primero, cambiaron de cliente. El equipo nació dentro de ML Platform y hablaba con ingenieros de machine learning. Un día propusieron "usar un notebook" y alguien respondió: "¿qué es un notebook?". Ahí entendieron que su audiencia era toda la empresa y pivotaron a APIs y SDKs primero, no a GPUs ni cómputo.

Segundo, eligieron impacto de negocio sobre moda. Decidieron no construir otro chatbot ni agentes de código. Observaron que la automatización reduce costos y que la recomendación y personalización aumentan ingresos, y se enfocaron ahí.

Tercero, la adopción trajo responsabilidad. Con muchos proveedores (OpenAI, Claude, Gemini, modelos abiertos) y equipos experimentando a la vez, necesitaban una sola superficie para toda la compañía. De ahí el LLM Gateway, que según el abstract gestiona límites de tasa entre proveedores con cuotas distintas, atribución de costos y prompt caching.

Kodwani y Chitlur añaden una advertencia en la entrevista previa: el modelo se volvió "la parte fácil". Lo difícil es todo lo que lo rodea: enrutamiento, herramientas, identidad, evaluaciones, gobernanza y optimización. Es una pista de por qué DoorDash sigue apostando por agentes de IA en otras áreas; se ha reportado, por ejemplo, una reducción de latencia de 16 a 2 segundos en reórdenes de supermercado con agentes. Y su caso con Amazon Bedrock en el centro de contacto, que recibe cientos de miles de solicitudes diarias, muestra que la base compartida sirve a casos muy distintos.

Qué puedes aplicar en tu empresa

No necesitas el tamaño de DoorDash para copiar el método. Estas son las lecciones más transferibles:

Define tus principios antes de elegir tecnología. DoorDash operó con una regla simple: construir productos, no sistemas, y "hacer fácil lo correcto". Si las buenas prácticas son opcionales, nadie las sigue; hay que integrarlas en la plataforma.

Habla con tus usuarios reales, no con los que supones. Si tu público interno incluye áreas de negocio, ofrece APIs y plantillas, no infraestructura.

Centraliza el acceso a modelos pronto. Una pasarela única evita que cada equipo reescriba reintentos y facturas sin dueño. Como advierten los ponentes, centralizar demasiado pronto frena a los equipos, pero descentralizar demasiado tiempo acumula trabajo duplicado, gasto sin responsable y riesgo de seguridad.

Mide tres variables siempre: precisión, latencia y costo. Es el hilo conductor de todos sus proyectos y obliga a decidir cuándo un modelo abierto es suficiente.

Decide qué fricción vale la pena conservar. Onboarding sin fricción es deseable, pero la gobernanza y la identidad no deberían sacrificarse.

Evalúa si la plataforma realmente ayuda. DoorDash dice medir si aporta valor o es "otra capa que aprender". Haz lo mismo con adopción, tiempo de integración y costo por caso de uso.

Si buscas comparables, Shopify también apostó por sistemas internos y presupuesto abierto de tokens para escalar la IA en su organización. En el frente de costos, la arquitectura híbrida local-first que redujo 75% el gasto en IA empresarial ilustra por qué mirar modelos abiertos puede ser rentable. Y para quienes gestionan muchos modelos a la vez, el Model Lifecycle Graph de Netflix ofrece otra forma de ordenar la complejidad.

El momento de actuar en tu plataforma de IA generativa empresarial

La lección de fondo es que el liderazgo en IA no consiste en "adoptar más rápido", sino en preservar la velocidad de los equipos de producto mientras construyes primitivas horizontales fiables. Una plataforma de IA generativa empresarial bien pensada no frena la innovación: elimina el trabajo repetido y deja a cada equipo concentrarse en lo que diferencia al negocio. Ahora te toca revisar: ¿cuántos de tus equipos están resolviendo hoy los mismos reintentos, costos y permisos por separado?