IA multi-tenant segura: cómo Octave montó su base en Amazon Bedrock para 2.000 millones de documentos
IA multi-tenant segura: Octave sentó su base en Amazon Bedrock para 2.000 millones de documentos y recortó 50% el despliegue por caso de uso. Así lo hizo.
Octave decidió no lanzar una función de IA, sino construir primero los cimientos para todas. Esa apuesta, hecha en una plataforma con más de 14.000 clientes en dispositivos médicos, farmacéutica y alimentación, ya redujo 50% el tiempo de despliegue por caso de uso. La clave fue diseñar una IA multi-tenant donde ningún dato cruce la frontera entre un cliente y otro, ni siquiera por un error de la propia IA.
El contexto importa. Octave opera en 180 países y atiende a más del 60% de las Fortune 500. Su sistema de gestión de calidad en la nube, Reliance, da servicio a más de 650 clientes empresariales con más de 40 aplicaciones, desde gestión de quejas y acciones correctivas y preventivas (CAPA) hasta auditorías y calidad de proveedores. Allí viven más de 2.000 millones de documentos, y la memoria institucional que resuelve un problema suele estar enterrada en ellos: un defecto parecido investigado el año pasado, una CAPA que atacó la causa raíz, un hallazgo de auditoría que señalaba la misma brecha. Sin búsqueda semántica, cada investigación empieza de cero. El obstáculo: esos registros exigen el aislamiento más estricto, y son justo los que la IA necesitaba leer.
Los talleres con AWS identificaron cuatro casos de uso: resumen y priorización de quejas, monitoreo de preparación para auditorías, generación de narrativas de incidentes y puntuación predictiva de riesgo de calidad. Con decenas de aplicaciones, construir IA en silos obligaba a reconstruir la infraestructura cada vez. Por eso invirtieron el plan: primero la plataforma horizontal, luego los casos verticales. El primero fue el Complaint Triage Assistant, que sirvió para validar la arquitectura en producción.
Cuatro tensiones que definieron la arquitectura en Amazon Bedrock
Antes de elegir un modelo, el equipo resolvió cuatro problemas que tiraban en direcciones opuestas:
La solución se ordena en tres capas sobre Amazon Bedrock. La preparación de datos genera embeddings con Cohere Embed v4 y los guarda en un almacén vectorial por cliente en Amazon OpenSearch Service. La ejecución segura pasa cada solicitud por AgentCore Gateway, que aplica autenticación y políticas, y la entrega a una sesión aislada en una microVM que llama a un modelo Claude de Anthropic. La protección de contenido aplica Guardrails dos veces: filtrado de entrada y de salida. Cada etapa se puede exigir y auditar por separado.
La elección del modelo de embeddings multimodales es otra lección. Octave evaluó con su propio corpus, no con rankings públicos. Embed v4 coloca texto e imagen en un mismo espacio vectorial: la foto de una carcasa rota y el párrafo que describe el defecto se recuperan con una sola consulta. Su soporte multilingüe permite cruzar una queja en alemán con una CAPA en inglés sin traducción previa. Son dos pipelines que nunca tuvieron que construir. Además, el modelo debía estar disponible en la región, porque los datos del cliente no pueden salir de ella ni para inferir.
Qué puedes aplicar en tu empresa para escalar IA multi-tenant
Aunque Octave opera en calidad regulada, la lógica sirve para cualquier SaaS o corporación con datos sensibles. Esto se desprende del caso:
1. Construye la plataforma antes que la función. Si tienes decenas de aplicaciones, una base común es lo que permitió recortar a la mitad el despliegue de cada nuevo caso.
2. Haz del aislamiento un requisito de diseño. Acota almacén vectorial, recuperación y contexto al cliente desde el primer día, y ata los permisos del agente al usuario, no a un rol compartido.
3. Trata todo contenido externo como hostil. Filtra entradas y salidas por separado y mantén retrieval, ejecución y control en etapas distintas.
4. Evalúa modelos con tus datos. Los rankings públicos no te dicen cómo se comporta un modelo con tus fotos, tus idiomas y tus formatos.
5. Fija un compromiso medible de incorporación. "Un cliente grande en un día" obliga a tomar decisiones de arquitectura reales.
El enfoque encaja con otros casos recientes. En la seguridad de agentes de IA empresariales con AWS y Cisco se ve cómo automatizar las revisiones de riesgo. El sistema RAG con el que Amazon acelera consultas regulatorias muestra el valor de recuperar documentos en entornos regulados. Y el caso de Qlik con fuentes verificables en Amazon Bedrock refuerza la importancia de la trazabilidad.
La pregunta que debes hacerte hoy
El caso de Octave deja una advertencia: un solo incidente de divulgación entre clientes pesaría más que cualquier beneficio de la IA. Por eso su apuesta por una IA multi-tenant con aislamiento de origen a fin merece estudio. Antes de aprobar el siguiente piloto, pregúntate: ¿estás construyendo una función aislada o la base sobre la que se apoyarán las próximas diez?
Preguntas frecuentes
¿Qué es una IA multi-tenant y por qué importa en SaaS?
Es una arquitectura de IA que atiende a muchos clientes (tenants) desde una misma plataforma, con sus datos totalmente separados. Importa porque, como muestra Octave, una sola filtración entre clientes tendría consecuencias regulatorias mayores que cualquier beneficio. Por eso almacén vectorial, recuperación y contexto se acotan a un cliente.
¿Qué resultados obtuvo Octave con su base de IA en Amazon Bedrock?
La base común redujo 50% el tiempo de despliegue por caso de uso. Además, el equipo vectorizó más de 2.000 millones de documentos y validó la arquitectura en producción con el Complaint Triage Assistant. Se propuso incorporar incluso a su mayor cliente en una jornada laboral.
¿Por qué Octave eligió Cohere Embed v4 en Amazon Bedrock?
Porque coloca texto e imágenes en un mismo espacio vectorial, así una foto de un defecto y su descripción se recuperan con una consulta. También es multilingüe, sin traducción previa, y está disponible en la región, algo clave porque los datos del cliente no pueden salir de ella ni durante la inferencia.