Personalización con LLM: Pinterest sustituye su sistema de clustering por un modelo de 4.000 millones de parámetros y sube 1,3% las aperturas push
Personalización con LLM: Pinterest cambió su clustering por un modelo de 4B y subió 1,3% las aperturas push. Descubre cómo lo hizo y qué aplicar en tu empresa.

Pinterest desmontó un pipeline de clustering de varias etapas y lo reemplazó por un solo modelo de lenguaje de 4.000 millones de parámetros. El resultado: 1,1% más de clics en correos y 1,3% más de aperturas de notificaciones push, medidos en pruebas A/B en Estados Unidos y Canadá frente a un sistema que ya funcionaba. Son cifras modestas en apariencia, pero a escala de cientos de millones de usuarios cambian la ecuación. Este caso de personalización con LLM muestra que no hace falta un modelo gigante para mejorar la experiencia: hace falta saber qué problema le entregas.
El punto de partida es el concepto de «journey» (trayectoria): una meta que conecta intereses, intención y contexto a lo largo de varias sesiones. Quien reforma una cocina busca diseños de gabinetes, guarda ideas de encimeras y luego explora azulejos e iluminación. El sistema anterior extraía palabras clave, las agrupaba con embeddings y clustering jerárquico, nombraba los grupos y los ordenaba con otros modelos y reglas de diversidad. Funcionaba, pero fragmentaba proyectos relacionados, generaba etiquetas genéricas y confundía clics casuales con intención real. El nuevo enfoque trata el problema como una tarea de generación. Un modelo Qwen3 de 4B, ajustado con SFT y LoRA, lee hasta 150 acciones de un usuario en 360 días, más un perfil compacto, y devuelve una lista ordenada de trayectorias. Las búsquedas y los guardados pesan más que los clics sueltos. Y el modelo puede devolver una lista vacía si no hay evidencia suficiente.
Para entrenarlo sin un gran conjunto de datos etiquetados a mano, Pinterest usó modelos de frontera que generaron ejemplos sintéticos a partir de historiales reales (una técnica de destilación). Probó tamaños de 0,6B a 8B y se quedó con 4B por el equilibrio entre calidad y rendimiento. Según el resumen técnico publicado en devlogs, la infraestructura de servicio, con NVIDIA Dynamo, vLLM, PagedAttention y caché de prefijos, alcanza unas 775 solicitudes por segundo con unas 100 GPU. Una de las mayores ganancias de eficiencia vino de no ejecutar el modelo: el sistema omite a los usuarios procesados en los últimos días.
El contexto ayuda a dimensionar el salto. Según el caso documentado por ZenML sobre el sistema anterior, las notificaciones basadas en trayectorias ya lograban un 88% más de clics en correo y un 32% más de aperturas push que las basadas solo en intereses. El LLM no inventó el valor de las trayectorias: lo refinó. Y según VentureBeat, Pinterest aplica una lógica similar en otro frente, donde su CTO Matt Madrigal recortó 90% los costos de inferencia sustituyendo la capa de visión de Qwen3-VL por embeddings propios. El patrón se repite: modelos abiertos, piezas propias donde importan y obsesión por el costo por inferencia.
Cómo aplicar la personalización con LLM en tu empresa
La lección no es «usa un LLM», sino cómo Pinterest lo integró. Estas son las acciones concretas que se desprenden del caso:
Costos y riesgos de la personalización con LLM a gran escala
El caso no está libre de compromisos. Según el análisis de devlogs, operar un LLM de 4B implica más gasto en GPU que un clustering clásico, y las mejoras futuras, como los Semantic IDs que comprimen la representación de los pines, reducen la legibilidad al depurar prompts. Además, las ganancias reportadas (1,1% y 1,3%) se midieron contra el sistema de clustering, no contra una situación sin personalización. Y los resultados corresponden a EE. UU. y Canadá. Antes de copiar el modelo, calcula si ese porcentaje, multiplicado por tu base de usuarios, cubre el costo de cómputo.
Cuándo apostar por la personalización con LLM
El momento adecuado llega cuando tienes historiales de comportamiento largos, un sistema de recomendación que ya rinde y un problema de intención que las reglas o el clustering no capturan bien. Si cumples esas tres condiciones, el caso de Pinterest ofrece una receta clara: destila, ajusta un modelo pequeño, mide con rigor y ahorra inferencia. La pregunta para tu equipo no es si necesitas un LLM gigante, sino qué parte de tu pipeline de personalización con LLM podrías simplificar hoy con un modelo de 4B y un buen prompt.
Preguntas frecuentes
¿Qué resultados obtuvo Pinterest con su modelo de personalización con LLM?
En las pruebas A/B iniciales en EE. UU. y Canadá, el nuevo sistema basado en un LLM de 4B logró un 1,1% más de clics en correo y un 1,3% más de aperturas push frente al sistema de clustering anterior. También reportó mejoras estadísticamente significativas en engagement y retención.
¿Cómo entrenó Pinterest el modelo sin un gran conjunto de datos etiquetados?
Usó modelos de frontera para generar ejemplos sintéticos a partir de historiales reales de actividad. Con ellos ajustó modelos abiertos Qwen3 mediante fine-tuning supervisado y LoRA. Probó tamaños de 0,6B a 8B y eligió el de 4B por su equilibrio entre calidad de inferencia y rendimiento de servicio.
¿Qué infraestructura necesita la inferencia de LLM a escala como la de Pinterest?
Pinterest usa NVIDIA Dynamo frente a workers de vLLM en GPU L40S, con continuous batching, PagedAttention y enrutamiento por caché de prefijos. Según devlogs, alcanza unas 775 solicitudes por segundo con unas 100 GPU. Además, omite a los usuarios procesados hace pocos días para reducir cómputo.
Fuentes
- Pinterest Replaces Journey Clustering with 4B Qwen3 LLM, Reports Improved Engagement
- From Activity to Intent: Generating User Journeys with LLMs
- Pinterest: User Journey Identification Using LLMs for Personalized ...
- Identify User Journeys at Pinterest - daily.dev
- AI Costs Down 90%: The Pinterest Playbook | Epinium
- Pinterest cut AI costs 90% by gutting a frontier model's vision layer