Código generado por IA: Claude ya escribe el 90% del software de Anthropic y su propia empresa advierte del riesgo

En septiembre, más del 90% del código de Anthropic lo escribió Claude, su propio modelo. Es el dato más llamativo de la documentación de su salida a bolsa, y no el único: el volumen medio diario de código generado por IA por ingeniero se multiplicó por más de 45 en un año. Ahora bien, la empresa que más ha ganado con esta tecnología es también la que lanza la advertencia más seria.

Qué dice el S-1/A de Anthropic sobre la automejora recursiva

Según ABC Tecnología, la versión actualizada del documento de salida a bolsa (S-1/A) incluye advertencias explícitas sobre la automejora recursiva: el momento en que un modelo es lo bastante avanzado como para desarrollar y entrenar a su sucesor sin intervención humana. Anthropic reconoce que, según sus estimaciones internas y sus expectativas sobre modelos futuros, podría alcanzar «de forma inminente» la definición de «progreso drásticamente acelerado atribuible a la IA» de su Política de Escalado Responsable.

La compañía de Dario Amodei lo resume así: usar la IA para construir una IA más capaz «también podría suponer un riesgo considerable para la seguridad, sobre todo si acelera bruscamente el ritmo del progreso». La preocupación es práctica. Los análisis de seguridad dependen de datos que llegan con retraso, así que una aceleración peligrosa podría producirse antes de que alguien la detecte y la evalúe.

El 90% de septiembre es la cifra más reciente de una tendencia que ya se veía. En septiembre, El Mundo informaba de que Claude hacía por sí solo alrededor de una cuarta parte del trabajo necesario para desarrollar nuevos modelos de Anthropic. Y Yahoo recoge que la IA ya se usa fuera de ingeniería: Rao describió su organización financiera como un campo de pruebas, donde Claude produce los estados financieros y deja la revisión mensual entre un 90% y un 95% lista antes de que intervenga una persona.

La respuesta de Anthropic no es frenar. Es mantener la supervisión humana de la IA: la empresa afirma que no prevé poder usar Claude de forma segura para diseñar y construir de manera totalmente autónoma generaciones sucesivas de modelos de frontera sin «supervisión o comprensión humana significativa». Por eso revisa sus normas internas para «mantener a los humanos al mando».

Cómo aplicar el desarrollo de software con IA sin perder el control

No hace falta ser un laboratorio de frontera para extraer lecciones. Si tu equipo ya usa asistentes de código, la pregunta no es si la IA escribirá la mayor parte del software, sino quién entiende y responde por lo que escribe.

Mide resultados, no volumen. Multiplicar por 45 las líneas de código por ingeniero no multiplica por 45 el valor entregado. Spotify, por ejemplo, duplicó sus cambios de código y descubrió que escribir ya no es el cuello de botella. Revisar, probar y desplegar es lo que limita ahora.

Refuerza la revisión antes de acelerar la generación. Si el código se produce más rápido de lo que se puede entender, acumulas deuda técnica y riesgo. Es el debate que ya plantea la revisión de código con IA en Anthropic, donde los ingenieros ponen a prueba la idea de que nadie necesita entender todo el sistema.

Define líneas rojas de autonomía. Anthropic distingue entre usar la IA como ayuda y dejar que diseñe sus propios sucesores sin control. Haz lo mismo: decide qué sistemas críticos (pagos, seguridad, datos de clientes) exigen siempre una aprobación humana.

Copia el patrón «90% listo, humano cierra». El caso de finanzas de Anthropic muestra un modelo replicable: la IA prepara casi todo el trabajo y una persona valida el último tramo, el que tiene más riesgo.

Planifica el impacto en talento. Cuando la IA absorbe tareas de entrada, cambia la composición de los equipos. Anthropic, por ejemplo, contrata cada vez menos perfiles junior. Conviene diseñar desde ahora cómo formarás a la próxima generación de revisores.

Cuándo mover ficha y qué errores evitar

El momento de adoptar es ahora, pero con gobernanza desde el primer día. Anthropic parte de una ventaja que tú no tienes: construye los modelos y aun así admite que sus protocolos de seguridad podrían quedarse cortos. Un error frecuente es medir la adopción solo por la cantidad de código aceptado. Otro es tratar la supervisión como un freno y no como parte del diseño. Un tercero es no documentar qué fragmentos escribió una máquina, lo que complica auditorías y respuesta a incidentes.

Una matización necesaria: el 90% y el factor 45 son cifras declaradas por la propia compañía en un documento regulatorio, y miden producción de código, no calidad ni retorno económico. Sirven como señal de dirección, no como promesa que tu empresa vaya a igualar.

La lección de fondo es incómoda y útil. Si quien más sabe de esta tecnología insiste en mantener a los humanos al mando, tu organización debería hacer lo mismo. ¿Tienes definido hoy quién valida el código generado por IA que llega a producción, y qué pasaría si mañana tu equipo escribiera diez veces más?