NousCoder-14B desafía la programación de olimpiadas con un pipeline de RL abierto

Nous Research lanzó NousCoder-14B, un modelo de 14 mil millones de parámetros para programación competitiva. Post-entrenado a partir de Qwen3-14B usando aprendizaje por refuerzo, el modelo se dirige a benchmarks de nivel olimpiada como Codeforces y AtCoder. El lanzamiento incluye todo el stack de entrenamiento: los pesos del modelo, el entorno exacto de RL, el modelo de recompensa y el harness de evaluación. Todo abierto.

NousCoder-14B fue entrenado usando el framework Atropos RL. La estructura de recompensa equilibra la corrección del código, la eficiencia algorítmica y la singularidad de la solución. El entrenamiento utilizó un conjunto de datos de problemas de programación competitiva de concursos pasados, con soluciones verificadas frente a casos de prueba oficiales. Las notas de lanzamiento reportan una tasa de resolución del 68% en un subconjunto curado de problemas de Codeforces División 1. Eso lo sitúa en el rango de rendimiento de clase GPT-4 en el mismo conjunto.

La decisión de lanzar la infraestructura completa de RL es notable. La mayoría de los modelos de programación competitiva de OpenAI y Google DeepMind publican pesos pero mantienen el pipeline de entrenamiento propietario. El lanzamiento de Nous Research incluye pesos del modelo en BF16 y FP32 en Hugging Face, el entorno de RL como una interfaz estilo Gym, el modelo de recompensa entrenado en resultados de ejecución, el harness de evaluación como un ejecutor de benchmarks configurable y archivos de configuración con registros de entrenamiento.

La programación competitiva importa más allá de las tablas de clasificación. Las habilidades involucradas, razonamiento con restricciones, selección de algoritmos, detección de errores, se superponen con la generación de código, la reparación de código y la verificación formal. Un modelo que compite a nivel de olimpiada también es un modelo que puede escribir una búsqueda binaria correcta en el primer intento en producción.

La desventaja: la escala de 14B hace que la inferencia sea práctica en configuraciones de una sola GPU, una sola RTX 4090 con 24GB puede cargar los pesos BF16, pero el entrenamiento desde cero requiere un clúster de al menos 8 B200 durante varios días. El bucle de entrenamiento de RL es particularmente intensivo en cómputo porque cada iteración implica compilar y ejecutar el código generado. Nous Research entrenó el modelo en un clúster de 64 H100 durante dos semanas.

NousCoder-14B entra en una arena que incluye DeepSeek-Coder-33B-instruct, CodeLlama-34B-pass@1 y modelos especializados como Qwen2.5-Coder. El pipeline de RL abierto puede resultar más valioso que los pesos. Permite que cualquier laboratorio con suficiente cómputo replique la receta de entrenamiento y la adapte a modelos base más nuevos.