destilación en política
3 published articles
Destilación de LLM
La destilación de LLM se estanca cuando el contexto se vuelve estático. Este artículo lo hace evolucionar
Los contextos pueden llevar las preferencias de la tarea al entrenamiento de LLM, pero una vez destilados en un estudiante añaden poca supervisión. Flux-OPD de la Universidad de Pekín mantiene el contexto en movimiento con el estudiante y utiliza un término de conflicto para ponderar las correcciones del profesor. El resumen reporta mejoras sobre los paradigmas OPD existentes sin citar cifras.
2026-07-31
Investigación
La brecha de supervisión en RL agéntico acaba de recibir una solución gracias a la retrospectiva
SEED (Destilación Autoevolutiva en Política) permite que un LLM analice sus propias trayectorias pasadas, extraiga habilidades retrospectivas reutilizables en lenguaje natural y luego destile esas lecciones de vuelta a su política durante el RL. El resultado: una supervisión más densa y en política que mejora la eficiencia de muestreo y se generaliza a tareas no vistas.
2026-07-25
Investigación en IA
Aprendizaje por refuerzo para generación de imágenes: Qwen-Image-2.0-RL obtiene un sistema de recompensa compuesto
El informe técnico de Qwen-Image-2.0-RL detalla un pipeline de post-entrenamiento que combina RLHF, destilación on-policy y modelos de recompensa compuestos para mejorar la calidad de texto a imagen y edición de imágenes. El enfoque produce mejoras medibles en calidad estética, seguimiento de instrucciones y preservación de identidad facial.
2026-07-20