interpretabilidad
3 published articles
IA explicable
La perilla que nadie quería girar: dtControl2+ε permite sacrificar optimalidad por claridad
Una nueva extensión de dtControl2 permite a los ingenieros intercambiar una cantidad precisa de rendimiento por árboles de decisión más pequeños y comprensibles. La herramienta, dtControl2+ε, garantiza ε-optimalidad mientras poda árboles hasta órdenes de magnitud con menos nodos.
2026-08-05
Interpretabilidad
Las puntuaciones altas de reconstrucción no significan que tus explicaciones de IA sean verdaderas
Los autoencodificadores de lenguaje natural puntúan las explicaciones mediante reconstrucción, pero un nuevo estudio muestra que esta prueba se supera incluso cuando el 98% de las afirmaciones específicas son falsas. Los autores presentan RECAP, un método de entrenamiento que permite a las sondas verificar de forma independiente el contenido designado, superando la detección adversarial de mentiras con un AUC de 0.95 frente al nivel aleatorio 0.51 de los métodos estándar.
2026-07-24
Neurociencia
La neurociencia de IA que finalmente explica qué hacen realmente las partes del cerebro
La prueba causal generativa (GCT) destila modelos de predicción cerebral basados en LLM en explicaciones verbales concisas, luego utiliza un LLM para escribir historias que prueban causalmente esas afirmaciones en fMRI. En experimentos, GCT confirmó la selectividad conocida, diferenció regiones vecinas de procesamiento de lugares y descubrió nuevas microrregiones prefrontales sintonizadas con conceptos como diálogo y mediciones.
2026-07-11