Es una técnica de compresión de modelos en la que un modelo grande y complejo (el ""maestro"") entrena a un modelo más pequeño y eficiente (el ""estudiante"") para que imite su comportamiento. El objetivo es transferir el ""conocimiento"" del modelo grande al pequeño, logrando un rendimiento similar con muchos menos recursos computacionales. Su importancia radica en que permite desplegar modelos de alta calidad en dispositivos con capacidad limitada (como móviles), reduciendo alucinaciones y manteniendo decisiones trazables en un formato más ligero.