Microsoft ha anunciado la llegada de Mu, su nuevo modelo de lenguaje diseñado para operar eficientemente en dispositivos locales. Este desarrollo innovador tiene como objetivo mejorar la interacción con el agente de Configuración en Windows, ofreciendo una experiencia más fluida y natural a los usuarios.
Mu se caracteriza por su capacidad de inferir relaciones complejas entre entradas y salidas, destacándose por su rendimiento notable en dispositivos equipados con Unidades de Procesamiento Neural (NPU). Una de sus principales ventajas es su rapidez, ya que puede procesar más de 100 tokens por segundo, lo que lo hace perfecto para entornos que demandan respuestas rápidas y precisas.
El modelo utiliza una arquitectura de transformador optimizada basada en un diseño de codificador-decodificador, lo cual reduce la latencia y mejora el rendimiento en comparación con modelos que solo emplean decodificación. Durante su desarrollo, se implementaron diversas optimizaciones para asegurar su eficacia en NPUs, incluyendo ajustes arquitecturales y una distribución optimizada de parámetros. Estas mejoras permiten maximizar la eficiencia del modelo al ejecutar operaciones específicas de hardware.
Además, Mu ha incorporado técnicas avanzadas de cuantización, garantizando un funcionamiento óptimo sin sacrificar precisión. Para el desarrollo del agente en Configuración, Microsoft entrenó a Mu con millones de ejemplos, enfocándose en consultas de lenguaje natural que faciliten la modificación de los ajustes del sistema. El modelo ha logrado reducir los tiempos de respuesta a menos de 500 milisegundos, cumpliendo con los ambiciosos objetivos planteados.
Este nuevo avance no solo perfecciona la experiencia del usuario mediante interacciones más naturales con el sistema operativo, sino que también supone un progreso importante en la operatividad de los modelos de lenguaje en dispositivos de menor potencia. La colaboración con equipos de ciencia aplicada ha sido fundamental para el refinamiento del modelo, priorizando siempre la retroalimentación de los usuarios para mejorar continuamente la experiencia.
