En el ámbito del aprendizaje automático, los modelos de mezcla de expertos (MoE) han demostrado ser una arquitectura eficaz para escalar el rendimiento sin multiplicar el coste computacional de forma lineal. Sin embargo, entrenar estos modelos desde cero sigue siendo prohibitivamente caro para la mayoría de las organizaciones. Una alternativa práctica es el reciclaje de modelos densos preentrenados, conocido como upcycling, que transforma un modelo denso en uno disperso tipo MoE. El desafío clave radica en preservar la estructura de pesos original mientras se introduce suficiente diversidad entre los expertos, especialmente cuando los datos supervisados son escasos. En este contexto, el método SPRI (Inicialización Residual con Descomposición en Valores Singulares) ofrece una solución innovadora: distribuye residuos particionados por SVD procedentes de las capas feed-forward del modelo denso, inyectando diversidad controlada basada en la estructura espectral del preentrenamiento. Esto permite que los expertos se especialicen sin perturbar excesivamente los parámetros aprendidos, algo crítico en entornos con pocos datos etiquetados, como la traducción automática de voz a texto multilingüe. Los resultados experimentales muestran mejoras significativas en métricas como BLEU y COMET respecto a modelos densos ajustados completamente y a otras líneas base de upcycling. Esta técnica no solo acelera la adopción de MoE en escenarios reales, sino que abre la puerta a aplicaciones más eficientes de inteligencia artificial. Empresas que buscan integrar modelos avanzados en sus procesos pueden beneficiarse de este enfoque, combinándolo con aplicaciones a medida que aprovechen dicha eficiencia computacional. En Q2BSTUDIO, entendemos que la implementación de estas soluciones requiere un profundo conocimiento técnico y una estrategia alineada con los objetivos de negocio. Nuestros servicios de ia para empresas incluyen desde el desarrollo de agentes IA personalizados hasta la integración de modelos generativos en software a medida. Además, apoyamos a nuestros clientes en aspectos complementarios como ciberseguridad, servicios cloud aws y azure para infraestructura escalable, y servicios inteligencia de negocio con herramientas como power bi para visualizar y explotar los resultados de estos modelos. La combinación de técnicas como SPRI con plataformas cloud robustas permite a las organizaciones desplegar sistemas de traducción, clasificación o generación de contenido con un coste ajustado y un rendimiento superior. En definitiva, la innovación en arquitecturas MoE recicladas representa una oportunidad real para democratizar el acceso a modelos de lenguaje y visión de última generación, y en Q2BSTUDIO trabajamos para que esa tecnología se traduzca en valor tangible para cada proyecto.