BLISS: Método ligero de influencia bilevel para selección de datos
BLISS: método ligero para selección de datos en preentrenamiento de LLMs. Logra 1.7x de aceleración sin modelos externos.
#entrenamiento
Escalamiento de profundidad con expansión de capas cero/uno
Descubre cómo la expansión de capas cero/uno acelera el entrenamiento hasta 5x y ahorra un 80% de cómputo sin perder rendimiento.
Entrenamiento basado en población iterado con reinicios sin tareas específicas
Descubre IPBT, un nuevo algoritmo que optimiza hiperparámetros automáticamente en redes neuronales sin aumentar el presupuesto. ¡Mejora tus modelos!
Aproximación con Redes Neuronales Multigrado
Descubre cómo el enfoque Multigrade Deep Learning permite entrenar redes profundas por grados, reduciendo errores residuales y garantizando convergencia uniforme en arquitecturas ReLU.
Aprendizaje robusto de neurona DRO grupal
Algoritmo eficiente para aprendizaje robusto de neuronas con DRO grupal, tolerante a ruido y cambios de distribución. Ideal para preentrenamiento de LLMs.
SurrogateSHAP: Atribución de contribuyentes sin reentrenamiento para modelos T2I
Aprende cómo SurrogateSHAP atribuye contribuyentes en modelos T2I sin reentrenamiento, reduciendo costos y mejorando transparencia.
Quartet II: Pre-entrenamiento de LLMs en NVFP4
Descubre Quartet II, el método que optimiza el pre-entrenamiento de LLMs en formato NVFP4 en GPUs Blackwell. Mayor precisión y velocidad en tus modelos.
De cero a héroe: Detección de anomalías zero-shot en tablas
Descubre OUTFORMER, el modelo base zero-shot que revoluciona la detección de anomalías en tablas. Sin etiquetas, rápido y preciso. ¡Lee más!
Marco APTF: Entrenamiento consciente de predecibilidad en series temporales
Mejora el pronóstico y clasificación de series temporales con APTF, un marco que identifica muestras de baja predecibilidad y las penaliza progresivamente.
Pérdidas LK: optimización directa de aceptación para decodificación especulativa
Optimiza la tasa de aceptación con pérdidas LK en decodificación especulativa, logrando hasta un 10% más de longitud.
Optimización estable de políticas con convexidad de logits
Descubre cómo la convexidad de logits estabiliza la optimización de políticas en RL, superando la inestabilidad del PPO. Resultados probados en múltiples benchmarks.
Optimización de Políticas con Mean Flow (MFPO)
Descubre cómo MFPO acelera el entrenamiento e inferencia en aprendizaje por refuerzo superando limitaciones de modelos de difusión.
Preferencia paradójica por el ruido en RNN
Descubre por qué las RNN entrenadas con ruido funcionan mejor con ese mismo ruido. Un análisis sorprendente de la dinámica estocástica.
Cómo construí mi propio entrenador de IA gratis y dejé de pagar apps de fitness
Descubre cómo crear tu propio entrenador de IA gratuito que analiza tus datos de Garmin, se adapta al clima y te habla por Telegram. ¡En solo 30 minutos!
Soy maratonista: lo que más me sorprendió de Hyrox
Descubre lo que más sorprendió a un maratonista en su primera competencia Hyrox. ¿Es más duro que un maratón? Lee la comparativa.
Escalado temporal universal de 1/3 en distribuciones puntiagudas
El entrenamiento de LLMs converge lentamente por una razón fundamental: softmax y entropía cruzada generan un escalado de pérdida universal 1/3. Descubre las implicaciones.
Datos sintéticos de calidad permiten primeras leyes de escalado para LLMs en recomendación
Descubre cómo datos sintéticos de calidad permiten las primeras leyes de escalado para LLMs en recomendación, superando datos reales.
Transformers con normalización de capa aprenden el método de potencia
Transformers con normalización de capa aprenden el método de potencia por gradiente descendente, revelando un sesgo algorítmico que mejora la predicción de componentes principales.
Entrenamiento Cognitivo por Pares para Mejorar la Metacognición en LLMs
El nuevo método CPT mejora el equilibrio entre razonamiento y metacognición en LLMs, logrando +2.2 puntos en matemáticas y +5.2 en F1 de abstención. Descubre cómo.
CryoProt: Preentrenamiento de proteínas con interacciones en crio-EM
CryoProt revoluciona el análisis de proteínas con IA: modela interacciones entre cajas en mapas crio-EM para predicciones precisas. Mejora hasta un 12%.