Métricas Geométricas y LLMs: Qué Miden y Cuándo Funcionan
Descubre qué miden las métricas geométricas en LLMs y cómo pueden mejorar la evaluación de modelos de lenguaje. Un estudio revela cuándo funcionan y sus limitaciones.
#dimensionalidad
Visualizando la geometría del espacio latente de LLMs con reducción de dimensionalidad
Descubre cómo visualizar la geometría oculta de los modelos de lenguaje como GPT-2 y LLaMa usando PCA y UMAP. Patrones sorprendentes en atención y MLP.
Bandit Logístico Multinomial Eficiente con Frequent Directions
Descubre cómo EOFD-MLogB reduce drásticamente el tiempo y espacio en bandits logísticos multinomiales usando sketching de matrices.
Marco NVAR Adaptativo Mejorado con PCA para Pronóstico de Alta Resolución de SST
Marco NVAR Adaptativo con PCA para pronóstico de alta resolución de SST en el Mar del Este. Reduce errores y es rápido para tiempo real.
Mejora de Embedding Espectral con Transferencia Robusta y Flexible en EHR
Descubre cómo mejorar embeddings espectrales en EHR con transferencia de conocimiento robusta y flexible, superando datos escasos en enfermedades raras.
Estimación online con Lasso renovable y gradientes mejorados
Descubre cómo el enfoque de gradiente mejorado elimina las restricciones de lotes en el Lasso renovable para alta dimensionalidad. Resultados precisos con datos en streaming.
nD-RoPE: Generalización de RoPE a n dimensiones
nD-RoPE generaliza RoPE a n dimensiones para representaciones isotrópicas, mejorando resultados en imágenes, videos y nubes de puntos.
Modelos de difusión rompen la maldición de la dimensionalidad
Los modelos de difusión superan la maldición de la dimensionalidad aprendiendo distribuciones de baja dimensión con pocas muestras. Clave para IA generativa.
Modelos de difusión ciega y las bendiciones de la dimensionalidad
Descubre cómo los Modelos de Difusión Ciega (BDDMs) eliminan ruido condicionado y aprovechan baja dimensionalidad. Teoría completa, resultados adaptativos.
Predicción Adaptativa de Tensores para Datos en Streaming
Nuevo marco de regresión tensorial adaptativa para predicción en streaming: modelos MoM y ToM con SGD. Reduce errores y mejora el filtrado de ruido en datos de alta dimensión.
GIF: Planificación inteligente para HPO en alta dimensionalidad
Descubre cómo el algoritmo GIF optimiza hiperparámetros en alta dimensión, logrando mejor convergencia y eficiencia.
PINN supera a Diferencias Finitas en difusión de calor ruidosa
Descubre cómo las PINN mantienen un 91% de precisión frente al 36% de las Diferencias Finitas bajo ruido en 3D, superando las limitaciones clásicas.
Ortogonalidad y dimensionalidad en clústeres de aerolíneas con PCA y Kernel PCA
Descubre cómo PCA y Kernel PCA revelan la robustez de clústeres en aerolíneas, y por qué el silueta indica solo 3 grupos.
Ortogonalidad en clústeres de aerolíneas: PCA y Kernel PCA
Descubre cómo PCA y Kernel PCA revelan la estructura oculta en los ciclos de ganancias de aerolíneas estadounidenses (1995-2020).
Proyecciones Implícitas Estocásticas para Conservación Integral en PINNs
Aprende cómo SDIFP impone restricciones integrales en PINNs de alta dimensión sin mallas fijas, mejorando precisión y reduciendo costos.
Eigenmapas de Transporte Óptimo Entrópico: alineación y embedding conjunto
Descubre cómo los Eigenmapas de Transporte Óptimo Entrópico permiten alinear y proyectar conjuntos de datos de alta dimensión de forma precisa y robusta.
Selección de modelos gráficos no dirigidos con modelos de difusión
Descubre cómo los modelos de difusión permiten seleccionar modelos gráficos no dirigidos sin asumir distribuciones paramétricas. Un enfoque innovador para datos de alta dimensión.
Poda de subespacios de Koopman en espacios de kernel con vectores principales
Descubre cómo podar subespacios de Koopman en RKHS usando vectores principales para mejorar la precisión predictiva en sistemas dinámicos con grandes datos.
Aperon HNTL: Búsqueda Tangent-Local Jerárquica sin Punteros
Descubre HNTL, el nuevo método de indexación sin punteros que logra un 3.61x de aceleración y un 100% de recall con solo 20 vectores candidatos.
Regresión GPLFR para problemas con pocos datos y alta dimensionalidad
Descubre GPLFR: nuevo modelo de regresión que acopla compresión y predicción para datos escasos y alta dimensionalidad. Emuladores climáticos de exoplanetas.