Cumpliendo SLOs, Reduciendo Horas: Optimización Automatizada de LLM con OptiKIT
Optimiza LLMs empresariales sin experiencia previa gracias a OptiKIT: duplica el rendimiento GPU y reduce horas de trabajo.
#presión
Hyperflux: La poda revela la importancia
Descubre Hyperflux, un método de poda que revela la importancia de cada peso mediante flujo y presión. Reduce latencia y energía manteniendo precisión.
EinSort: Solo ordenar para tensorizar LLMs
EinSort: ordenando índices para tensorizar LLMs. Descubre estructuras de rango bajo y comprime pesos y KV-cache con mejor calidad. ¡Optimiza tus modelos!
SNR-ST-Mix: Aumento de datos para transcriptómica espacial
SNR-ST-Mix mejora la imputación en transcriptómica espacial con aumentos basados en vecinos espaciales y similitud de expresión, sin aumentar la complejidad del modelo.
Inferencia adaptativa guiada por entropía para LLMs de contexto largo
Descubre EntropyInfer: un método sin entrenamiento que acelera hasta 2.39x la inferencia de LLMs en contextos largos, adaptando dinámicamente la atención por cabeza y segmento.
Predictores simples de perturbaciones transcriptómicas con grafos y LLMs
Los grafos de conocimiento y LLMs con RL logran predecir perturbaciones transcriptómicas con alta precisión, superando a métodos complejos. Descubre cómo.
Recomendación de videos: IDs semánticos y secuencias largas
Descubre cómo los IDs semánticos y un transformador de compresión global reducen costos y escalan la recomendación de videos cortos a miles de millones de usuarios.
Cómo MoEngage logró personalización en milisegundos con ScyllaDB
Descubre cómo MoEngage logró personalización en milisegundos con ScyllaDB, manejando 250K escrituras/segundo y 200TB+ de datos con latencia p99 de 1ms.
Por qué tu pipeline de Kafka funciona en staging pero falla en producción
Descubre por qué tu pipeline Kafka funciona en staging pero falla en producción. Aprende a evitar 4 modos de fallo comunes y protege tus datos con gobernanza.
Afroman regresa: el nuevo defensor de la libertad con Bitcoin
El rapero Afroman se vuelve héroe de Bitcoin tras ganar caso a la policía, aunque aún no entiende bien la criptomoneda. Conoce su historia.
NTILC: Invocación Neuronal de Herramientas por Compresión
Descubre NTILC: reduce el consumo de contexto un 95% y la latencia un 74% en selección de herramientas con aprendizaje latente. Optimiza tus modelos.
NTILC: Invocación Neural de Herramientas mediante Compresión Aprendida
Descubre cómo NTILC revoluciona la invocación de herramientas en modelos de lenguaje: reduce contexto un 95% y latencia un 74%. Aprendizaje latente eficiente.
EgoPressDiff: Difusión de Video Multimodal para Presión Manual
Descubre EgoPressDiff, un marco de difusión multimodal que estima presión manual con un 34% más de precisión, ideal para AR/VR.
Repensando el modelado genómico con reconocimiento óptico de caracteres
OpticalDNA transforma el modelado genómico usando OCR y visión artificial, logrando 20x menos tokens y superando modelos con 985x más parámetros. Descubre cómo.
Evaluación comparativa de modelos de lenguaje para compresión sin pérdida de audio
Los modelos de lenguaje mejoran la compresión de audio sin pérdida. Trilobyte permite compresión a 24 bits, superando a FLAC en 8 y 16 bits.
Regresión GPLFR para problemas con pocos datos y alta dimensionalidad
Descubre GPLFR: nuevo modelo de regresión que acopla compresión y predicción para datos escasos y alta dimensionalidad. Emuladores climáticos de exoplanetas.
Fallos de compresión predecibles: sensibilidad al orden y presupuesto de información
Analizamos la sensibilidad al orden en transformers para decisiones binarias y presentamos un nuevo enfoque para medir confianza y reducir alucinaciones.
Aprendizaje automático con reactividad predice rendimiento de escorias activadas
Descubre cómo el aprendizaje automático informado por reactividad predice la resistencia de escorias activadas y optimiza el diseño sostenible.
SigmaScale: Compresión de LLM con SVD y matrices de escala aprendidas
Descubre SigmaScale, método para comprimir LLMs con descomposición SVD y matrices de escala aprendidas. Reduce costo computacional sin perder rendimiento.
Compresión de tokens alineada con planificación en conducción autónoma
Optimiza la conducción autónoma con COMPACT-VA: compresión de tokens alineada con la planificación logra 68% éxito y 3.3x aceleración.