Explicando neuronas activadas por ausencias
Descubre cómo la IA explicable revela neuronas activadas por la ausencia de conceptos y mejora la eliminación de sesgos en modelos profundos.
#profunda
Atención por capas eficiente: poda de recuperaciones redundantes
Descubre cómo ELA, usando divergencia KL y mapeo cuantil beta, reduce un 30% el tiempo de entrenamiento al podar capas redundantes en atención por capas.
Análisis teórico de Engression y Reverse Markov Engression
Descubre los nuevos límites de convergencia no asintóticos para Engression y Reverse Markov Engression. Resultados casi óptimos para aprendizaje de distribuciones condicionales con redes profundas.
Redes profundas analizan lenguajes libres de contexto con estadísticas locales
Las redes profundas aprenden a analizar lenguajes libres de contexto usando solo estadísticas locales. Un estudio revela cómo emergen representaciones jerárquicas.
Límites de generalización no vacíos para redes profundas sin modificar
Por primera vez, se demuestran cotas de generalización no triviales para redes profundas sin modificaciones, incluso con 600M parámetros. Análisis basado en la geometría de los datos.
Invarianzas representacionales inducidas por tareas según objetivo en RL
¿Sabías que DQN y PPO aprenden representaciones invariantes diferentes? Descubre cómo afecta a la transferencia y la neurociencia.
Expresividad de arquitecturas de congruencia para DNNs en matrices definidas positivas
La restricción semi-ortogonal en capas de congruencia limita la expresividad de DNNs para matrices PD. Comparativa de clasificadores Riemannianos.
Explotando simetrías del espacio de pesos para aproximar curvatura
Descubre cómo las simetrías en el espacio de pesos facilitan la estimación de la curvatura en redes neuronales, mejorando la optimización y reduciendo costos computacionales.
CEAR: Robustez Adversarial Certificada con Ensambles en DNNs
Descubre CEAR: mejora la robustez adversarial certificada en DNNs usando ensambles con ruido y votación. Superior en MNIST, CIFAR10 y TinyImageNet.
Filtrado de Kalman consciente del cómputo para dinámicas neuronales
Nuevo método bayesiano que combina filtrado de Kalman y selección de modelos para dinámicas neuronales, mejorando incertidumbre y escalabilidad. ¡Descúbrelo!
Atajo a ninguna parte: Desmitificando la regresión espuria profunda
La regresión espuria profunda revela cómo los atajos engañan a modelos de IA en predicciones continuas. Aprende a detectarlos y generalizar.
Recomendación grupal con finalización de matriz profunda y rango acotado
Descubre cómo Group RC-DMC mejora las recomendaciones grupales usando aprendizaje profundo y restricciones de rango, superando la escasez de datos.
Enmascarar observaciones obsoletas: ¿ayuda o perjudica a los agentes de búsqueda?
Descubre cómo el enmascaramiento de observaciones obsoletas afecta a los agentes de búsqueda. Aprende cuándo mejora y cuándo empeora el rendimiento.
LLMs sin Deep Learning: Arquitectura RBF con Óptimo Global
LLMs sin Deep Learning: nueva arquitectura RBF que encuentra el óptimo global en una iteración, eliminando el tedioso entrenamiento.
Red Neuronal con Contexto Global para Segmentación de Tumores Cerebrales
El modelo GCSER-UNet alcanza un 94% Dice en TCGA LGG y 95% en BraTS 2020 para segmentación de tumores cerebrales. Descubre su innovadora atención global.
Codificación Predictiva con Lagrangiano Aumentado
Descubre PC-ALM: un algoritmo de codificación predictiva que iguala el rendimiento de la retropropagación usando dinámicas locales. Ideal para redes profundas.
Interpretabilidad sin concesiones: Desenredando la polisemia en DNNs
Descubre ELUDe, un método innovador que desenreda conceptos en redes neuronales profundas sin afectar su rendimiento. Interpretabilidad clara y práctica.
¿Es suficiente la última capa para cuantificar la incertidumbre?
Descubre por qué la linearización de la última capa ofrece una cuantificación de incertidumbre comparable a la de toda la red, con mucha mayor eficiencia computacional. Estudio teórico y empírico.
Aproximación de funciones suaves anisotrópicas y mixtas con redes neuronales ReLU profundas
Descubre cómo las redes neuronales ReLU profundas logran tasas de aproximación óptimas para funciones suaves anisotrópicas y mixtas, superando la maldición de la dimensionalidad.
Redes Neuronales de Alto Orden Inspiradas en Circuitos para PDE y Visión
CHONN: redes de alto orden inspiradas en circuitos unifican dinámicas neuronales para resolver PDEs y mejorar percepción visual. Modelado estable y eficiente.