Cabezas de Atención Posicional vs Simbólica: Dinámicas y Generalización
Descubre cómo las cabezas de atención posicionales y simbólicas aprenden en Transformers, su geometría RoPE y generalización de longitud.
#posicional
Representaciones jerárquicas y composicionales nativas con embeddings de subespacio
Descubre cómo los embeddings como subespacios capturan jerarquías y composición lógica, superando vectores tradicionales en inferencia y negación.
Asignar y Sumar: Estudio mecanicista de aritmética composicional
Estudio mecanicista revela cómo los transformers aprenden aritmética modular y asignación de variables para generalizar combinaciones no vistas. ¡Entra!
Propagación de log-ratio: teoría de contaminación celular en el simplex
Descubre cómo la contaminación de una sola componente afecta todos los log-ratios en datos composicionales. Una nueva teoría que fundamenta métodos robustos en el simplex.
Arquitecturas Neurales Functoriales a partir de Tipos Inductivos Superiores
Nuevas arquitecturas functoriales basadas en HITs logran generalización composicional superior, con mejoras de hasta 10x y reducción del 46% de error.
DisjunctiveNet: Aprendizaje simbólico neuronal con optimización convexa
DisjunctiveNet unifica redes neuronales y optimización convexa para cumplir reglas lógicas exactas en ciencia e ingeniería con datos escasos.
Evaluación comparativa de estrategias de codificación posicional para modelos fundamentales de EEG basados en Transformers
Comparativa de codificación posicional para modelos Transformer en EEG. Analizamos técnicas y su impacto en el rendimiento. Descubre la mejor opción.
Localmente coherente, globalmente incoherente: Acotando la incoherencia composicional en agentes LLM de múltiples componentes
Local vs Global: Cómo acotar la incoherencia composicional en agentes LLM - Estrategias SEO para equilibrar enfoques locales y globales y mejorar la coherencia en modelos de lenguaje.
Transferibilidad de tamaño de los Transformers de Grafos con Codificaciones Posicionales Convolucionales
Descubre cómo los Transformers de Grafos logran transferibilidad de tamaño usando codificaciones posicionales convolucionales. Un avance clave en aprendizaje de grafos.
¡Dale espacio! Desenredo explícito de representaciones posicionales y semánticas en codificadores
<meta name=description content=Separación explícita de representaciones posicionales y semánticas en codificadores mejora el rendimiento y la interpretabilidad de modelos de lenguaje.>
LaneRoPE: Codificación posicional para razonamiento paralelo colaborativo y generación
<meta name=description content=LaneRoPE es una innovadora codificación posicional que habilita el razonamiento paralelo colaborativo en modelos de lenguaje. Descubre cómo optimiza el procesamiento y mejora el rendimiento.>
Codebooks de instrucciones: Optimización composicional discreta para el refinamiento de instrucciones de modelos de lenguaje.
<meta content=Descubre cómo los codebooks optimizan instrucciones para modelos de lenguaje mediante optimización composicional discreta. Mejora tus prompts de forma eficiente. name=description>
RoPE Periódica para LLMs de Contexto Infinito
Descubre cómo la RoPE periódica logra contexto ilimitado en modelos de lenguaje, mejorando el razonamiento a largo plazo.
Explicaciones Composicionales Óptimas Garantizadas para Neuronas
<meta name=description content=Explicaciones composicionales garantizadas para neuronas: descubre cómo interpretar el comportamiento de las neuronas artificiales con garantías formales.>
Las habilidades atómicas son el requisito previo: Cuando el aprendizaje por refuerzo sintetiza el razonamiento composicional, y cuando solo lo amplifica
Descubre cómo las habilidades atómicas son el prerrequisito clave para la síntesis y amplificación del razonamiento composicional. Optimiza tu pensamiento con este enfoque.
Esta tarjeta de sonido podría dar a los jugadores una ventaja competitiva
<meta name=description content=Descubre la tarjeta de sonido que te da ventaja competitiva en juegos. Mejora tu audio y reacción. Ideal para gamers.>
Decodificación guiada por consistencia composicional para la respuesta a preguntas lógicas de tres vías
<meta name=description content=Decodificación guiada por consistencia composicional para preguntas lógicas de tres vías. Técnica avanzada que optimiza el razonamiento en inteligencia artificial.>
Colapso de la composición: El conocimiento factual estable no implica razonamiento compositivo
Descubre por qué la estabilidad factual no asegura el razonamiento compositivo. Clave para entender los límites de la IA.
La posicionalidad del anotador como señal: ponderación psicométrica para la detección del capacitismo anti-autista
Exploramos cómo la posicionalidad del anotador revela sesgos capacitistas anti-autistas en evaluaciones psicométricas, clave para la neurodiversidad.