llama.cpp b9455 alcanza a vLLM: 70 t/s en 2x3090 con Qwen 27B
Descubre cómo llama.cpp b9455 iguala la velocidad de vLLM en 2x3090 con Qwen 27B. 70 t/s en decodificación y prefill ultrarrápido para agentes.
#llama
MAVEN: Generalización mejorada en llamadas a herramientas de agentes
Descubre cómo MAVEN, un scaffold ligero de verificación, mejora la generalización en agentes de IA, logrando un 71% de precisión sin entrenamiento adicional y a 1/10 del coste.
NVIDIA potencia agentes de IA locales en PCs RTX y DGX Spark
Descubre cómo NVIDIA RTX Spark y DGX Spark revolucionan los agentes de IA locales con 1 petaflop de potencia, seguridad avanzada y optimizaciones para creadores.
Android combate estafas telefónicas con nueva función de verificación
Nueva función en Android 12+ verifica llamadas con señal silenciosa, protegiéndote de estafas telefónicas.
Google lanza detección de llamadas falsas contra estafas con deepfake
Descubre cómo Google combate las estafas con deepfake mediante su nueva detección de llamadas falsas. Protege tu identidad y evita fraudes telefónicos con IA.
Google lucha contra estafas de voz con IA en Android
Descubre cómo la última actualización de Android protege contra estafas de voz creadas con IA. Además, otras novedades de junio.
Google lanza detección de llamadas con IA falsa en Android
Descubre cómo Google combate las llamadas deepfake con IA en la actualización de junio. Activación automática y cómo funciona la verificación por RCS.
Destilación de Grandes Modelos de Lenguaje con Puntuación Concreta
Descubre CSD, técnica de destilación que evita suavizado softmax y optimiza logits, mejorando modelos de lenguaje grandes. Ideal para IA eficiente.
Videollamada con LLM: medición de seis apps
Evaluamos el rendimiento de seis apps de videollamada con IA. ¿Qué importa más: latencia o capacidad del modelo? Resultados sorprendentes.
5 consejos simples para mejorar el rendimiento de ventas rápidamente
Descubre 5 consejos simples y efectivos para mejorar rápidamente el rendimiento de tu equipo de ventas. Aprende a concentrar leads, involucrarte más y cerrar más deals.
Gramática de flujos de ML: evitando filtración de datos en tiempo de llamada
Descubre cómo una nueva gramática de flujos de trabajo evita la filtración de datos en tiempo de llamada. Implementación en Python y R.
¿Cómo solicitar una consultoría para modernizar aplicaciones?
Solicite una consultoría para modernizar aplicaciones heredadas. Comparta objetivos y desafíos, participe en descubrimiento y reciba propuesta con ROI claro.
Retroceder sin olvidar: Refinamiento selectivo en aprendizaje continuo
Descubre SABER: refinamiento selectivo para transferencia positiva en aprendizaje continuo sin olvidar.
LLMs y Alzheimer: Fine-tuning y probing para detección temprana
Descubre cómo los LLMs como BERT, T5 y Llama se adaptan para detectar Alzheimer mediante fine-tuning y probing, logrando nuevos récords en datasets clínicos.
Ghost Tool Calls: Privacidad en la Emisión para Agentes Especulativos
Descubre cómo las llamadas fantasma de agentes especulativos filtran tu intención al instante y cómo los contratos de privacidad pueden evitarlo. ¡Lee más!
LlamaStash: lanzador terminal nativo para llama.cpp
Descubre LlamaStash, el lanzador de llama.cpp para terminal con TUI, CLI y proxy OpenAI. Ejecuta modelos de IA localmente sin sobrecarga y con gran rendimiento.
Estafadores suplantan número de la policía de Irlanda del Norte
La policía de Irlanda del Norte alerta sobre estafadores que suplantan su número oficial. Aprende cómo evitar el fraude telefónico y proteger tus datos.
Alternativa sin entrenamiento: LLMs puntúan procesos matemáticos
Descubre cómo LLMs listos para usar mejoran el razonamiento matemático sin entrenamiento, superando la votación mayoritaria hasta 28%.
Aprender cuándo no actuar: mitigar abuso de herramientas en RL agente
Descubre cómo EAPO mejora la precisión en modelos de IA reduciendo el abuso de herramientas. Aprende cuándo no actuar y optimiza el rendimiento.
SENSE: Decodificación Especulativa con Incrustaciones Semánticas
Descubre SENSE: acelera inferencia de LLMs hasta 3.26x usando embeddings semánticos, sin perder calidad. Ideal para desarrolladores.