El reconocimiento de entidades nombradas en el ámbito financiero es una tarea crítica para transformar informes y noticias no estructurados en grafos de conocimiento que impulsen la toma de decisiones. Los modelos de lenguaje de gran tamaño (LLMs) de propósito general suelen fallar al clasificar entidades financieras o ignorar patrones específicos del dominio. Una solución emergente combina el modelo de código abierto DeepSeek-R1-8B con técnicas de ajuste eficiente como Low-Rank Adaptation (LoRA) y Noisy Embedding Fine-Tuning (NEFTune), logrando resultados prometedores.

El enfoque consiste en convertir cada oración anotada en un triple instrucción-entrada-salida e insertar matrices LoRA ligeras en las capas del transformer. NEFTune, por su parte, añade ruido uniforme a los vectores de embedding durante el entrenamiento para mejorar la generalización. Los experimentos con un corpus de 1693 muestras muestran que DeepSeek-R1-8B adaptado con LoRA alcanza un micro-F1 de 0,901 en siete tipos de entidades (compañía, fecha, ubicación, dinero, persona, producto y cantidad), y al incorporar NEFTune el rendimiento sube a 0,912, superando a modelos como Llama3-8B, Qwen3-8B, Baichuan2-7B, T5 y BERT-Base.

Esta técnica demuestra que es posible lograr un reconocimiento preciso sin necesidad de entrenar modelos desde cero, optimizando recursos computacionales. En un contexto empresarial, la ia para empresas puede beneficiarse enormemente de este tipo de ajustes, especialmente cuando se manejan datos sensibles y volúmenes de información que requieren aplicaciones a medida para entornos financieros, de ciberseguridad o de inteligencia de negocio.

En Q2BSTUDIO, como empresa de desarrollo de software y tecnología, integramos estos avances en soluciones prácticas. Por ejemplo, un sistema de agentes IA que extranjese entidades de informes financieros podría alimentar un panel de Power BI, combinando servicios inteligencia de negocio con modelos de lenguaje optimizados. Además, la infraestructura de servicios cloud aws y azure permite desplegar estos modelos a escala, garantizando rendimiento y seguridad. La ciberseguridad también se beneficia: al detectar entidades como nombres de personas o ubicaciones en textos financieros, se pueden identificar patrones de fraude o cumplimiento normativo.

La combinación de LoRA y NEFTune sobre DeepSeek-R1-8B representa un paso adelante en la democratización de la inteligencia artificial, permitiendo que pequeñas y medianas empresas accedan a capacidades de extracción de conocimiento de alto nivel. El software a medida diseñado con estas bases puede adaptarse a sectores como banca, seguros o auditoría, donde la precisión en el reconocimiento de entidades es clave. En resumen, la investigación abre la puerta a implementaciones más accesibles y eficientes, y desde Q2BSTUDIO acompañamos a las organizaciones en ese recorrido.