RigoBERTa
El modelo de comprensión del lenguaje en español
RigoBERTa es el modelo de lenguaje en español desarrollado por el Instituto de Ingeniería del Conocimiento (IIC) y uno de los modelos de comprensión del lenguaje más avanzados en nuestro idioma. Diseñado para aplicaciones de Procesamiento del Lenguaje Natural (PLN), permite comprender, analizar e interpretar textos con un alto nivel de precisión y adaptarse a diferentes dominios para resolver necesidades específicas de organizaciones e instituciones.
Un modelo creado para comprender el español
La mayoría de los sistemas modernos de inteligencia artificial necesitan comprender correctamente el lenguaje antes de poder analizar documentos, extraer información o automatizar procesos.
RigoBERTa nace precisamente con ese objetivo: desarrollar un modelo de comprensión del lenguaje entrenado específicamente para el español y preparado para integrarse en aplicaciones reales de Procesamiento del Lenguaje Natural.
A diferencia de los modelos generativos, RigoBERTa está especializado en tareas de Natural Language Understanding (NLU), como:
- Clasificación de textos.
- Detección y extracción de entidades.
- Análisis del sentimiento.
- Respuesta extractiva a preguntas.
- Comprensión del lenguaje en distintos dominios.
Un modelo que se adapta a cada dominio
RigoBERTa ha sido entrenado para comprender el español de forma general, pero también puede especializarse en distintos ámbitos mediante procesos de adaptación utilizando corpus específicos y representativos.
Esto permite mejorar significativamente el rendimiento de aplicaciones de PLN en sectores como:
Salud.
Legal.
Administración.
Finanzas.
Otros dominios especializados.
Gracias a esta capacidad de adaptación, el modelo reconoce la terminología, el contexto y las particularidades propias de cada sector.
Investigación para impulsar el PLN en español
En el IIC llevamos años investigando el desarrollo de modelos de lenguaje como parte de nuestro compromiso con la innovación en inteligencia artificial.
RigoBERTa es el resultado de un proyecto de investigación cuyo objetivo era desarrollar un modelo propio de comprensión del lenguaje en español que contribuyera al avance del Procesamiento del Lenguaje Natural en nuestro idioma.
Este trabajo se desarrolla junto al grupo de investigación de la Cátedra UAM-IIC de Lingüística Computacional, impulsando nuevos recursos para la comunidad científica y para el tejido empresarial.
Los modelos de lenguaje son redes neuronales artificiales capaces de analizar enormes cantidades de texto para aprender la estructura de un idioma. Gracias a este preentrenamiento se convierten en modelos generales que posteriormente pueden adaptarse tanto a tareas concretas de PLN como al lenguaje específico de distintos dominios.
Mientras que en inglés existen modelos ampliamente conocidos como BERT o GPT, el ecosistema en español dispone de menos recursos. RigoBERTa nace para contribuir al desarrollo de tecnologías lingüísticas avanzadas en nuestro idioma.
· Benchmark general ·
· Benchmark en dominio biomédico ·
Prueba RigoBERTa-v2
RigoBERTa está disponible tanto para investigación como para proyectos empresariales.
Versión comercial
Disponible para organizaciones que quieran integrar RigoBERTa en proyectos empresariales.
Cómo convertimos un modelo general en una solución especializada
En el IIC hemos desarrollado una metodología propia de adaptación que permite transformar un modelo general en una solución preparada para resolver necesidades concretas de negocio.
Adaptación a tareas de PLN
RigoBERTa puede entrenarse para abordar distintas tareas de Procesamiento del Lenguaje Natural, desde la clasificación documental hasta la respuesta automática a preguntas o la extracción de información.
Adaptación a dominios del lenguaje
Mediante corpus especializados y representativos adaptamos el modelo para comprender la terminología y las características propias de sectores específicos, aumentando la precisión de las aplicaciones desarrolladas.
Diseñado para entornos productivos
RigoBERTa ha sido concebido para su utilización en entornos empresariales y no como una aplicación orientada al usuario final.
Su objetivo es integrarse dentro de soluciones de IA que automaticen procesos, analicen información y ayuden a organizaciones a desarrollar aplicaciones basadas en PLN.
Actualmente ya está disponible RigoBERTa 2.0, una versión entrenada con un mayor volumen de datos que mejora la calidad respecto al modelo original.
Desde el IIC ya desplegamos RigoBERTa 2.0 integrado en la infraestructura tecnológica de distintos clientes, permitiendo mantener el control sobre los datos y adaptando el modelo a cada organización.
¿Quieres conocer todas las posibilidades de RigoBERTa?
Si quieres descubrir cómo aplicar modelos de comprensión del lenguaje en tu organización o conocer más sobre RigoBERTa 2.0, nuestro equipo puede ayudarte a identificar la mejor solución para tu caso de uso.
Resultados que avalan su rendimiento
Para evaluar su comportamiento, RigoBERTa 2.0 se ha comparado con otros modelos de lenguaje disponibles en español, como MarIA-large o BETO, mediante un benchmark compuesto por 19 datasets que incluyen tareas de:
Respuesta extractiva a preguntas
Detección de entidades
Clasificación de textos
Uno de los experimentos se especializó además en el dominio biomédico, uno de los ámbitos de investigación prioritarios para el IIC.
Los resultados muestran que RigoBERTa 2.0 supera al resto de modelos en la mayoría de tareas evaluadas, obteniendo mejoras especialmente significativas en detección de entidades y clasificación documental.
Además, las primeras versiones de RigoBERTa continúan ofreciendo un rendimiento sobresaliente en tareas de respuesta extractiva a preguntas, convirtiéndose en un modelo complementario dentro del ecosistema desarrollado por el IIC.
Desarrollado por un equipo especializado en PLN
El desarrollo y evolución de RigoBERTa es posible gracias al trabajo del equipo multidisciplinar del IIC, formado principalmente por data scientists especializados en Procesamiento del Lenguaje Natural y lingüistas computacionales.
El modelo continúa evolucionando incorporando los avances más recientes en investigación para ofrecer soluciones cada vez más precisas y adaptadas a las necesidades reales de empresas e instituciones.
Forma parte del ecosistema Rigo
RigoBERTa es la última versión del modelo de lenguaje del IIC dentro de una línea de investigación iniciada en 2020 para impulsar el desarrollo del PLC en español.
Este ecosistema incluye diferentes modelos y recursos especializados que permiten construir soluciones adaptadas a distintos casos de uso.
RigoBERTa
Modelos del lenguaje fundacionales de comprensión del español.
RigoCORPUS
Gran corpus curado para entrenamiento de modelos fundacionales.
RigoExtensions
Adaptaciones de RigoBERTa a dominios o casos de uso concretos y modelos de embeddings.
¿Tienes una idea producto de IA?
Te ayudamos a convertir tu idea en producto real, viable y escalable, acompañándote tanto en el desarrollo tecnológico como en su sostenibilidad económica.