Trabajamos en modelos fundacionales de IA Generativa, con un enfoque en arquitecturas GAN y modelos difusivos.

• En el caso de las GANs, analizamos las interacciones entre generador y discriminador para adaptar estos modelos a casos de uso específicos. Este conocimiento permite optimizar su funcionamiento y explorar nuevas formas de interacción que podrían superar las capacidades actuales de las GANs. Estas arquitecturas optimizadas se aplican, por ejemplo, en la reconstrucción virtual de edificios a partir de imágenes de ruinas, mejorando los resultados de modelos como pix2pix.

• Hemos desarrollado un modelo difusivo que permite generar imágenes a partir de texto con descripciones más detalladas que las admitidas por modelos como Stable Diffusion. Este modelo utiliza la técnica de "difusión" para transformar gradualmente una distribución simple, como una gaussiana, en una distribución probabilística más compleja que representa las imágenes, extrayendo patrones de estas. Esto permite generar nuevas imágenes relacionadas con un campo específico, ofreciendo un control preciso sobre la calidad y la diversidad de las muestras, y requiere menos recursos de cómputo en comparación con otros modelos generalistas.

Desarrollo de nuevos modelos dentro del campo del PLN que sean competitivos con las arquitecturas actuales. La investigación se centra en el diseño de arquitecturas nuevas, generalmente basadas en BERT, capas, funciones de error y optimización, que en conjunto definen un modelo centrado en el análisis de texto para la generación de imagen (Text2Image). Una línea de trabajo colateral profundiza en loa Visual Transformers.

También investigamos el uso de modelos de PLN a otros campos distintos del procesamiento y análisis de lenguaje.

• En el caso de señales biomédicas, especialmente relacionadas con el campo de la neurociencia, su análisis usando estas técnicas adaptadas para procesar este tipo de señales aporta nuevas soluciones al diagnóstico y pronóstico de enfermedades neurodegenerativas como el Parkinson o la epilepsia, favoreciendo el desarrollo de biomarcadores de diagnóstico y que evalúen la estadificación de la enfermedad.

• En el ámbito de la ciberseguridad, la clasificación y detección de amenazas también se beneficia de la adaptación de los modelos transformers a este ámbito de aplicación para comprender los patrones que esconden las trazas de los ciberataques y los virus.