Research · CLEF 2026

GEMF: modelado multimodal para EXIST 2026

Sistema multimodal para caracterización de sexismo en memes, con enriquecimiento semántico, aprendizaje con desacuerdo y evaluación oficial.

Qué se investigó

GEMF estudia la caracterización de sexismo en memes bilingües. El sistema combina OCR, interpretación semántica multimodal, encoders multilingües y señales fisiológicas. El entrenamiento utiliza distribuciones de anotadores en lugar de reducir el desacuerdo a una sola etiqueta mayoritaria.

Gemini actúa como mediador semántico offline. Produce una representación estructurada del contenido visual y pragmático; el clasificador supervisado utiliza después esa representación junto con el resto de modalidades.

Resultados oficiales

1.ºde 144 en Task 2.1, detección binaria, evaluación soft.
1.ºde 117 en Task 2.2, intención de la fuente, evaluación soft.
1.ºde 186 en Task 2.2, intención de la fuente, evaluación hard.
3.ºde 217 en Task 2.1, detección binaria, evaluación hard.

Qué aportó el experimento

  • Comparación de representaciones visuales y enriquecimiento semántico multimodal.
  • Aprendizaje con soft labels para conservar el desacuerdo entre anotadores.
  • Heads específicos para detección binaria, intención y categorización multietiqueta.
  • Calibración, ablación de modalidades y análisis de errores por subtarea.
  • Publicación del prompt, configuraciones, runs y guía de reproducción.

Limitaciones publicadas

  • El enriquecimiento semántico depende de un único intérprete multimodal.
  • La categorización hard de Task 2.3 mostró sobreajuste de umbrales.
  • Las salidas auxiliares del modelo multimodal no se consideran verdad de referencia.
  • El conjunto de datos tiene condiciones de uso propias y no se redistribuye en el repositorio.

Task 2.3 hard quedó en la posición 132 de 187. El mismo sistema obtuvo 10 de 118 en soft. La divergencia exige revisar la binarización y los umbrales; las posiciones, por sí solas, no permiten aislar la causa del deterioro.

Fuentes y reproducción

El dataset no se redistribuye. Quien quiera reproducir el trabajo debe obtenerlo de los organizadores y aceptar sus condiciones.

Volver a Research

Primera conversación

Trae el problema, los datos disponibles y la condición que no puede fallar.

Iniciar diagnóstico