Los repositorios de imágenes generadas por IA enumerados en el apartado B.9. de esta memoria pueden resultar especialmente útiles para aprender a formular mejores instrucciones pues incluyen el prompt original asociado a cada imagen. Sin embargo, tras analizar su contenido, observamos que es donde más imágenes con sesgo de género existen.

Lexica.art es uno de los repositorios de imágenes generadas por inteligencia artificial más utilizados y accesibles en la actualidad. Se trata de una plataforma basada en modelos de difusión (principalmente Stable Diffusion) que indexa millones de imágenes generadas por IA y que permite consultar, junto a cada imagen, el prompt textual original que dio lugar a su generación. Esta característica convierte a Lexica.art en una herramienta de especial interés tanto desde el punto de vista formativo al facilitar el aprendizaje de técnicas de prompting, como desde una perspectiva analítica y crítica.

Desde el enfoque del proyecto LENA, Lexica.art resulta particularmente relevante porque permite observar de manera directa cómo prompts simples, genéricos o aparentemente neutros producen resultados visuales fuertemente sesgados desde el punto de vista del género. Para analizar esta cuestión, se realizaron búsquedas exploratorias utilizando términos relacionados con ocupaciones, roles sociales y categorías de género, lo que permitió identificar patrones claros y recurrentes de sesgo en las imágenes generadas.

Los resultados obtenidos pusieron de manifiesto una alta concentración de sesgos de género, tanto de tipo representacional como, especialmente, presentacional. Por ejemplo, el término “housekeeper” devolvió de forma abrumadora imágenes de mujeres sonrientes vestidas con delantal, mientras que la búsqueda “construction worker” produjo mayoritariamente figuras masculinas equipadas con casco de obra. En el caso del término “scientist”, las representaciones masculinas enfatizaron la seriedad, la concentración y la actividad profesional, mientras que las figuras femeninas aparecieron con mayor frecuencia como personas jóvenes, estilizadas y, en muchos casos, menos implicadas visualmente en tareas científicas. De manera similar, al introducir el término “woman”, los resultados estuvieron dominados por imágenes vinculadas a la belleza y la moda, mientras que el término “man” generó representaciones más asociadas a contextos profesionales, técnicos o de autoridad.

A partir del análisis sistemático de los resultados obtenidos en Lexica.art, se identificaron cuatro categorías recurrentes de sesgo en las imágenes almacenadas en Lexica.art:

1. Estereotipos de rol: Las mujeres aparecen representadas de forma desproporcionada en roles domésticos, asistenciales o de cuidado, mientras que los hombres son mostrados mayoritariamente en posiciones profesionales, técnicas o de liderazgo.
2. Apariencia física: Las figuras femeninas son representadas de manera sistemática como jóvenes, atractivas y alineadas con estándares normativos de belleza, incluso en contextos profesionales o científicos.
3. Sexualización: Las mujeres son representadas con frecuencia en poses provocativas o sugerentes, aun cuando estos rasgos no han sido solicitados ni resultan contextualmente apropiados.
4. Expresión emocional: Los hombres suelen aparecer como figuras fuertes, serias y autoritarias, mientras que las mujeres son representadas como pasivas, dependientes o emocionalmente contenidas.

Desde una perspectiva feminista, los resultados obtenidos en el análisis de Lexica.art ponen de manifiesto que las imágenes generadas y difundidas a través de este tipo de repositorios no son producciones espontáneas ni neutrales, sino el resultado directo de las peticiones formuladas por las propias personas usuarias mediante los prompts. En este sentido, muchas de las representaciones sesgadas identificadas no emergen únicamente de la plataforma o del sistema de inteligencia artificial, sino que reflejan los imaginarios, estereotipos y marcos culturales que las personas usuarias incorporan al construir sus instrucciones.

El sesgo, por tanto, no reside exclusivamente en la tecnología, sino que se activa y se reproduce en la interacción entre el modelo generativo y la mente de quien formula el prompt. Estos repositorios funcionan así como espacios de visibilización y amplificación de sesgos sociales preexistentes, poniendo de relieve la necesidad de una alfabetización crítica en el uso de la inteligencia artificial que permita cuestionar y transformar las lógicas de género que subyacen a las peticiones realizadas.

El análisis de Lexica.art pone de relieve que uno de los focos más relevantes del sesgo de género no reside únicamente en la plataforma o en el modelo generativo, sino en la persona que utiliza la herramienta y en la forma en que formula el prompt. Las Figuras 24 y 25 ilustran este fenómeno a través de los prompts asociados a dos imágenes etiquetadas en la plataforma como “housekeeper”. Aunque ambas imágenes comparten la misma categoría, los prompts que las originan son sustancialmente diferentes y conducen a representaciones claramente estereotipadas: una asociada al rol de ama de casa y otra vinculada a la figura de un fontanero. Este contraste evidencia cómo las instrucciones introducidas por las personas usuarias condicionan de manera decisiva el resultado visual, activando y reproduciendo estereotipos de género preexistentes.