Proyecto LENA:

“Investigación sobre sesgos de género en la generación  de imágenes por Inteligencia Artificial”

• Referencia: 19-3-ID24
• Convocante/Financiador: INSTITUTO DE LAS MUJERES
• Convocatoria: 14/05/2024 – Investigaciones Feministas, de Género y sobre Mujeres – Instituto de las Mujeres 2024

OBJETIVO

El objetivo principal de este proyecto es investigar y abordar los sesgos de género que aparecen en los sistemas de inteligencia artificial que generan imágenes. Queremos entender cómo y por qué estos sesgos se manifiestan en los modelos que usamos para crear imágenes, y para ello combinaremos revisión bibliográfica, experimentos prácticos y el desarrollo de soluciones para identificar y cuantificar la presencia de sesgos de género en diferentes modelos de inteligencia artificial generativa (IAG).

La revisión bibliográfica nos ayudará a contextualizar el problema en el ámbito de la inteligencia artificial y los estudios de género, explorando trabajos previos y teorías relevantes. Los experimentos prácticos implicarán trabajar directamente con diferentes modelos populares de IAG de imágenes, desde algoritmos de redes neuronales profundas de ámbito general como Dall-E, Midjourney o Adobe Firefly hasta enfoques más específicos como Comics Maker AI (especializada en crear imágenes para comics), Scenario (especializado en crear imágenes o assets para videojuegos) o HeyGen (especializada en crear videos utilizando avatares predefinidos). Utilizaremos conjuntos de prompts o instrucciones diversos y representativos para analizar cómo estos modelos pueden estar sesgados a la hora de producir imágenes estereotipadas.

En cuanto a las soluciones, no solo buscaremos identificar los sesgos, sino también proponer y probar maneras de mitigarlos. Esto podría incluir el preprocesamiento de los prompts, ajustar los algoritmos que usamos o modificar las imágenes generadas después de su creación. Evaluaremos la efectividad de estas soluciones para asegurarnos de que realmente ayudan a reducir los sesgos de género.

Más allá de revelar la presencia de estos sesgos, queremos también crear conciencia en la comunidad tecnológica sobre la importancia de desarrollar tecnologías inclusivas y éticas. Esperamos que los resultados de nuestra investigación sirvan de base para futuras iniciativas y políticas que promuevan la equidad en la inteligencia artificial.

Nuestro objetivo final es contribuir a la creación de sistemas de IAG que sean más justos y equitativos, y que reflejen y respeten la diversidad de nuestra sociedad.