DALL-E 2: la herramienta de arte OpenAI parece agregar palabras de forma encubierta para aumentar la diversidad



Los investigadores que experimentaron con la herramienta de texto a imagen de OpenAI, DALL-E 2, notaron que parece estar agregando de forma encubierta palabras como «negro» y «femenino» a las indicaciones de imágenes, aparentemente en un esfuerzo por diversificar su producción.


Tecnología


22 julio 2022

DALL-E 2 es una inteligencia synthetic generadora de texto a imagen

STEFANI REYNOLDS/AFP vía Getty Pictures

La firma de inteligencia synthetic OpenAI parece estar modificando de forma encubierta las solicitudes a DALL-E 2, su IA avanzada de texto a imagen, en un intento de hacer que parezca que el modelo tiene menos prejuicios raciales y de género. Los usuarios han descubierto que, sin su conocimiento, se están agregando palabras clave como «negro» o «mujer» a las indicaciones dadas a la IA.

Es bien sabido que Las IA pueden heredar los prejuicios humanos a través del entrenamiento en conjuntos de datos sesgados, a menudo recopilados al aspirar datos de Web. Para…