Máquinas de estereótipos

Quando pensas em pessoas de um determinado país, que imagens te vêm à cabeça?

Estas imagens mentais podem ser, na realidade, estereótipos visuais. Os estereótipos são visões comuns mas demasiado simpliﬁcadas de pessoas ou coisas. Nem sempre são intrinsecamente maus; podem até ajudar-nos a compreender o mundo que nos rodeia. No entanto, os estereótipos visuais podem ser prejudiciais e podem reforçar ideias ultrapassadas ou conduzir à discriminação.

Como ﬁca a IA na fotograﬁa?

Hoje em dia, as ferramentas de IA generativa conseguem transformar “instruções de texto” humanas em novas imagens geradas por IA. Os chamados modelos de difusão de texto para imagem geram novas imagens de praticamente qualquer coisa, extraindo e combinando os enormes conjuntos de dados de imagens com que foram treinados.

Poderias supor que as imagens de pessoas geradas pela IA estariam isentas de estereótipos, porque são criadas por uma tecnologia “neutra” e não por seres humanos. Mas será que isto é verdade? Experimentámos um modelo de IA generativa para criar imagens de famílias e trabalhadores de vários países, para ver até que ponto as perceções da IA são neutras.

Folheia as páginas e tenta adivinhar a que país corresponde cada conjunto de imagens. Julga por ti próprio/a se achas que as imagens geradas pela IA incluem estereótipos visuais ou não.