A deputada estadual Renata Souza (PSOL-RJ) disse nesta quinta-feira (26) ter sido vítima de “racismo algorítmico” ao usar uma ferramenta de inteligência artificial.
Em uma publicação nas redes sociais, a parlamentar afirmou que pediu ao “robô desenhista” a imagem de uma mulher negra, de cabelos afro, com roupas de estampa africana e em um cenário de favela. Contudo, a imagem gerada foi de uma mulher negra segurando uma arma na mão.
A ferramenta criada pela Microsoft viralizou nos últimos dias. As ilustrações inspiradas nos personagens da Pixar são geradas a partir de um detalhamento.
“Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela. E essa foi a imagem gerada”, disse.
“Não pode uma mulher negra, cria da favela, estar num espaço que não da violência?”, questionou Renata. “O racismo algoritmo está aí. Essa lógica de criminalização das pessoas negras, nesses territórios de favelas e periferias, também está nos algoritmos”, completou.
A deputada é presidenta da CPI do Reconhecimento Fotográfico, instalada em junho pela Assembleia Legislativa do Rio de Janeiro (Alerj). A comissão investiga casos de racismo no uso de reconhecimento facial por delegacias.
“Enquanto presidenta da CPI do Reconhecimento Fotográfico, observo o quanto pessoas negras podem ser vitimadas por mecanismos, como o reconhecimento facial, mesmo sendo inocentes”, disse.
Racismo algorítmico!
Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU
— Renata Souza (@renatasouzario) October 26, 2023