Towards design justice and gender perspectives an inclusive audit of facial recognition systems

Abstract

Este estudo apresenta uma análise qualitativa de ferramentas de reconhecimento facial comercialmente disponíveis que contam com Reconhecimento Automatizado de Gênero (RAG), especificamente Amazon Rekognition, Face++ e Vision AI do Google, para investigar seus vieses interseccionais inerentes e suas implicações éticas e sociais mais amplas. Embora a Inteligência Artificial ofereça eficiência, avaliar o viés da IA usando categorias demográficas isoladas ignora a discriminação interseccional, permitindo a persistência de desigualdades sistêmicas mais profundas, o que prejudica desproporcionalmente grupos marginalizados, como pessoas negras, transgêneras e não binárias. Para combater esses vieses, avaliamos as ferramentas em quatro dimensões críticas: responsabilidade legal e corporativa, considerações éticas, implicações sociais e Justiça, Equidade, Diversidade e Inclusão (JEDI). Nossas descobertas revelam um cenário misto. O Google demonstrou uma mudança proativa em direção à justiça algorítmica ao remover rótulos de gênero de seu Vision AI, reconhecendo a natureza problemática de se inferir o gênero a partir da aparência. Por outro lado, o Amazon Rekognition e o Face++ exibem uma falta preocupante de transparência em relação aos seus conjuntos de dados de treinamento e um desalinhamento com as melhores práticas para inclusão, particularmente no que diz respeito a visões de gênero não binárias e a real necessidade de identificação de gênero. Por fim, as descobertas reforçam que alcançar a justiça algorítmica exige ir além de uma simples inclusão para garantir a autonomia, a privacidade do usuário e uma mudança sistêmica. Depender apenas de resultados técnicos é insuficiente; a integração de frameworks como Design Justice e o IEEE Ethically Aligned Design ainda no processo de concepção é essencial. Além disso, as políticas públicas devem evoluir para evitar que a IA seja limitada por definições binárias. Estabelecer uma tecnologia ética e centrada no ser humano exige uma forte colaboração interdisciplinar para proteger populações vulneráveis e garantir que os algoritmos respeitem genuinamente a diversidade das comunidades que atendem.