Navegando por Assunto "Discriminação algorítmica"
Agora exibindo 1 - 1 de 1
- Resultados por Página
- Opções de Ordenação
Item Towards design justice and gender perspectives an inclusive audit of facial recognition systems(2025-08-08) SILVA, Aildson Nascimento Ferreira da; Santos, George Augusto Valença; http://lattes.cnpq.br/8525564952779211; http://lattes.cnpq.br/2054265131912669Este estudo apresenta uma análise qualitativa de ferramentas de reconhecimento facial comercialmente disponíveis que contam com Reconhecimento Automatizado de Gênero (RAG), especificamente Amazon Rekognition, Face++ e Vision AI do Google, para investigar seus vieses interseccionais inerentes e suas implicações éticas e sociais mais amplas. Embora a Inteligência Artificial ofereça eficiência, avaliar o viés da IA usando categorias demográficas isoladas ignora a discriminação interseccional, permitindo a persistência de desigualdades sistêmicas mais profundas, o que prejudica desproporcionalmente grupos marginalizados, como pessoas negras, transgêneras e não binárias. Para combater esses vieses, avaliamos as ferramentas em quatro dimensões críticas: responsabilidade legal e corporativa, considerações éticas, implicações sociais e Justiça, Equidade, Diversidade e Inclusão (JEDI). Nossas descobertas revelam um cenário misto. O Google demonstrou uma mudança proativa em direção à justiça algorítmica ao remover rótulos de gênero de seu Vision AI, reconhecendo a natureza problemática de se inferir o gênero a partir da aparência. Por outro lado, o Amazon Rekognition e o Face++ exibem uma falta preocupante de transparência em relação aos seus conjuntos de dados de treinamento e um desalinhamento com as melhores práticas para inclusão, particularmente no que diz respeito a visões de gênero não binárias e a real necessidade de identificação de gênero. Por fim, as descobertas reforçam que alcançar a justiça algorítmica exige ir além de uma simples inclusão para garantir a autonomia, a privacidade do usuário e uma mudança sistêmica. Depender apenas de resultados técnicos é insuficiente; a integração de frameworks como Design Justice e o IEEE Ethically Aligned Design ainda no processo de concepção é essencial. Além disso, as políticas públicas devem evoluir para evitar que a IA seja limitada por definições binárias. Estabelecer uma tecnologia ética e centrada no ser humano exige uma forte colaboração interdisciplinar para proteger populações vulneráveis e garantir que os algoritmos respeitem genuinamente a diversidade das comunidades que atendem.