Transfobia Algorítmica: A reprodução binária em imagens de pessoas trans*

Paulo Boa Sorte; Deborah Teles de Meneses Gonçalves; Giulia Pereira Santos

doi:10.46230/2674-8266-15-12594

Authors

Paulo Boa Sorte Universidade Federal de Sergipe (UFS) https://orcid.org/0000-0002-0785-5998
Deborah Teles de Meneses Gonçalves Universidade Federal de Sergipe (UFS) https://orcid.org/0009-0004-7548-2208
Giulia Pereira Santos Universidade Federal de Sergipe (UFS) https://orcid.org/0000-0002-4686-6489

DOI:

https://doi.org/10.46230/2674-8266-15-12594

Keywords:

transphobia, algorithm, gender non-conforming, computer vision

Abstract

This article addresses the impact of artificial intelligence (AI), particularly computer vision, on gender identification, highlighting challenges and implications for gender non-conforming individuals, which is understood in this work as those who diverge from the binary gender regime of categorizing bodies as either men or women (PRECIADO, 2018). The crux of the issue lies in the analysis of facial features and visual patterns to identify gender, a practice that often relies on binary standards, excluding and marginalizing individuals whose gender identities transcend these norms. The consequence of this bias is the perpetuation of algorithmic transphobia, where machines, when programmed to interpret gender, may overlook and exclude individuals who do not identify with the sex assigned at birth. In this sense, we propose the analysis of cases of algorithmic transphobia through an exploratory-descriptive research that encompasses online reports of image-related aggression against trans* individuals on digital platforms. The study explores a variety of sources, such as news, blogs, and complaint channels, between 2020 and 2022. The analysis identifies emerging categories, addressing discrimination related to the image of trans* individuals. The theoretical framework encompasses discussions on gender identities (FOUCAULT, 1978; SALIH, 2012; BUTLER, 2018; SOUZA, 2022); post-digital, platforms, and computer vision (DJICK; POELL; WALL, 2018; SILVA, 2021; STORM, 2021; KAUFMAN, 2022; SHIH, 2023). The results highlight the persistence of transphobia on Tinder, with arbitrary exclusions of trans* accounts. Complaints on Reclame Aqui reveal inconsistencies in Instagram's policies, evidencing structural transphobia. The use of facial recognition raises concerns about algorithmic discrimination, emphasizing the need for regulation. The research underscores the urgency of action to combat systemic discrimination and proposes abandoning gender labeling in AI systems to promote equity.

Downloads

Download data is not yet available.

Author Biographies

Paulo Boa Sorte, Universidade Federal de Sergipe (UFS)

Ph.D. in Applied Linguistics from the Pontifical Catholic University of Sao Paulo, Brazil. Professor at the Undergraduate Program of Foreign Languages and Graduate Program of Education at the Federal University of Sergipe, Brazil.

Deborah Teles de Meneses Gonçalves, Universidade Federal de Sergipe (UFS)

Mestranda em Educação - Programa de Pós-Graduação em Educação (PPGED) da Universidade Federal de Sergipe (UFS) - em andamento, sob orientação do Prof. Dr. Paulo Roberto Boa Sorte Silva (PPGED/DLES/UFS) e coorientação da Prof. Dr. Manuela Rodrigues Santos (IFS). EXPERIÊNCIA PROFISSIONAL: Docente bolsista na ação "Introdução à Língua Portuguesa como Língua Estrangeira e ao Espanhol para fins acadêmicos no contexto da UFS", pelo projeto de extensão da Universidade Federal de Sergipe, associado ao programa Idiomas Sem Fronteiras - 07/2018 até 12/2018, sob orientação da Prof. Dr. Ana Flora Schlindwein (DELI/UFS); voluntária em ações associadas ao Colégio de Aplicação (CODAP/UFS), pelo projeto de extensão do Programa Institucional de Bolsas de Iniciação à Docência (Pibid-Inglês), vinculado a Universidade Federal de Sergipe - 08/2018 até 07/2019, sob orientação da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS) e da Prof. Dr. Jane dos Santos (CODAP/UFS); docente bolsista na ação "Curso de Inglês para Iniciantes", pelo projeto de extensão do Colégio de Aplicação (CODAP/UFS), associado à Universidade Federal de Sergipe - 05/2019 até 03/2020, sob orientação da Prof. Dr. Jane dos Santos (CODAP/UFS) e da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS); voluntária selecionada para a ação "Unlocking Potentialities" pelo projeto de extensão da Universidade Federal de Sergipe, associada às Unidades Prisionais do estado de Sergipe (PREFEM e COPEMCAN) - 08/2019, sob orientação da da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS); pesquisadora bolsista pelo Programa Institucional de Bolsas de Iniciação Científica (PIBIC), vinculado a Universidade Federal de Sergipe, com atuação no projeto de pesquisa "Professor em formação: (Res)significando as práticas pedagógicas de ensino de Inglês na Educação Básica a partir das questões de diversidade."

Giulia Pereira Santos, Universidade Federal de Sergipe (UFS)

Professora efetiva da rede municipal de Estância, graduada em Letras Português-Inglês pela Universidade Federal de Sergipe (UFS - 2020), mestre em Educação com bolsa CAPES (UFS - 2022) e doutoranda no Programa de Pós-Graduação em Educação (PPGED-UFS) na linha de pesquisa Tecnologias, Linguagens e Educação. Foi bolsista Capes do Programa Institucional de Bolsas de Iniciação à docência (Pibid) e bolsista Fapitec do Programa Institucional de Bolsas de Iniciação Científica (Pibic) durante o período de graduação. Atuou como professora de inglês na escola de idiomas Wizard (2020) e atualmente é participante do grupo de estudos e pesquisas TECLA: Tecnologias, Educação e Linguística Aplicada (UFS/CNPq). (Texto informado pelo autor)

References

BORBA, R.; LOPES, A. C. Escrituras de gênero e políticas de différance: Imundície verbal e letramentos de intervenção no cotidiano escolar. Revista Linguagem & Ensino, Pelotas, v. 21, p. 241-285. 2018. Disponível em: https://periodicos.ufpel.edu.br/index.php/rle/article/view/15198. Acesso em: 9 nov. 2023.

BUOLAMWINI, J.; GEBRU, T. Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, p. 77-91. 2018. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 9 nov. 2023.

BUTLER, J. Problemas de gênero: feminismo e subversão da identidade. 1. ed. Rio de Janeiro: Civilização Brasileira, 2018.

CARVALHO, M. Tinder é acusado de banir perfis de mulheres trans: “é transfobia”. Metrópoles, Distrito Federal, 18 jun. 2022. Disponível em: https://www-metropoles-com.cdn.ampproject.org/v/s/www.metropoles.com/distrito-federal/tinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia/amp?amp_gsa=1&amp_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_ct=1696206299985&amp_tf=De%20%251%24s&aoh=16962062293602&referrer=https%3A%2F%2Fwww.google.com&ampshare=https%3A%2F%2Fwww.metropoles.com%2Fdistrito-federal%2Ftinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia. Acesso em: 9 de nov. 2023.

CASSINO, J. F. O sul global e os desafios pós-coloniais na era digital. In: CASSINO, J. F.; SILVEIRA, S. A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 13-31.

CODING RIGHTS. Tecnologias de reconhecimento facial na verificação de identidades trans. Medium, 27 jan. 2021. Disponível em: https://medium.com/codingrights/tecnologias-de-reconhecimento-facial-na-verifica%C3%A7%C3%A3o-de-identidades-trans-7d3ac3f49b92. Acesso em: 22 nov. 2023

DIJCK, J. V.; POELL, T.; WAAL, M. D. The Platform Society: public values in a conective world. Nova Iorque: Oxford, 2018.

FOUCAULT, M. The history of sexuality: an introduction. Nova Iorque: Pantheon Books, 1978.

HASEENA, S.; SAROJA, S.; MADAVAN, R.; KARTHICH, A.; PANT, B.; KIFETEW, M. Prediction of the Age and Gender Based on Human Face Images. Computational and Mathematical Methods in Medicine, v. 1, 2022, p. 1-16. Disponível em: https://www.hindawi.com/journals/cmmm/2022/1413597/. Acesso em: 22 abr. 2024. DOI: https://doi.org/10.1155/2022/1413597

KAUFMAN, D. Desmistificando a inteligência artificial. Belo Horizonte: Autêntica, 2022.

LAVILLE, C.; DIONNE, J. A construção do saber: manual de metodologia da pesquisa em ciências humanas. Tradução de Heloísa Monteiro e Francisco Settineri. Porto Alegre: Artmed, 1999.

LUCAS, M. Próteses de proteção. Revista Serrote, São Paulo, n. 35-36, p. 5-15, 2020. Disponível em: https://www.revistaserrote.com.br/wp-content/uploads/2020/11/serrote35_36-amostra.pdf. Acesso em: 9 nov. 2023.

LUNARDI, A. Tinder faz campanha contra LGBTfobia, mas continua a banir perfis de pessoas trans. Pública. 2021. Disponível em: https://apublica-org.cdn.ampproject.org/v/s/apublica.org/2022/05/tinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans/?amp=&amp_gsa=1&amp_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_tf=De%20%251%24s&aoh=16962057756965&referrer=https%3A%2F%2Fwww.google.com&ampshare=https%3A%2F%2Fapublica.org%2F2022%2F05%2Ftinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans%2F. Acesso em: 9 de nov. 2023.

PRECIADO, P. B. Testo Junkie: sexo, drogas e biopolítica na era farmacopornográfica. São Paulo: N-1 Edições, 2018.

SALIH, S. Judith Butler e a Teoria Queer. 3. ed. Belo Horizonte: Autêntica Editora, 2012.

SHIH, J. Panorama da Inteligência Artificial Aplicada. Aula ministrada no curso Inteligência Artificial: conceituação da tecnologia e impactos sociais, Pontifícia Universidade Católica de São Paulo, São Paulo, SP, 2023.

SILVA, T. Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítmica na imagenet. In: CASSINO, João F.; SILVEIRA, Sérgio A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 87-107.

SOUZA, L. Elaborando uma ética queer. 2022. 190 f. Dissertação (Mestrado em Filosofia) - Programa de Estudos Pós-Graduados em Filosofia, Pontifícia Universidade Católica de São Paulo, São Paulo, 2022. Disponível em: https://repositorio.pucsp.br/jspui/handle/handle/30290. Acesso em: 9 nov. 2023.

STORM, A. Computer Vision Models: Stop Labeling Gender. Medium. 2021. Disponível em: https://medium.com/@alexandriastorm/computer-vision-models-stop-labeling-gender-8b39c06d4ba7. Acesso em: 27 nov, 2023.

SWAMINATHAN, A.; CHABA, M.; SHARMA, D. K.; CHABA, Yogesh. Gender Classification Using Facial Embeddings: A Novel Approach. Procedia Computer Science, v. 167, n. 1, 2020, p. 2634-2642. Disponível em: https://www.sciencedirect.com/science/article/pii/S1877050920308085. Acesso em: 22 abr, 2024. DOI: https://doi.org/10.1016/j.procs.2020.03.342

METRÓPOLES. Tinder é acusado de transfobia e usuários relatam exclusão de perfis. 12 jul. 2020. Disponível em: https://www.metropoles.com/brasil/direitos-humanos-br/tinder-e-acusado-de-transfobia-e-usuarios-relatam-exclusao-de-perfis. Acesso em: 9 de nov. 2023.

RECLAME Aqui. transfobia estrutural: estou sendo atacado pelo Instagram., Rio de Janeiro, RJ, 2 abr. 2021. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-estrutural-estou-sendo-atacado-pelo-instagram_ashqLVbe6GqW3siy/. Acesso em 28 de nov. 2023.

RECLAME Aqui. Transfobia no algoritmo do instagram. Rio de Janeiro, RJ 10 mar. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-algoritmo-do-instagram_1KF6MtGUWapq5Utl/. Acesso em: 28 nov. 2023.

RECLAME Aqui. Transfobia no instagram. Ribeirão Preto - SP, 11 out. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-instagra_XJAJ1qhaVi4AI_xM/. Acesso em: 28 de nov. 2023.

TRANS Murder Monitoring: TMM Absolute Numbers Sept 2023. Transrespect versus Transphobia. Disponível em: https://transrespect.org/en/map/trans-murder-monitoring/. Acesso em: 9 nov. 2023.