Transfobia Algorítmica
A reprodução binária em imagens de pessoas trans*
DOI:
https://doi.org/10.46230/2674-8266-15-12594Palavras-chave:
transfobia, algoritmo, gêneros dissidentes, visão de máquinaResumo
Este artigo aborda o impacto da inteligência artificial (IA), em particular da visão de máquina, na identificação de gênero, destacando desafios e implicações para pessoas de gêneros dissidentes, entendidos, neste trabalho, como indivíduos que divergem do regime binário de generificação de corpxs enquanto homens ou mulheres (PRECIADO, 2018). O cerne do problema reside na análise de características faciais e padrões visuais para identificar o gênero, uma prática que, frequentemente, se baseia em padrões binários, exclui e marginaliza pessoas cujas identidades de gênero transcendem essas normas. A consequência desse viés é a perpetuação da transfobia algorítmica, em que máquinas, ao serem programadas para interpretar o gênero, podem negligenciar e excluir indivíduos que não se identificam com o sexo atribuído ao nascimento. Nesse sentido, propomos a análise de casos de transfobia algorítmica por meio de uma pesquisa exploratório-descritiva que abarca relatos on-line de agressões relacionadas à imagem de pessoas trans* em plataformas digitais. O estudo explora uma variedade de fontes, como notícias, blogs e canais de reclamação, entre 2020 e 2022. A análise identifica categorias emergentes, abordando a discriminação relacionada à imagem de pessoas trans*. O referencial teórico abarca discussões sobre identidades de gênero (FOUCAULT, 1978; SALIH, 2012; BUTLER, 2018; SOUZA 2022); pós-digital, plataformas e visão de máquina (DJICK; POELL; WALL, 2018; SILVA, 2021; STORM, 2021; KAUFMAN, 2022; SHIH, 2023). Os resultados destacam a persistência da transfobia no Tinder, com exclusões arbitrárias de contas de pessoas trans*. Denúncias no Reclame Aqui revelam inconsistências nas políticas do Instagram, evidenciando transfobia estrutural. O uso do reconhecimento facial levanta preocupações sobre discriminação algorítmica, destacando a necessidade de regulamentação. A pesquisa ressalta a urgência de ações para combater a discriminação sistêmica e propõe o abandono da rotulação de gênero em sistemas de IA para promover equidade.
Downloads
Referências
BORBA, R.; LOPES, A. C. Escrituras de gênero e políticas de différance: Imundície verbal e letramentos de intervenção no cotidiano escolar. Revista Linguagem & Ensino, Pelotas, v. 21, p. 241-285. 2018. Disponível em: https://periodicos.ufpel.edu.br/index.php/rle/article/view/15198. Acesso em: 9 nov. 2023.
BUOLAMWINI, J.; GEBRU, T. Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, p. 77-91. 2018. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 9 nov. 2023.
BUTLER, J. Problemas de gênero: feminismo e subversão da identidade. 1. ed. Rio de Janeiro: Civilização Brasileira, 2018.
CARVALHO, M. Tinder é acusado de banir perfis de mulheres trans: “é transfobia”. Metrópoles, Distrito Federal, 18 jun. 2022. Disponível em: https://www-metropoles-com.cdn.ampproject.org/v/s/www.metropoles.com/distrito-federal/tinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia/amp?amp_gsa=1&_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_ct=1696206299985&_tf=De%20%251%24s&aoh=16962062293602&referrer=https%3A%2F%2Fwww.google.com&share=https%3A%2F%2Fwww.metropoles.com%2Fdistrito-federal%2Ftinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia. Acesso em: 9 de nov. 2023.
CASSINO, J. F. O sul global e os desafios pós-coloniais na era digital. In: CASSINO, J. F.; SILVEIRA, S. A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 13-31.
CODING RIGHTS. Tecnologias de reconhecimento facial na verificação de identidades trans. Medium, 27 jan. 2021. Disponível em: https://medium.com/codingrights/tecnologias-de-reconhecimento-facial-na-verifica%C3%A7%C3%A3o-de-identidades-trans-7d3ac3f49b92. Acesso em: 22 nov. 2023
DIJCK, J. V.; POELL, T.; WAAL, M. D. The Platform Society: public values in a conective world. Nova Iorque: Oxford, 2018.
FOUCAULT, M. The history of sexuality: an introduction. Nova Iorque: Pantheon Books, 1978.
HASEENA, S.; SAROJA, S.; MADAVAN, R.; KARTHICH, A.; PANT, B.; KIFETEW, M. Prediction of the Age and Gender Based on Human Face Images. Computational and Mathematical Methods in Medicine, v. 1, 2022, p. 1-16. Disponível em: https://www.hindawi.com/journals/cmmm/2022/1413597/. Acesso em: 22 abr. 2024. DOI: https://doi.org/10.1155/2022/1413597
KAUFMAN, D. Desmistificando a inteligência artificial. Belo Horizonte: Autêntica, 2022.
LAVILLE, C.; DIONNE, J. A construção do saber: manual de metodologia da pesquisa em ciências humanas. Tradução de Heloísa Monteiro e Francisco Settineri. Porto Alegre: Artmed, 1999.
LUCAS, M. Próteses de proteção. Revista Serrote, São Paulo, n. 35-36, p. 5-15, 2020. Disponível em: https://www.revistaserrote.com.br/wp-content/uploads/2020/11/serrote35_36-amostra.pdf. Acesso em: 9 nov. 2023.
LUNARDI, A. Tinder faz campanha contra LGBTfobia, mas continua a banir perfis de pessoas trans. Pública. 2021. Disponível em: https://apublica-org.cdn.ampproject.org/v/s/apublica.org/2022/05/tinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans/?amp=&_gsa=1&_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_tf=De%20%251%24s&aoh=16962057756965&referrer=https%3A%2F%2Fwww.google.com&share=https%3A%2F%2Fapublica.org%2F2022%2F05%2Ftinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans%2F. Acesso em: 9 de nov. 2023.
PRECIADO, P. B. Testo Junkie: sexo, drogas e biopolítica na era farmacopornográfica. São Paulo: N-1 Edições, 2018.
SALIH, S. Judith Butler e a Teoria Queer. 3. ed. Belo Horizonte: Autêntica Editora, 2012.
SHIH, J. Panorama da Inteligência Artificial Aplicada. Aula ministrada no curso Inteligência Artificial: conceituação da tecnologia e impactos sociais, Pontifícia Universidade Católica de São Paulo, São Paulo, SP, 2023.
SILVA, T. Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítmica na imagenet. In: CASSINO, João F.; SILVEIRA, Sérgio A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 87-107.
SOUZA, L. Elaborando uma ética queer. 2022. 190 f. Dissertação (Mestrado em Filosofia) - Programa de Estudos Pós-Graduados em Filosofia, Pontifícia Universidade Católica de São Paulo, São Paulo, 2022. Disponível em: https://repositorio.pucsp.br/jspui/handle/handle/30290. Acesso em: 9 nov. 2023.
STORM, A. Computer Vision Models: Stop Labeling Gender. Medium. 2021. Disponível em: https://medium.com/@alexandriastorm/computer-vision-models-stop-labeling-gender-8b39c06d4ba7. Acesso em: 27 nov, 2023.
SWAMINATHAN, A.; CHABA, M.; SHARMA, D. K.; CHABA, Yogesh. Gender Classification Using Facial Embeddings: A Novel Approach. Procedia Computer Science, v. 167, n. 1, 2020, p. 2634-2642. Disponível em: https://www.sciencedirect.com/science/article/pii/S1877050920308085. Acesso em: 22 abr, 2024. DOI: https://doi.org/10.1016/j.procs.2020.03.342
METRÓPOLES. Tinder é acusado de transfobia e usuários relatam exclusão de perfis. 12 jul. 2020. Disponível em: https://www.metropoles.com/brasil/direitos-humanos-br/tinder-e-acusado-de-transfobia-e-usuarios-relatam-exclusao-de-perfis. Acesso em: 9 de nov. 2023.
RECLAME Aqui. transfobia estrutural: estou sendo atacado pelo Instagram., Rio de Janeiro, RJ, 2 abr. 2021. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-estrutural-estou-sendo-atacado-pelo-instagram_ashqLVbe6GqW3siy/. Acesso em 28 de nov. 2023.
RECLAME Aqui. Transfobia no algoritmo do instagram. Rio de Janeiro, RJ 10 mar. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-algoritmo-do-instagram_1KF6MtGUWapq5Utl/. Acesso em: 28 nov. 2023.
RECLAME Aqui. Transfobia no instagram. Ribeirão Preto - SP, 11 out. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-instagra_XJAJ1qhaVi4AI_xM/. Acesso em: 28 de nov. 2023.
TRANS Murder Monitoring: TMM Absolute Numbers Sept 2023. Transrespect versus Transphobia. Disponível em: https://transrespect.org/en/map/trans-murder-monitoring/. Acesso em: 9 nov. 2023.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Paulo Boa Sorte, Deborah Teles de Meneses Gonçalves, Giulia Pereira Santos
![Creative Commons License](http://i.creativecommons.org/l/by/4.0/88x31.png)
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Os autores que publicam na Linguagem em Foco concordam com os seguintes termos:
- Os autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação. Os artigos estão simultaneamente licenciados sob a Creative Commons Attribution License que permite a partilha do trabalho com reconhecimento da sua autoria e da publicação inicial nesta revista.
- Os conceitos emitidos em artigos assinados são de absoluta e exclusiva responsabilidade de seus autores. Para tanto, solicitamos uma Declaração de Direito Autoral, que deve ser submetido junto ao manuscrito como Documento Suplementar.
- Os autores têm autorização para disponibilizar a versão do texto publicada na Linguagem em Foco em repositórios institucionais ou outras plataformas de distribuição de trabalhos acadêmicos (ex. ResearchGate, Academia.edu).