Transfobia Algorítmica: A reprodução binária em imagens de pessoas trans*

Paulo Boa Sorte; Deborah Teles de Meneses Gonçalves; Giulia Pereira Santos

doi:10.46230/2674-8266-15-12594

Auteurs

Paulo Boa Sorte Universidade Federal de Sergipe (UFS) https://orcid.org/0000-0002-0785-5998
Deborah Teles de Meneses Gonçalves Universidade Federal de Sergipe (UFS) https://orcid.org/0009-0004-7548-2208
Giulia Pereira Santos Universidade Federal de Sergipe (UFS) https://orcid.org/0000-0002-4686-6489

DOI :

https://doi.org/10.46230/2674-8266-15-12594

Mots-clés :

transfobia, algoritmo, gêneros dissidentes, visão de máquina

Résumé

Este artigo aborda o impacto da inteligência artificial (IA), em particular da visão de máquina, na identificação de gênero, destacando desafios e implicações para pessoas de gêneros dissidentes, entendidos, neste trabalho, como indivíduos que divergem do regime binário de generificação de corpxs enquanto homens ou mulheres (PRECIADO, 2018). O cerne do problema reside na análise de características faciais e padrões visuais para identificar o gênero, uma prática que, frequentemente, se baseia em padrões binários, exclui e marginaliza pessoas cujas identidades de gênero transcendem essas normas. A consequência desse viés é a perpetuação da transfobia algorítmica, em que máquinas, ao serem programadas para interpretar o gênero, podem negligenciar e excluir indivíduos que não se identificam com o sexo atribuído ao nascimento. Nesse sentido, propomos a análise de casos de transfobia algorítmica por meio de uma pesquisa exploratório-descritiva que abarca relatos on-line de agressões relacionadas à imagem de pessoas trans* em plataformas digitais. O estudo explora uma variedade de fontes, como notícias, blogs e canais de reclamação, entre 2020 e 2022. A análise identifica categorias emergentes, abordando a discriminação relacionada à imagem de pessoas trans*. O referencial teórico abarca discussões sobre identidades de gênero (FOUCAULT, 1978; SALIH, 2012; BUTLER, 2018; SOUZA 2022); pós-digital, plataformas e visão de máquina (DJICK; POELL; WALL, 2018; SILVA, 2021; STORM, 2021; KAUFMAN, 2022; SHIH, 2023). Os resultados destacam a persistência da transfobia no Tinder, com exclusões arbitrárias de contas de pessoas trans*. Denúncias no Reclame Aqui revelam inconsistências nas políticas do Instagram, evidenciando transfobia estrutural. O uso do reconhecimento facial levanta preocupações sobre discriminação algorítmica, destacando a necessidade de regulamentação. A pesquisa ressalta a urgência de ações para combater a discriminação sistêmica e propõe o abandono da rotulação de gênero em sistemas de IA para promover equidade.

Téléchargements

Les données relatives au téléchargement ne sont pas encore disponibles.

Bibliographies de l'auteur

Paulo Boa Sorte, Universidade Federal de Sergipe (UFS)

Professor Associado do Departamento de Letras Estrangeiras (DLES) e Professor Permanente do Programa de Pós-Graduação em Educação (PPGED) da Universidade Federal de Sergipe (UFS). Possui graduação em Letras Português-Inglês pela UNEB (2003), especialização em Ensino de Inglês pela UFMG (2006), mestrado em Educação pela UFS (2010) e doutorado em Linguística Aplicada e Estudos da Linguagem pela PUC-SP (2014). Realizou estágios pós-doutorais na Unicamp (2016), na University of Michigan (2017), com bolsa FULBRIGHT (Junior Faculty Member) e na University of Miami (2019-2020). Líder do grupo de estudos e pesquisas TECLA - Tecnologias, Educação e Linguística Aplicada e do Centro Internacional de Pesquisa em Inteligência Artificial [AI Worldwide: Education, Language and Society], que reúne mais de 25 pesquisadores de 12 países, com representação de todos os continentes.

Deborah Teles de Meneses Gonçalves, Universidade Federal de Sergipe (UFS)

Mestranda em Educação - Programa de Pós-Graduação em Educação (PPGED) da Universidade Federal de Sergipe (UFS) - em andamento, sob orientação do Prof. Dr. Paulo Roberto Boa Sorte Silva (PPGED/DLES/UFS) e coorientação da Prof. Dr. Manuela Rodrigues Santos (IFS). EXPERIÊNCIA PROFISSIONAL: Docente bolsista na ação "Introdução à Língua Portuguesa como Língua Estrangeira e ao Espanhol para fins acadêmicos no contexto da UFS", pelo projeto de extensão da Universidade Federal de Sergipe, associado ao programa Idiomas Sem Fronteiras - 07/2018 até 12/2018, sob orientação da Prof. Dr. Ana Flora Schlindwein (DELI/UFS); voluntária em ações associadas ao Colégio de Aplicação (CODAP/UFS), pelo projeto de extensão do Programa Institucional de Bolsas de Iniciação à Docência (Pibid-Inglês), vinculado a Universidade Federal de Sergipe - 08/2018 até 07/2019, sob orientação da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS) e da Prof. Dr. Jane dos Santos (CODAP/UFS); docente bolsista na ação "Curso de Inglês para Iniciantes", pelo projeto de extensão do Colégio de Aplicação (CODAP/UFS), associado à Universidade Federal de Sergipe - 05/2019 até 03/2020, sob orientação da Prof. Dr. Jane dos Santos (CODAP/UFS) e da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS); voluntária selecionada para a ação "Unlocking Potentialities" pelo projeto de extensão da Universidade Federal de Sergipe, associada às Unidades Prisionais do estado de Sergipe (PREFEM e COPEMCAN) - 08/2019, sob orientação da da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS); pesquisadora bolsista pelo Programa Institucional de Bolsas de Iniciação Científica (PIBIC), vinculado a Universidade Federal de Sergipe, com atuação no projeto de pesquisa "Professor em formação: (Res)significando as práticas pedagógicas de ensino de Inglês na Educação Básica a partir das questões de diversidade."

Giulia Pereira Santos, Universidade Federal de Sergipe (UFS)

Professora efetiva da rede municipal de Estância, graduada em Letras Português-Inglês pela Universidade Federal de Sergipe (UFS - 2020), mestre em Educação com bolsa CAPES (UFS - 2022) e doutoranda no Programa de Pós-Graduação em Educação (PPGED-UFS) na linha de pesquisa Tecnologias, Linguagens e Educação. Foi bolsista Capes do Programa Institucional de Bolsas de Iniciação à docência (Pibid) e bolsista Fapitec do Programa Institucional de Bolsas de Iniciação Científica (Pibic) durante o período de graduação. Atuou como professora de inglês na escola de idiomas Wizard (2020) e atualmente é participante do grupo de estudos e pesquisas TECLA: Tecnologias, Educação e Linguística Aplicada (UFS/CNPq). (Texto informado pelo autor)

Références

BORBA, R.; LOPES, A. C. Escrituras de gênero e políticas de différance: Imundície verbal e letramentos de intervenção no cotidiano escolar. Revista Linguagem & Ensino, Pelotas, v. 21, p. 241-285. 2018. Disponível em: https://periodicos.ufpel.edu.br/index.php/rle/article/view/15198. Acesso em: 9 nov. 2023.

BUOLAMWINI, J.; GEBRU, T. Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, p. 77-91. 2018. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 9 nov. 2023.

BUTLER, J. Problemas de gênero: feminismo e subversão da identidade. 1. ed. Rio de Janeiro: Civilização Brasileira, 2018.

CARVALHO, M. Tinder é acusado de banir perfis de mulheres trans: “é transfobia”. Metrópoles, Distrito Federal, 18 jun. 2022. Disponível em: https://www-metropoles-com.cdn.ampproject.org/v/s/www.metropoles.com/distrito-federal/tinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia/amp?amp_gsa=1&amp_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_ct=1696206299985&amp_tf=De%20%251%24s&aoh=16962062293602&referrer=https%3A%2F%2Fwww.google.com&ampshare=https%3A%2F%2Fwww.metropoles.com%2Fdistrito-federal%2Ftinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia. Acesso em: 9 de nov. 2023.

CASSINO, J. F. O sul global e os desafios pós-coloniais na era digital. In: CASSINO, J. F.; SILVEIRA, S. A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 13-31.

CODING RIGHTS. Tecnologias de reconhecimento facial na verificação de identidades trans. Medium, 27 jan. 2021. Disponível em: https://medium.com/codingrights/tecnologias-de-reconhecimento-facial-na-verifica%C3%A7%C3%A3o-de-identidades-trans-7d3ac3f49b92. Acesso em: 22 nov. 2023

DIJCK, J. V.; POELL, T.; WAAL, M. D. The Platform Society: public values in a conective world. Nova Iorque: Oxford, 2018.

FOUCAULT, M. The history of sexuality: an introduction. Nova Iorque: Pantheon Books, 1978.

HASEENA, S.; SAROJA, S.; MADAVAN, R.; KARTHICH, A.; PANT, B.; KIFETEW, M. Prediction of the Age and Gender Based on Human Face Images. Computational and Mathematical Methods in Medicine, v. 1, 2022, p. 1-16. Disponível em: https://www.hindawi.com/journals/cmmm/2022/1413597/. Acesso em: 22 abr. 2024. DOI: https://doi.org/10.1155/2022/1413597

KAUFMAN, D. Desmistificando a inteligência artificial. Belo Horizonte: Autêntica, 2022.

LAVILLE, C.; DIONNE, J. A construção do saber: manual de metodologia da pesquisa em ciências humanas. Tradução de Heloísa Monteiro e Francisco Settineri. Porto Alegre: Artmed, 1999.

LUCAS, M. Próteses de proteção. Revista Serrote, São Paulo, n. 35-36, p. 5-15, 2020. Disponível em: https://www.revistaserrote.com.br/wp-content/uploads/2020/11/serrote35_36-amostra.pdf. Acesso em: 9 nov. 2023.

LUNARDI, A. Tinder faz campanha contra LGBTfobia, mas continua a banir perfis de pessoas trans. Pública. 2021. Disponível em: https://apublica-org.cdn.ampproject.org/v/s/apublica.org/2022/05/tinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans/?amp=&amp_gsa=1&amp_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_tf=De%20%251%24s&aoh=16962057756965&referrer=https%3A%2F%2Fwww.google.com&ampshare=https%3A%2F%2Fapublica.org%2F2022%2F05%2Ftinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans%2F. Acesso em: 9 de nov. 2023.

PRECIADO, P. B. Testo Junkie: sexo, drogas e biopolítica na era farmacopornográfica. São Paulo: N-1 Edições, 2018.

SALIH, S. Judith Butler e a Teoria Queer. 3. ed. Belo Horizonte: Autêntica Editora, 2012.

SHIH, J. Panorama da Inteligência Artificial Aplicada. Aula ministrada no curso Inteligência Artificial: conceituação da tecnologia e impactos sociais, Pontifícia Universidade Católica de São Paulo, São Paulo, SP, 2023.

SILVA, T. Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítmica na imagenet. In: CASSINO, João F.; SILVEIRA, Sérgio A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 87-107.

SOUZA, L. Elaborando uma ética queer. 2022. 190 f. Dissertação (Mestrado em Filosofia) - Programa de Estudos Pós-Graduados em Filosofia, Pontifícia Universidade Católica de São Paulo, São Paulo, 2022. Disponível em: https://repositorio.pucsp.br/jspui/handle/handle/30290. Acesso em: 9 nov. 2023.

STORM, A. Computer Vision Models: Stop Labeling Gender. Medium. 2021. Disponível em: https://medium.com/@alexandriastorm/computer-vision-models-stop-labeling-gender-8b39c06d4ba7. Acesso em: 27 nov, 2023.

SWAMINATHAN, A.; CHABA, M.; SHARMA, D. K.; CHABA, Yogesh. Gender Classification Using Facial Embeddings: A Novel Approach. Procedia Computer Science, v. 167, n. 1, 2020, p. 2634-2642. Disponível em: https://www.sciencedirect.com/science/article/pii/S1877050920308085. Acesso em: 22 abr, 2024. DOI: https://doi.org/10.1016/j.procs.2020.03.342

METRÓPOLES. Tinder é acusado de transfobia e usuários relatam exclusão de perfis. 12 jul. 2020. Disponível em: https://www.metropoles.com/brasil/direitos-humanos-br/tinder-e-acusado-de-transfobia-e-usuarios-relatam-exclusao-de-perfis. Acesso em: 9 de nov. 2023.

RECLAME Aqui. transfobia estrutural: estou sendo atacado pelo Instagram., Rio de Janeiro, RJ, 2 abr. 2021. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-estrutural-estou-sendo-atacado-pelo-instagram_ashqLVbe6GqW3siy/. Acesso em 28 de nov. 2023.

RECLAME Aqui. Transfobia no algoritmo do instagram. Rio de Janeiro, RJ 10 mar. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-algoritmo-do-instagram_1KF6MtGUWapq5Utl/. Acesso em: 28 nov. 2023.

RECLAME Aqui. Transfobia no instagram. Ribeirão Preto - SP, 11 out. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-instagra_XJAJ1qhaVi4AI_xM/. Acesso em: 28 de nov. 2023.

TRANS Murder Monitoring: TMM Absolute Numbers Sept 2023. Transrespect versus Transphobia. Disponível em: https://transrespect.org/en/map/trans-murder-monitoring/. Acesso em: 9 nov. 2023.