Transfobia Algorítmica: A reprodução binária em imagens de pessoas trans*

Paulo Boa Sorte; Deborah Teles de Meneses Gonçalves; Giulia Pereira Santos

doi:10.46230/2674-8266-15-12594

Autores/as

Paulo Boa Sorte Universidade Federal de Sergipe (UFS) https://orcid.org/0000-0002-0785-5998
Deborah Teles de Meneses Gonçalves Universidade Federal de Sergipe (UFS) https://orcid.org/0009-0004-7548-2208
Giulia Pereira Santos Universidade Federal de Sergipe (UFS) https://orcid.org/0000-0002-4686-6489

DOI:

https://doi.org/10.46230/2674-8266-15-12594

Palabras clave:

transfobia, algoritmo, gêneros dissidentes, visão de máquina

Resumen

Este artigo aborda o impacto da inteligência artificial (IA), em particular da visão de máquina, na identificação de gênero, destacando desafios e implicações para pessoas de gêneros dissidentes, entendidos, neste trabalho, como indivíduos que divergem do regime binário de generificação de corpxs enquanto homens ou mulheres (PRECIADO, 2018). O cerne do problema reside na análise de características faciais e padrões visuais para identificar o gênero, uma prática que, frequentemente, se baseia em padrões binários, exclui e marginaliza pessoas cujas identidades de gênero transcendem essas normas. A consequência desse viés é a perpetuação da transfobia algorítmica, em que máquinas, ao serem programadas para interpretar o gênero, podem negligenciar e excluir indivíduos que não se identificam com o sexo atribuído ao nascimento. Nesse sentido, propomos a análise de casos de transfobia algorítmica por meio de uma pesquisa exploratório-descritiva que abarca relatos on-line de agressões relacionadas à imagem de pessoas trans* em plataformas digitais. O estudo explora uma variedade de fontes, como notícias, blogs e canais de reclamação, entre 2020 e 2022. A análise identifica categorias emergentes, abordando a discriminação relacionada à imagem de pessoas trans*. O referencial teórico abarca discussões sobre identidades de gênero (FOUCAULT, 1978; SALIH, 2012; BUTLER, 2018; SOUZA 2022); pós-digital, plataformas e visão de máquina (DJICK; POELL; WALL, 2018; SILVA, 2021; STORM, 2021; KAUFMAN, 2022; SHIH, 2023). Os resultados destacam a persistência da transfobia no Tinder, com exclusões arbitrárias de contas de pessoas trans*. Denúncias no Reclame Aqui revelam inconsistências nas políticas do Instagram, evidenciando transfobia estrutural. O uso do reconhecimento facial levanta preocupações sobre discriminação algorítmica, destacando a necessidade de regulamentação. A pesquisa ressalta a urgência de ações para combater a discriminação sistêmica e propõe o abandono da rotulação de gênero em sistemas de IA para promover equidade.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Paulo Boa Sorte, Universidade Federal de Sergipe (UFS)

Professor Associado do Departamento de Letras Estrangeiras (DLES) e Professor Permanente do Programa de Pós-Graduação em Educação (PPGED) da Universidade Federal de Sergipe (UFS). Possui graduação em Letras Português-Inglês pela UNEB (2003), especialização em Ensino de Inglês pela UFMG (2006), mestrado em Educação pela UFS (2010) e doutorado em Linguística Aplicada e Estudos da Linguagem pela PUC-SP (2014). Realizou estágios pós-doutorais na Unicamp (2016), na University of Michigan (2017), com bolsa FULBRIGHT (Junior Faculty Member) e na University of Miami (2019-2020). Líder do grupo de estudos e pesquisas TECLA - Tecnologias, Educação e Linguística Aplicada e do Centro Internacional de Pesquisa em Inteligência Artificial [AI Worldwide: Education, Language and Society], que reúne mais de 25 pesquisadores de 12 países, com representação de todos os continentes.

Deborah Teles de Meneses Gonçalves, Universidade Federal de Sergipe (UFS)

Mestranda em Educação - Programa de Pós-Graduação em Educação (PPGED) da Universidade Federal de Sergipe (UFS) - em andamento, sob orientação do Prof. Dr. Paulo Roberto Boa Sorte Silva (PPGED/DLES/UFS) e coorientação da Prof. Dr. Manuela Rodrigues Santos (IFS). EXPERIÊNCIA PROFISSIONAL: Docente bolsista na ação "Introdução à Língua Portuguesa como Língua Estrangeira e ao Espanhol para fins acadêmicos no contexto da UFS", pelo projeto de extensão da Universidade Federal de Sergipe, associado ao programa Idiomas Sem Fronteiras - 07/2018 até 12/2018, sob orientação da Prof. Dr. Ana Flora Schlindwein (DELI/UFS); voluntária em ações associadas ao Colégio de Aplicação (CODAP/UFS), pelo projeto de extensão do Programa Institucional de Bolsas de Iniciação à Docência (Pibid-Inglês), vinculado a Universidade Federal de Sergipe - 08/2018 até 07/2019, sob orientação da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS) e da Prof. Dr. Jane dos Santos (CODAP/UFS); docente bolsista na ação "Curso de Inglês para Iniciantes", pelo projeto de extensão do Colégio de Aplicação (CODAP/UFS), associado à Universidade Federal de Sergipe - 05/2019 até 03/2020, sob orientação da Prof. Dr. Jane dos Santos (CODAP/UFS) e da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS); voluntária selecionada para a ação "Unlocking Potentialities" pelo projeto de extensão da Universidade Federal de Sergipe, associada às Unidades Prisionais do estado de Sergipe (PREFEM e COPEMCAN) - 08/2019, sob orientação da da Prof. Dr. Ana Lúcia Simões Borges Fonseca (DLES/UFS); pesquisadora bolsista pelo Programa Institucional de Bolsas de Iniciação Científica (PIBIC), vinculado a Universidade Federal de Sergipe, com atuação no projeto de pesquisa "Professor em formação: (Res)significando as práticas pedagógicas de ensino de Inglês na Educação Básica a partir das questões de diversidade."

Giulia Pereira Santos, Universidade Federal de Sergipe (UFS)

Professora efetiva da rede municipal de Estância, graduada em Letras Português-Inglês pela Universidade Federal de Sergipe (UFS - 2020), mestre em Educação com bolsa CAPES (UFS - 2022) e doutoranda no Programa de Pós-Graduação em Educação (PPGED-UFS) na linha de pesquisa Tecnologias, Linguagens e Educação. Foi bolsista Capes do Programa Institucional de Bolsas de Iniciação à docência (Pibid) e bolsista Fapitec do Programa Institucional de Bolsas de Iniciação Científica (Pibic) durante o período de graduação. Atuou como professora de inglês na escola de idiomas Wizard (2020) e atualmente é participante do grupo de estudos e pesquisas TECLA: Tecnologias, Educação e Linguística Aplicada (UFS/CNPq). (Texto informado pelo autor)

Citas

BORBA, R.; LOPES, A. C. Escrituras de gênero e políticas de différance: Imundície verbal e letramentos de intervenção no cotidiano escolar. Revista Linguagem & Ensino, Pelotas, v. 21, p. 241-285. 2018. Disponível em: https://periodicos.ufpel.edu.br/index.php/rle/article/view/15198. Acesso em: 9 nov. 2023.

BUOLAMWINI, J.; GEBRU, T. Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, p. 77-91. 2018. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 9 nov. 2023.

BUTLER, J. Problemas de gênero: feminismo e subversão da identidade. 1. ed. Rio de Janeiro: Civilização Brasileira, 2018.

CARVALHO, M. Tinder é acusado de banir perfis de mulheres trans: “é transfobia”. Metrópoles, Distrito Federal, 18 jun. 2022. Disponível em: https://www-metropoles-com.cdn.ampproject.org/v/s/www.metropoles.com/distrito-federal/tinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia/amp?amp_gsa=1&amp_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_ct=1696206299985&amp_tf=De%20%251%24s&aoh=16962062293602&referrer=https%3A%2F%2Fwww.google.com&ampshare=https%3A%2F%2Fwww.metropoles.com%2Fdistrito-federal%2Ftinder-e-acusado-de-banir-perfis-de-mulheres-trans-e-transfobia. Acesso em: 9 de nov. 2023.

CASSINO, J. F. O sul global e os desafios pós-coloniais na era digital. In: CASSINO, J. F.; SILVEIRA, S. A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 13-31.

CODING RIGHTS. Tecnologias de reconhecimento facial na verificação de identidades trans. Medium, 27 jan. 2021. Disponível em: https://medium.com/codingrights/tecnologias-de-reconhecimento-facial-na-verifica%C3%A7%C3%A3o-de-identidades-trans-7d3ac3f49b92. Acesso em: 22 nov. 2023

DIJCK, J. V.; POELL, T.; WAAL, M. D. The Platform Society: public values in a conective world. Nova Iorque: Oxford, 2018.

FOUCAULT, M. The history of sexuality: an introduction. Nova Iorque: Pantheon Books, 1978.

HASEENA, S.; SAROJA, S.; MADAVAN, R.; KARTHICH, A.; PANT, B.; KIFETEW, M. Prediction of the Age and Gender Based on Human Face Images. Computational and Mathematical Methods in Medicine, v. 1, 2022, p. 1-16. Disponível em: https://www.hindawi.com/journals/cmmm/2022/1413597/. Acesso em: 22 abr. 2024. DOI: https://doi.org/10.1155/2022/1413597

KAUFMAN, D. Desmistificando a inteligência artificial. Belo Horizonte: Autêntica, 2022.

LAVILLE, C.; DIONNE, J. A construção do saber: manual de metodologia da pesquisa em ciências humanas. Tradução de Heloísa Monteiro e Francisco Settineri. Porto Alegre: Artmed, 1999.

LUCAS, M. Próteses de proteção. Revista Serrote, São Paulo, n. 35-36, p. 5-15, 2020. Disponível em: https://www.revistaserrote.com.br/wp-content/uploads/2020/11/serrote35_36-amostra.pdf. Acesso em: 9 nov. 2023.

LUNARDI, A. Tinder faz campanha contra LGBTfobia, mas continua a banir perfis de pessoas trans. Pública. 2021. Disponível em: https://apublica-org.cdn.ampproject.org/v/s/apublica.org/2022/05/tinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans/?amp=&amp_gsa=1&amp_js_v=a9&usqp=mq331AQIUAKwASCAAgM%3D#amp_tf=De%20%251%24s&aoh=16962057756965&referrer=https%3A%2F%2Fwww.google.com&ampshare=https%3A%2F%2Fapublica.org%2F2022%2F05%2Ftinder-faz-campanha-contra-lgbtfobia-mas-continua-a-banir-perfis-de-pessoas-trans%2F. Acesso em: 9 de nov. 2023.

PRECIADO, P. B. Testo Junkie: sexo, drogas e biopolítica na era farmacopornográfica. São Paulo: N-1 Edições, 2018.

SALIH, S. Judith Butler e a Teoria Queer. 3. ed. Belo Horizonte: Autêntica Editora, 2012.

SHIH, J. Panorama da Inteligência Artificial Aplicada. Aula ministrada no curso Inteligência Artificial: conceituação da tecnologia e impactos sociais, Pontifícia Universidade Católica de São Paulo, São Paulo, SP, 2023.

SILVA, T. Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítmica na imagenet. In: CASSINO, João F.; SILVEIRA, Sérgio A.; SOUZA, J. (Orgs.) Colonialismo de dados. São Paulo, SP: Autonomia Literária, 2021, p. 87-107.

SOUZA, L. Elaborando uma ética queer. 2022. 190 f. Dissertação (Mestrado em Filosofia) - Programa de Estudos Pós-Graduados em Filosofia, Pontifícia Universidade Católica de São Paulo, São Paulo, 2022. Disponível em: https://repositorio.pucsp.br/jspui/handle/handle/30290. Acesso em: 9 nov. 2023.

STORM, A. Computer Vision Models: Stop Labeling Gender. Medium. 2021. Disponível em: https://medium.com/@alexandriastorm/computer-vision-models-stop-labeling-gender-8b39c06d4ba7. Acesso em: 27 nov, 2023.

SWAMINATHAN, A.; CHABA, M.; SHARMA, D. K.; CHABA, Yogesh. Gender Classification Using Facial Embeddings: A Novel Approach. Procedia Computer Science, v. 167, n. 1, 2020, p. 2634-2642. Disponível em: https://www.sciencedirect.com/science/article/pii/S1877050920308085. Acesso em: 22 abr, 2024. DOI: https://doi.org/10.1016/j.procs.2020.03.342

METRÓPOLES. Tinder é acusado de transfobia e usuários relatam exclusão de perfis. 12 jul. 2020. Disponível em: https://www.metropoles.com/brasil/direitos-humanos-br/tinder-e-acusado-de-transfobia-e-usuarios-relatam-exclusao-de-perfis. Acesso em: 9 de nov. 2023.

RECLAME Aqui. transfobia estrutural: estou sendo atacado pelo Instagram., Rio de Janeiro, RJ, 2 abr. 2021. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-estrutural-estou-sendo-atacado-pelo-instagram_ashqLVbe6GqW3siy/. Acesso em 28 de nov. 2023.

RECLAME Aqui. Transfobia no algoritmo do instagram. Rio de Janeiro, RJ 10 mar. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-algoritmo-do-instagram_1KF6MtGUWapq5Utl/. Acesso em: 28 nov. 2023.

RECLAME Aqui. Transfobia no instagram. Ribeirão Preto - SP, 11 out. 2022. Disponível em: https://www.reclameaqui.com.br/instagram/transfobia-no-instagra_XJAJ1qhaVi4AI_xM/. Acesso em: 28 de nov. 2023.

TRANS Murder Monitoring: TMM Absolute Numbers Sept 2023. Transrespect versus Transphobia. Disponível em: https://transrespect.org/en/map/trans-murder-monitoring/. Acesso em: 9 nov. 2023.