Algorithmic racism and artificial intelligence

a critical multimodal analysis

Authors

DOI:

https://doi.org/10.46230/lef.v16i2.13108

Keywords:

algorithmic racism, artificial intelligence, multimodality

Abstract

The intersection of Artificial Intelligence (AI) and racial issues is an increasingly pertinent topic in the contemporary context of relentless technological advancement and algorithm development. In this article, we aim to analyze the multimodal strategies employed in the construction of a racist image generated by AI. We highlight the complex interactions between different modes of representation and the ideological effects that arise from this interconnection. To achieve this aim, we ground our work theoretically in critical studies on algorithms (O’Neil, 2020; Prado, 2022), algorithmic racism (Noble, 2021; Silva, 2022), and multimodality (Kress, 2003; Jewitt, 2014). Through a critical multimodal analysis, we were able to conduct an in-depth investigation of the image in question. The results obtained underscore the urgency of implementing public policies and regulations that hold companies accountable for the development and application of algorithms with a racist bias. Such measures are essential to ensure the protection and equity of ethnic-racial groups affected by the propagation of discriminatory content, thereby contributing to the construction of a more just, egalitarian, and inclusive society. 

 

 

Downloads

Download data is not yet available.

Author Biographies

Júlio Araújo, Federal University of Ceará

Doutor em Linguística pela Universidade Federal do Ceará (2006). Pós-doutor em Estudos Linguísticos pela Universidade Federal de Minas Gerais (2012). Professor Titular no Departamento de Letras Vernáculas e no Programa de Pós-Graduação em Linguística da Universidade Federal do Ceará. Coordenador do grupo de pesquisa em Discursos e Digitalidades (DIGITAL) e do Laboratório de Letramentos e Escrita Acadêmica (LEA). Atua na área de Linguística Aplicada em interface com Pragmática e as Teorias Críticas do Discurso. À luz dessa interface estuda as relações entre linguagem e tecnologia digital, com especial atenção aos seguintes temas: Fake News, desinformação, discurso de ódio, gêneros textuais digitais, letramentos digitais críticos, novos letramentos, escrita acadêmica, letramentos acadêmicos, ensino remoto e EaD. Foi vice-presidente da Associação de Linguística Aplicada do Brasil (ALAB) no biênio 2009-2011 e vice-presidente da Associação Brasileira de Estudos sobre Hipertexto e Tecnologia Educacional (ABEHTE) no biênio 2009-2011. 

Júlio Cézar Dantas de Araújo, Federal University of Rio Grande do Norte

Doutorando e Mestre em Estudos da linguagem, área Linguística Aplicada, Universidade Federal do Rio Grande do Norte (UFRN/2024). Graduado em Pedagogia pela (UFRN/2004), especialista em Pedagogia estratégica pela Universidade Potiguar (UnP/2009) e em Literatura e ensino pelo Instituto Federal do Rio Grande do Norte em parceria com a Universidade Aberta do Brasil (IFRN/UAB/ 2012). Professor dos anos iniciais do ensino fundamental, efetivo, nos municípios de Natal/RN desde 2004 e Parnamirim/RN desde 2009. Atualmente exerce suas funções profissionais como coordenador pedagógico dos anos iniciais do ensino fundamental em escola pública municipal de Parnamirim/RN. 

References

ARAÚJO, J. A inteligência artificial e o racismo nas redes sociais (Projeto IARA). Projeto de pesquisa. Universidade Federal do Ceará, 2024.

ARAÚJO, J. O texto em ambientes digitais. In: COSCARELLI, C. V. (Org.). Leituras sobre a leitura: passos e espaços na sala de aula. Belo Horizonte: Vereda, 2013. p. 88-115.

ALMEIDA, S. L. de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019.

ARRUDA, R. B. L. Gênero meme e ensino de leitura: investigando o letramento multimodal crítico de alunos de língua inglesa. 2017. 204 f. Dissertação (Mestrdao em Linguística Aplicada) - Programa de Pós-Graduação em Linguística Aplicada da Universidade Estadual do Ceará. Centro de Humanidades, Fortaleza, 2017. Disponível em: https://siduece.uece.br/siduece/trabalhoAcademicoPublico.jsf?id=82927. Acesso em: 15 ago. 2024.

BARRETO, L. Discursos de ódio contra negros nas redes sociais. Rio de Janeiro: Pallas, 2023.

BEZEMER, J; JEWITT, C. Social semiotics. In: ÖSTMAN J. O; VERSCHUEREN, J. (Eds.) Handbook of Pragmatics. Amsterdam: Benjamins Publishing Company, 2009. p. 1–14.

BEZERRA, L. E. F. Multiletramentos e questões raciais em Everybody hates Chris: uma intervenção no ensino de inglês mediada por tecnologias digitais. 2024. 150 f. Dissertação (Mestrado em Ensino) Universidade do Estado do Rio Grande do Norte, Pau dos Ferros, 2024. Disponível em: https://propeg.uern.br/ppge/default.asp?item=ppge-dissertacoes-2024. Acesso em: 3 mai. 2024.

CALLOW, J. I see what you mean. In: CALLOW, J. The shame of text to come. Sydney: Primary English Teaching Association Australia, 2013. p. 3-11.

CASTORIADIS, C. O mundo fragmentado: as encruzilhadas do labirinto, v. 3. 3ª ed. Trad. Rosa Maria Boaventura. São Paulo: Paz e Terra, 1992.

GARCÍA-CANCLINI, N. Ciudadanos reemplazados por algoritmos. Alemanha: Bielefeld University Press, 2020.

GAO, Z. A gramática da cor: consensos culturais no ensino/aprendizagem de PLE por aprendentes chineses. 2015. 111 f. Dissertação (Mestrado em Língua e Cultura Portuguesa) – Faculdade de Letras. Universidade de Lisboa, 2015. Disponível em: http://hdl.handle.net/10451/24535. Acesso em: 21 ago. 2024.

JEWITT, C. An introduction to multimodality. In: The Routledge Handbook of Multimodal Analysis. 2nd ed., London/New York: Routledge, 2014. p. 15-30.

KREMER, B.; NUNES, P.; LIMA, T. G. L. Racismo algorítmico. (Coleção Panorama). Rio de Janeiro: CESeC, 2023.

KRESS, G. Literacy in the new media age. London: Routledge, 2003.

KRESS, G. Multimodality: a social semiotic approach to contemporary communication. New York: Routledge, 2010.

KRESS, G.; VAN LEEUWEN, T. Reading Images: The Grammar of Visual Design. London/ New York: Routledge, 2006.

LEMKE, J. L. Textual Politics: Discourse and Social Dynamics. London: Taylor & Francis, 1995.

LIMA, B. E. M.; LIMA, C. F. de. Racismo algorítmico: vivências e percepções de influenciadores(as) digitais negros(as). Revista África e Africanidades, Ano XVI, ed. 47-48, p. 1-17, ago. a nov. 2023. Disponível em: www.africaeafricanidades.com.br. Acesso em: 28 abr. 2024.

MAGNO, M. E. da S. P.; BEZERRA, J. S. Vigilância negra: O dispositivo de reconhecimento facial e a disciplinaridade dos corpos. Novos Olhares. v. 9, n. 2, p. 45-52, dez. 2020. DOI: https://doi.org/10.11606/issn.2238-7714.no.2020.165698. Disponível em: https://www.revistas.usp.br/novosolhares/article/view/165698. Acesso em: 21 ago. 2024.

MOREIRA, A. O que é racismo recreativo? Belo Horizonte: Letramento, 2019.

NASCIMENTO, G. Racismo linguístico: os subterrâneos da linguagem e do racismo. São Paulo: Letramento, 2019.

NOBLE, U. S. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Trad. Felipe Damorim. SP: Rua do Sabão, 2021.

O’NEIL, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça à democracia. Trad. Rafael Abraham. SP: Rua do Sabão, 2020.

PIERCE, C. M. Is bigotry the basis of the medical problems of the ghetto? In: NORMAN, J. C. (org.). Medicine in the ghetto. Nova York: Appleton-Century-Crofts, 1969. p. 301–312.

PRADO, M. Fake news e inteligência artificial: o poder dos algoritmos na guerra da desinformação. São Paulo: Edições 70, 2022.

RIBEIRO, A. E. Tecnologia e poder semiótico: escrever, hoje. Texto Livre, Belo Horizonte, v. 8, n. 1, p. 112–123, 2015. DOI: 10.17851/1983-3652.8.1.112-123. Disponível em: https://periodicos.ufmg.br/index.php/textolivre/article/view/16691. Acesso em: 21 ago. 2024.

SANTAELLA, L. A inteligência artificial é inteligente?. São Paulo: Edições 70, 2023.

SILVA, T. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022.

SUE, D. W. Microaggressions in everyday life: race, gender, and sexual orientation. Hoboken, New Jersey: John Willey & Sons, 2010.

TRINDADE, L. V. Discurso de ódio nas redes sociais. São Paulo: Jandaíra, 2022.

VAN DIJK, T. A. Discurso e poder. 2. ed. São Paulo: Contexto, 2015.

VAN LEEUWEN, T. Multimodality. In: SIMPSON, J. (ed.). The Routledge Handbook of Applied Linguistics. New York/London: Routledge, 2011a. p. 668-682.

VAN LEEUWEN, T. The language of colour: an introduction. London: Routledge, 2011b.

Downloads

Published

2024-10-09

How to Cite

ARAÚJO, J.; ARAÚJO, J. C. D. de. Algorithmic racism and artificial intelligence: a critical multimodal analysis. Linguagem em Foco Scientific Journal, Fortaleza, v. 16, n. 2, p. 89–109, 2024. DOI: 10.46230/lef.v16i2.13108. Disponível em: https://revistas.uece.br/index.php/linguagememfoco/article/view/13108. Acesso em: 21 nov. 2024.

Issue

Vol. 16 No. 2 (2024): Multimodality and digital technology: challenges and impacts in times of AI for research and teaching.

Section

Articles

License

Copyright (c) 2024 Júlio Araújo, Júlio Araújo

Creative Commons License

This work is licensed under a Creative Commons Attribution 4.0 International License.

Creative Commons License

Authors who publish in Linguagem em Foco Scientific Journal agree to the following terms:

  • Authors retain the copyright and grant the journal the right of first publication. The articles are simultaneously licensed under the Creative Commons Attribution License which allows sharing the work with an acknowledgement of its authorship and initial publication in this journal.
  • The concepts issued in signed articles are the absolute and exclusive responsibility of their authors. Therefore, we request a Statement of Copyright, which must be submitted with the manuscript as a Supplementary Document.
  • Authors are authorized to make the version of the text published in Linguagem em Foco Scientific Journal  available in institutional repositories or other academic work distribution platforms (ex. ResearchGate, Academia.edu).
Crossref
Scopus
Google Scholar
Europe PMC