Racismo Algorítmico e cultura digital: um olhar a partir da Inteligência artificial (IA)

Lilian Quelle Santos de Queiroz; Arnaud Soares de Lima Júnior

doi:10.22481/odeere.v9i2.15018

Authors

Lilian Quelle Santos de Queiroz State University of Feira de Santana https://orcid.org/0000-0003-4149-7319
Arnaud Soares de Lima Júnior Bahia State University https://orcid.org/0000-0003-4028-8013

DOI:

https://doi.org/10.22481/odeere.v9i2.15018

Keywords:

Algorithmic Racism, Artificial intelligence, Digital Culture

Abstract

This research presents itself as a theoretical essay that addresses the
relationships between algorithmic racism and artificial intelligence within
the scope of digital culture. As a methodological proposition, it is based
on a qualitativo perspective using the systematic review of academic
articles, books and relevant publications with an emphasis on current
discussions about Algorithmic Racism fostered by bases that feed big
techs and, consequently, Artificial Intelligence (AI ) generative approach
and its biases, thus identifying patterns and trends in the study of
algorithmic racism. As preliminary considerations, we point out that these
databases do not issue records and parameters in an impartial, much less
unpretentious, manner, and that detecting this probable intentionality
can become a possible way of subverting the hegemony of these digital
conglomerates.

Downloads

Download data is not yet available.

References

ARAÚJO, Taiwô Prudêncio. Racismo algorítmico e seu impacto em influenciadores digitais negros no Instagram, Twitter e TikTok. Trabalho de Conclusão de Curso – UFRGS, 2022. Disponível em: http://hdl.handle.net/10183/253779.

BARTHES, Roland. A retórica da imagem. In: BARTHES, Roland. O óbvio e o obtuso. Rio de Janeiro: Nova Fronteira, 1984. p. 27-43.

BICHARA, Anderson Andrade; CASCARDO JÚNIOR, Agostinho Gomes; PERAZZONI, Franco. Racismo algorítmico, reforço de preconceitos e uso de IA: perspectivas e desafios para a investigação criminal digital. Boletim IBCCRIM, v. 32, n. 379, p. 23-26, 2024.

CASTELLS, Manuel. A Sociedade em Rede. São Paulo: Paz e Terra, 1999.

COIMBRA, Jéssica Pérola Melo et al. Interseções entre racismo algorítmico, reconhecimento facial e segurança pública no Brasil. Revista Jurídica do Cesupa, v. 4, n. 2, p. 136-160, 2023.

GIL, Antônio Carlos. Como elaborar projetos de pesquisa. São Paulo: Atlas, 2017.

GOMES, Amanda Maria de Sobral. Sexismo e racismo algorítmico: Um olhar interseccional sobre o neomaterialismo através do Midjourney. Revista da UFMG, v. 30, 2023.

HALL, Stuart. Quem precisa da identidade? In: SILVA, Tomaz Tadeu de (Org.). Identidade e diferença: a perspectiva dos estudos culturais. Petrópolis: Vozes, 2014. p. 103-133.

LIMA, Bruna Dias Fernandes. Racismo algorítmico: o enviesamento tecnológico e o impacto aos direitos fundamentais no Brasil. Dissertação (Mestrado) – UFS, 2022.

LIMA, Emilly Fátima Ferreira de. Racismo Algorítmico: representação racial e dimensões socioeconômicas em bancos de imagens digitais. In: CONGRESSO DE INICIAÇÃO CIENTÍFICA DO DF, 18., 2022, Brasília. Anais eletrônicos... Brasília: Universidade de Brasília, 2022.

LIMA, Brunno Ewerton de Magalhães; LIMA, Carla Fernanda de. Racismo algorítmico: vivências e percepções de influenciadores (as) digitais negros (as). Revista África e Africanidades, ano 16, ed. 47-48, ago./nov. 2023.

LOVATEL, Cristiane Cacera. Racismo algorítmico: marcas de um passado mais que presente na segurança pública. Tese (Doutorado) – CESUSC, 2022.

LUZ, Valentina Fonseca da. Racismo algorítmico, tecnodiversidade e a posição humana ante a tecnologia. Revista Contraponto, v. 10, n. 1, p. e131121, 2023.

NASCIMENTO, Caique Jasley Rosa. Panoptismo como expressão neocolonial: racismo algorítmico e a vigilância dos corpos negros. Frontistés - Revista Eletrônica de Filosofia e Teologia, v. 17, n. 32, p. 1-31, 2023.

NASCIMENTO, Luís Filipe da Silva. Racismo Algorítmico: Inteligências Artificiais, Ratificação de Processos de Marginalização e o Direito. Revista Ibero-Americana de Humanidades, Ciências e Educação, v. 9, n. 12, p. 1345-1358, 2023.

NYLAND, Joana Josiane Andriotte Oliveira Lima. Racismo algorítmico: uma revisão de literatura. Research, Society and Development, v. 12, n. 2, p. e1912239907, 2023.

OLIVEIRA, Cyntia Barbosa; SPOLLE, Marcus Vinicius. Mulheres negras na internet: discutindo o racismo algorítmico. In: ENCONTRO DE PÓS-GRADUAÇÃO – ENAPOS, 25., 2023, Pelotas. Anais... Pelotas: Universidade Federal de Pelotas, 2023. p. 1-6.

OLIVEIRA, Gabriel de Araújo. Tecnologias digitais e racismo algorítmico: perspectivas e limites à luz da Lei Geral de Proteção de Dados Pessoais. 2022. 67 f. Trabalho de Conclusão de Curso (Bacharelado em Direito) — Universidade de Brasília, Brasília, 2022.

OLIVEIRA, Jean Carlos de; ARANTES, Priscila Almeida Cunha. Alexa, você é racista? Racismo algorítmico, vieses e intencionalidade. DAT Journal, v. 9, n. 1, p. 04-16, 2024.

PRASSL, Jeremias Adams. What if your boss was an algorithm? Economic Incentives, Legal Challenges, and the Rise of Artificial Intelligence at Work. Comparative Labor Law and Policy Journal, v. 41, n. 1, p. 1-30, 2019. Disponível em: https://ora.ox.ac.uk/objects/uuid:674dbed4-317d-47a9-b10a-688892aeaf34/. Acesso em: 16 ago. 2020.

ROCHA, Cláudio Jannotti da; PORTO, Lorena Vasconcelos; ABAURRE, Helena Emerick. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimento Social, [S. l.], v. 1, p. 1-21, 2020. DOI: https://doi.org/10.24220/2675-9160v1e2020a5201.

SANTANA, Paulo Ricardo da Silva. Racismo algorítmico: análise dos desafios da regulação das tecnologias de reconhecimento facial no Brasil. 2022. 78 f. Trabalho de Conclusão de Curso (Bacharelado em Direito) — Universidade de Brasília, Brasília, 2022.

SILVA, Anderson Fontes da. Racismo Algorítmico: Inteligência Artificial e discriminação nas redes Sociais. Revista Em Favor de Igualdade Racial, [S. l.], v. 6, n. 3, p. 188-192, 2023. DOI: https://doi.org/10.29327/269579.6.3-14.

SILVA, Jonas Sales Fernandes da. Racismo algorítmico nas relações de consumo. 2023. Disponível em: https://www.migalhas.com.br/depeso/388195/racismo-algoritmico-nas-relacoes-de-consumo.

SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc SP, 2022.

SILVA, Tarcízio. O racismo algorítmico é uma espécie de atualização do racismo estrutural. Entrevista ao Portal Geledés. 2023. Disponível em: https://www.geledes.org.br/tarcizio-silva-o-racismo-algoritmico-e-uma-especie-de-atualizacao-do-racismo-estrutural/?gad_source=1&gclid=EAIaIQobChMIkZPe2M_HhgMVmxetBh0wuRZGEAAYASAAEgJKCfD_BwE. Acesso em: 20 abr. 2024.

WORLD ECONOMIC FORUM. HR4.0: Shaping people strategies in the Fourth Industrial Revolution. Geneva: World Economic Forum, 2019. Disponível em: http://www3.weforum.org/docs/WEF_NES_Whitepaper_HR4.0.pdf. Acesso em: 16 ago. 2020.