Racismo Algorítmico e cultura digital: um olhar a partir da  Inteligência artificial (IA)

Lilian Quelle Santos de Queiroz; Arnaud Soares de Lima Júnior

doi:10.22481/odeere.v9i2.15018

Autores

Lilian Quelle Santos de Queiroz Universidade Estadual de Feira de Santana - UEFS https://orcid.org/0000-0003-4149-7319
Arnaud Soares de Lima Júnior Universidade do Estado da Bahia https://orcid.org/0000-0003-4028-8013

DOI:

https://doi.org/10.22481/odeere.v9i2.15018

Palavras-chave:

Racismo Algorítmico, Inteligência Artificial, Cultura Digital

Resumo

Este trabalho apresenta-se como um ensaio teórico que aborda as relações entre racismo algorítmico e inteligência artificial no âmbito da cultura digital. Como proposição metodológica baseia-se na perspectiva qualitativa utilizando-se da revisão sistemática de artigos acadêmicos, livros e publicações relevantes com ênfase nas atuais discussões acerca do Racismo Algorítmico fomentado por bases que alimentam as big techs e, por consequência, a Inteligência Artificial (IA) generativa e seus vieses, identificando desse modo, padrões e tendências no estudo do racismo algorítmico. Como considerações preliminares apontamos que esses bases não emitem registros e parâmetros de forma isenta, muito menos despretensiosa, e que detectar essa provável intencionalidade pode se converter em uma possível maneira de subverter a hegemonia desses conglomerados digitais.

Downloads

Não há dados estatísticos.

Biografia do Autor

Lilian Quelle Santos de Queiroz, Universidade Estadual de Feira de Santana - UEFS

Doutora em Educação. Professora Titular da Universidade Estadual de Feira de Santana (UEFS), Integrante da Área de Artes Gráficas e Visuais do Departamento de Letras e Artes (UEFS), Pós-Doutorado pela Universidade do Estado da Bahia (UNEB). Desenvolve pesquisa em temas relacionados ao Desenho, Património Cultural e Tecnologias.

Arnaud Soares de Lima Júnior, Universidade do Estado da Bahia

Doutor em Educação. Professor Pleno da Universidade do Estado da Bahia (UNEB). Docente Colaborador do Programa de Pós-Graduação Educação e Contemporaneidade. Líder do Grupo de Pesquisa Educação e Humanidades (UMANITÀ)//UNEB. Psicanalista, Membro Fundador do Instituto Freudiano e Clínica Psicanalítica (IFCP)/UNEB. Desenvolvo estudo e pesquisa nas áreas: Educação; Currículo, Processos Tecnológicos; Epistemologia; Estética; Linguagem e Subjetividade.

Referências

ARAÚJO, Taiwô Prudêncio. Racismo algorítmico e seu impacto em influenciadores digitais negros no Instagram, Twitter e TikTok. Trabalho de conclusão de graduação. UFRGS. URI: http://hdl.handle.net/10183/253779. 2022.

BARTHES, Roland. A retórica da Imagem. In: BARTHES, Roland. O óbvio e o obtuso. Rio Janeiro: Nova Fronteira, 1984, p. 27-43.

BICHARA, Anderson Andrade; CASCARDO JÚNIOR, Agostinho Gomes; PERAZZONI, Franco. Racismo algorítmico, reforço de preconceitos e uso de IA: perspectivas e desafios para a investigação criminal digital. Boletim IBCCRIM, v. 32, n. 379, p. 23-26, 2024.

CASTELLS, Manuel. A Sociedade em Rede. São Paulo: Paz e Terra, 1999.

COIMBRA, Jéssica Pérola Melo et al. Interseções entre racismo algorítmico, reconhecimento facial e segurança pública no Brasil. Revista Jurídica do Cesupa, v. 4, n. 2, p. 136-160, 2023.

GIL, Antônio Carlos. Como elaborar projetos de pesquisa. São Paulo: Atlas, 2017.

GOMES, Amanda Maria de Sobral. Sexismo e racismo algorítmico: Um olhar interseccional sobre o neomaterialismo através do Midjourney. Revista da UFMG, v. 30, 2023.

HALL, Stuart. Quem precisa da identidade? In: SILVA, Tomaz Tadeu de (org.) Identidade e diferença: a perspectiva dos estudos culturais. Petrópolis: Vozes, 2014, p. 103- 133.

LIMA, Bruna Dias Fernandes. Racismo algorítmico: o enviesamento tecnológico e o impacto aos direitos fundamentais no Brasil. Dissertação de Mestrado, UFS. 2022.

LIMA, Emilly Fátima Ferreira de. Racismo Algorítmico: representação racial e dimensões socioeconômicas em bancos de imagens digitais. In: CONGRESSO DE INICIAÇÃO CIENTÍFICA DO DF, 18., Anais eletrônicos... Organização: Sérgio Ronaldo Granemann … [et al.]. ‒ Brasília: Universidade de Brasília, 2022.

LIMA, Brunno Ewerton de Magalhães; LIMA, Carla Fernanda de. Racismo algorítmico: vivências e percepções de influenciadores (as) digitais negros (as). Revista África e Africanidades, Ano XVI, ed. 47-48, ago. a nov. 2023.

LOVATEL, Cristiane Cacera. Racismo algorítmico: marcas de um passado mais que presente na segurança pública. Tese de Doutorado. CESUSC. 2022.

LUZ, Valentina Fonseca da. Racismo algorítmico, tecnodiversidade e a posição humana ante a tecnologia. Revista Contraponto, v. 10, n. 1, p. e131121, 2023.

NASCIMENTO, Caique Jasley Rosa. Panoptismo como expressão neocolonial: racismo algorítmico e a vigilância dos corpos negros. Frontistés-Revista Eletrônica de Filosofia e Teologia, v. 17, n. 32, p. 1-31, 2023.

NASCIMENTO, Luís Filipe da Silva. Racismo Algorítmico: Inteligências Artificiais, Ratificação de Processos de Marginalização e o Direito. Revista Ibero-Americana de Humanidades, Ciências e Educação, v. 9, n. 12, p. 1345-1358, 2023.

NYLAND, Joana Josiane Andriotte Oliveira Lima. Racismo algorítmico: uma revisão de literatura. Research, Society and Development, v. 12, n. 2, p. e1912239907-e1912239907, 2023.

OLIVEIRA, Cyntia Barbosa; SPOLLE, Marcus Vinicius. Mulheres negras na internet: discutindo o racismo algorítmico. In: ENCONTRO DE PÓS-GRADUAÇÃO – ENAPOS, 25, Anais... Universidade Federal de Pelotas, p. 1-6. Pelotas-RS. UFPEL, 2023.

OLIVEIRA, Gabriel de Araújo. Tecnologias digitais e racismo algorítmico: perspectivas e limites à luz da Lei Geral de Proteção de Dados Pessoais. 2022. 67 f., il. Trabalho de Conclusão de Curso (Bacharelado em Direito) — Universidade de Brasília, Brasília, 2022.

OLIVEIRA, Jean Carlos de; ARANTES, Priscila Almeida Cunha. Alexa, você é racista? Racismo algorítmico, vieses e intencionalidade. DAT Journal, v. 9, n. 1, p. 04-16, 2024.

PRASSL, Jeremias Adams. What if your boss was an algorithm? Economic Incentives, Legal Challenges, and the Rise of Artificial Intelligence at Work. Comparative Labor Law and Policy Journal, v. 41, n.1, p. 1-30, 2019.: https://ora.ox.ac.uk/objects/uuid:674dbed4-317d-47a9-b10a-688892aeaf34/. Cited: Aug. 16, 2020.

ROCHA, Cláudio Jannotti da; PORTO, Lorena Vasconcelos; ABAURRE, Helena Emerick. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimento Social, [S. l.], v. 1, p. 1–21, 2020. https://doi.org/10.24220/2675-9160v1e2020a5201.

SANTANA, Paulo Ricardo da Silva. Racismo algorítmico: análise dos desafios da regulação das tecnologias de reconhecimento facial no Brasil. 78f., il. Trabalho de Conclusão de Curso (Bacharelado em Direito) — Universidade de Brasília, Brasília, 2022.

SILVA, Anderson Fontes da. Racismo Algorítmico: Inteligência Artificial e discriminação nas redes Sociais. Revista Em Favor de Igualdade Racial, [S. l.], v. 6, n. 3, p. 188–192, 2023. https://doi.org/10.29327/269579.6.3-14.

SILVA, Jonas Sales Fernandes da. Racismo algorítmico nas relações de consumo. 2023. https://www.migalhas.com.br/depeso/388195/racismo-algoritmico-nas-relacoes-de-consumo.

SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. Edições Sesc SP, 2022.

SILVA, Tarcízio. “O racismo algorítmico é uma espécie de atualização do racismo estrutural”. Entrevista ao Portal GELEDES. 2023. https://www.geledes.org.br/tarcizio-silva-o-racismo-algoritmico-e-uma-especie-de-atualizacao-do-racismo-estrutural/?gad_source=1&gclid=EAIaIQobChMIkZPe2M_HhgMVmxetBh0wuRZGEAAYASAAEgJKCfD_BwE. Acesso em: 20 abr. 2024.

WORLD ECONOMIC FORUM. HR4.0: Shaping people strategies in the Fourth Industrial Revolution. Geneva: World Economic Forum, 2019. http://www3.weforum.org/docs/WEF_NES_Whitepaper_HR4.0.pdf. Cited: Aug. 16, 2023. 2020.