| Revista: | Revista do CAAP |
| Base de datos: | |
| Número de sistema: | 000609653 |
| ISSN: | 2238-3840 |
| Autores: | Silva, Isabela Maria Soares1 Barbosa, Letícia Mendes2 |
| Instituciones: | 1Pontifícia Universidade Católica de Minas Gerais (PUC-MG), 2Universidade Federal de Ouro Preto (UFOP), |
| Año: | 2023 |
| Volumen: | 28 |
| Número: | 2 |
| Paginación: | 1-30 |
| País: | Brasil |
| Idioma: | Portugués |
| Resumen en inglés | The use of artificial intelligence (AI) technologies is on the rise. It is possible to observe a significant increase in the delegation of decision-making processes, data processing and targeting users of digital platforms through algorithmic systems. However, it is imperative to recognize that the longed-for algorithmic neutrality does not match reality. The internet and the data it contains reproduce the practices of racialization and violence routinely directed at blacks in Brazil. This article seeks to demonstrate that the structure of racism is embedded in AI mechanisms, and that is why it is necessary to regulate the development, operationalization and monitoring of such technologies in line with the legal system. To this end, the article explores concrete cases of prejudice propagated by AI, and discuss the concept of AI, algorithms, algorithmic discrimination and algorithm racial discrimination. |
| Resumen en portugués | O uso das tecnologias de inteligência artificial (IA) está em notável ascensão. A cada dia, observamos um aumento significativo na delegação de processos decisórios, tratamentos de dados e direcionamento dos usuários das plataformas digitais por meio de sistemas algorítmicos. No entanto, é imperativo reconhecer que a tão almejada neutralidade algorítmica não condiz com a realidade. Refletindo diretamente as dinâmicas do mundo offline, as IA e os dados nelas contidos reproduzem as práticas de racialização e violências rotineiramente direcionadas s pessoas negras no Brasil. Neste sentido, este artigo busca demonstrar que a estrutura do racismo é incorporada nos mecanismos de IA, razão pela qual é necessário regulamentar o seu desenvolvimento, operacionalização e fiscalização em consonância com a ordem jurídica de igualdade e combate discriminação. Para tanto, o artigo explora o conceito de racismo algoritmo, inclusive a partir de casos concretos. |
| Keyword: | Artificial Intelligence, Algorithmic Discrimination, Algorithmic Racial Discrimination |
| Texto completo: | Texto completo (Ver PDF) Texto completo (Ver HTML) |
