Você já parou pra pensar que no mundo digital também existe discriminação e racismo em seus algoritmos? Não né!
Mas acredite… A tecnologia proporciona novidades e melhorias em todos os setores, da saúde aos negócios. Sem dúvida, os apps de comunicação são um dos maiores expoentes desse universo.
Além de conectar pessoas, se tornaram palco da luta contra diferentes questões sociais, como o racismo. No entanto, surgiu aí um problema: O termo usado para este novo problema tecnológico é o Racismo Algoritmo e que se refere a softwares que privilegiam pessoas brancas.
E para falar sobre este tema tecnológico, por isso, é bom lembrar que no Brasil, no dia 20 de novembro é celebrado o dia da Consciência Negra.
Zumbi dos Palmares e a luta da comunidade negra
O 20 de novembro faz referência à morte de Zumbi, líder do Quilombo dos Palmares, situado entre os estados nordestinos de Alagoas e Pernambuco. Em suma, foi considerado símbolo da luta pela liberdade e valorização do povo negro.
Apesar de oficializada somente em 2011, a escolha da data em memória de Zumbi ocorreu na década de 1970.
Porém, quase nada mudou depois de 132 anos depois em que a Lei Áurea foi assinada. Na época eles não receberam nenhum tipo de assistência do poder público para iniciar suas vidas de forma digna.
Mesmo assim, os descendentes continuam lutando pela causa, batalhando pelos direitos, buscando espaço no mercado de trabalho e na educação. No entanto, a luta anti racista se faz necessária e que infelizmente é pouco presente e respeitada dentro da sociedade.
Algoritmo Racista
De fato o racismo algoritmo ocorre quando discriminam imagens ou qualquer tipo de conteúdo digital de pessoas negras ou não-brancas.
De tal forma que, para quem não sabe muito sobre tecnologia, os impactos e consequência do racismo algorítmico na vida de pessoas negras e não-brancas vão além de menos curtidas em redes sociais.
Como resultado, um relatório divulgado este ano por empresas do mercado digital no Brasil, criadores de conteúdo negros são notavelmente menos convidados para fazer parte de campanhas publicitárias.
Longe de serem isolados um do outro, o racismo cada vez mais explícito em tecnologias online é reflexo do racismo estrutural enraizado na sociedade.
Da mesma forma que a falta de oportunidades em cargos mais altos, que a prioridade para a contratação de pessoas brancas e que os menores valores de salários impactam a vida profissional e financeira de pessoas negras.
O menor alcance, prestígio e participação de usuários negros na construção democrática de mídias sociais também é capaz de contribuir para a manutenção de sistemas racistas que subjugam e prejudicam milhões de indivíduos de pele escura.
Com todos esses impactos do mundo online podem atingir o mundo offline, é importante entender do início.
O que são algoritmos e como eles são construídos?
O documentário O dilema das Redes, lançado recentemente, mostrou alguns dos principais perigos e questões envolvidas nas engrenagens por trás das mídias sociais.
Certamente alarmando o público de como é feito as escolhas através de algoritmos.
Como o próprio filme apresenta, os algoritmos estão na base do que chega até nós por meio de plataformas como Facebook, Twitter, Instagram e Google. Mas o que, de fato, são eles?
Eventualmente, o algoritmo é um dos conceitos mais básicos da computação, normalmente associado como uma receita de bolo. Entretanto, é um passo a passo para você resolver algo ou para realizar uma atividade e a complexidade vai aumentando de acordo com a complexidade da atividade ou do problema que você tem para resolver.
Machine Learning nas redes sociais
Basicamente é o machine learning ou aprendizado da máquina, é uma Inteligência Artificial com a função de entender e aprender o comportamento humano.
No caso das mídias sociais, existem pontos específicos dependendo do objetivo de cada um com o seu público-alvo, assim, é algo que foca em personalizar aquele ambiente digital para cada usuário de acordo com gostos e preferências de pesquisas.
Todavia, esses algoritmos especificamente, que regem as timelines de redes sociais e as priorizações como, próximo conteúdo, próximo vídeo, próxima foto, próximo story, etc.
Quando um indivíduo coloca uma grande massa de dados em uma rede social, ele entende que gerando algum tipo de agrupamento como resultado possa filtrar as informações necessárias para a pesquisa de busca do usuário.
Então a função é entender o padrão humano enquanto reage à negócios e assim tomar decisões para incentivar ou desincentivar padrões.
As diferentes formas do racismo na tecnologia
Em suma, seja na hierarquia das carreiras na tecnologia, dentro dos ambientes tecnológicos e de inovação. O racismo se manifesta em diferentes níveis. É possível identificar a discriminação racial em uma série de fatores, como:
- ausência e a não contratação de pessoas negras nas diversas áreas da tecnologia,
- a desvalorização do profissional negro dentro de um ambiente tecnológico,
- sistema educacional falho em diversos pontos, o que prejudica o acesso de mais pessoas negras a áreas tecnológicas,
- violência com a juventude negra. As tecnologias como não-neutras e sendo comandadas, em sua maioria, por uma perspectiva unilateral, que acabam colocando mais desafios na solução dos problemas já enfrentados pela população negra.
Consequências do racismo algoritmo
Como consequência do racismo algorítmico, a primeira a ser listada é a invisibilização do trabalho de pessoas negras, indígenas e não-brancas na internet.
É provável que muitas pessoas negras e ativas nas redes sociais têm pouca visibilidade a seus conteúdos que normalmente são de qualidade. Nesse sentido, infelizmente são boicotadas por algumas plataformas como Twitter, Instagram e Youtube.
As pessoas pretas de diversas áreas estão produzindo conteúdos extremamentes bons para as redes sociais, ajudando a combater a desinformação. É perceptível que essas plataformas precisam se atentar e também rever o que é tido como referencial dentro da rede para que o algoritmo engaje.
Que ao contrário, a maioria das pessoas brancas têm seus conteúdos mais engajados e visíveis para todos. É nítido em qualquer segmento de conteúdo, até mesmo quando é uma desinformação.
É lamentável que o racismo tem o mesmo poder de estrago no mundo digital quanto tem na vida real. Do ponto de vista prático, agora, os influenciadores pretos perdem nos algoritmos exatamente por esses problemas de preconceito generalizado.
Outras máquinas cometem erros
Não é somente as redes sociais que cometem erros, algumas também se submetem a não reconhecer a cor preta.
Um fato aconteceu em 2017, quando um vídeo circulou na internet, onde uma saboneteira automática que só liberava o produto quando detectava uma cor branca. Assista o vídeo aqui.
Os problemas podem ir além e possivelmente atingir proporções extremamente graves. Imagina uma carro autônomo com o algoritmo limitado e parasse por exemplo diante de um pedestre negro. Além de ser uma infração de trânsito, a vítima teria fraturas graves.
Recentemente, um levantamento da Rede de Observatórios de Segurança, mostrou que 90,5% das pessoas presas por reconhecimento facial em câmeras de segurança no Brasil, eram negras.
Outro fato aconteceu em Feira de Santana, Bahia, nos quatro dias de carnaval. O monitoramento por câmeras identificou 1,3 milhões de rostos, como informa o Intercept Brasil.
Desses 903 gerou alertas, o que gerou um cumprimento de 18 mandados e na prisão de 15 pessoas. Isto significa que dos alertas emitidos, 96% não resultaram em nada, onde foi uma quebra de privacidade na via de muitas pessoas e na sua maioria negras.
Mudanças Futuras
Especialista afirmam que, não existe resposta única para eliminar o racismo e a discriminação de algoritmos. E sim criar alternativas e caminhos para combater este preconceito tecnológico.
Exemplo disto, é o Twitter permitir que o corte da imagem seja feito pelo próprio usuário. Isso, claro, falando da perspectiva técnica.
Outra dica importante, são as mudanças de perspectivas tecnológicas e brancas sejam alteradas. Com a participação de mais pessoas negras, LGBTQI+ e pessoas com deficiência liderando as criações tecnológicas.
Por fim, não somente como desenvolvedoras, mas como parte de tomadas de decisões. Porque invisibilização de integração neste processo interfere muito no produto final.
Gostou do artigo e quer ler mais sobre tecnologia?
Então acesse nosso blog: https://crosoften.com/blog/
E nos siga nas redes sociais: Instagram @crosoften e Facebook www.facebook.com/crosoften
