Tecnologia preconceituosa? Descubra como isso é possível

Será que a tecnologia preconceituosa existe mesmo? Sim! E Safiya Noble pode provar. Saiba o que ela descobriu sobre o assunto.

Que as pessoas podem mostrar preconceitos sobre um grande leque de assuntos a gente tem certeza. Mas, que também existe a tecnologia preconceituosa, essa foi uma “novidade”.

De fato, nem é tão novidade assim, mas é que o assunto só foi trazido à tona após o lançamento do livro Algoritmos da Opressão – Como os mecanismos de busca reforçam o racismo.

Obra de Safiya Noble, o livro aborda o fato do racismo estar evidente em uma tecnologia preconceituosa que ataca mulheres negras nos mecanismos de busca da internet.

Não acredita? Pois, leia com atenção.

Frente a frente com a tecnologia preconceituosa

Por volta de 2012, Safiya Noble, professora da UCLA e especialista em questionamento crítico do que ocorre na internet, fez o que devia ser uma pesquisa rápida sobre o assunto “garotas negras” no buscador mais usado do mundo: o Google. Coisa simples, certo?

Os resultados deveriam estampar na tela links que levariam de Etta James a Michele Obama, para citar o básico do básico da rica história das mulheres negras na América do Norte.

Pois, essa mulher negra, que buscava entretenimento para suas sobrinhas, se deparou com um vasto conteúdo pornográfico. E só! Tudo o que a tecnologia preconceituosa tinha para oferecer sobre garotas negras naquele momento era isso.

A partir de então, Sofiya decidiu usar todo seu conhecimento para entender uma questão: como um algoritmo poderia aprender a ser racista?

Afinal, na década seguinte, Noble encontrou o mesmo padrão em outras mídias, especialmente nas redes sociais mais famosas como Instagram e Facebook, por exemplo.

Como o algoritmo aprende a ser racista?

Em seu livro Algoritmos da Opressão, Noble entra nessa e em outras questões igualmente perturbadoras.

O que ela destaca é que os mecanismos de buscas não são neutros. Pois, se você digitar “garotas brancas” o resultados é meteoricamente diferente. De fato, eles só refletem a sociedade em que estamos inseridos. Afinal, a inteligência artificial “aprende” com os usuários também.

Ou seja, algoritmos que deveriam ser baseados em pura matemática e lógica, são na verdade ferramentas que podem ser programadas de forma que apresentem conteúdos misóginos, sexistas, degradantes, racistas e predatórios.

Qual o perigo da tecnologia preconceituosa?

A autora alerta para as consequências dessa referência da tecnologia preconceituosa às minorias como se fossem tudo menos pessoas.

De fato, isso retira a dignidade daquele indivíduo e leva a outro problema. Sem essa ligação direta com a sociedade ao seu redor, uma pessoa discriminada pode acabar lidando com o mundo do crime e da violência.

Parece exagero? Não é! Pesquisas já apontaram para esses resultados e demonstram claramente os perigos a longo prazo.

Como os pais podem proteger seus filhos dos danos causados?

A autora afirma: “Temos que lembrar que as empresas donas de plataformas se tornaram tão poderosas no mundo todo a ponto de estarem envolvidas na crise da democracia e na ascensão de governos de extrema direita.

Elas estão envolvidas na propagação do fascismo e da desinformação. Não há dúvidas de que empresas como o Google e seus produtos, como o YouTube, têm um papel na radicalização das pessoas.”

Ou seja, o segredo está na supervisão e no diálogo. Afinal, não dá para prender as crianças e adolescentes em uma bolha, por mais que nós gostássemos da ideia.

Então, o melhor a fazer é manter o controle sobre o que as crianças e adolescentes podem assistir em seu tempo livre enquanto passeiam perigosamente pelas águas agitadas da tecnologia preconceituosa.

> Assine nossa News Later para ler conteúdos exclusivos!

Quer receber Notícias Diárias no Telegran? Clique aqui.

Você vai gostar de ler: