Algoritmos racistas

A inteligência artificial (IA) está presente em várias atividades nas nossas vidas. Do aplicativo de banco às nossas redes sociais, da saúde aos negócios, seus benefícios são inegáveis, facilitando nossa vida em muitos aspectos. Porém, não só de coisas boas as tecnologias vêm recheadas. A IA pode ser preconceituosa julgando a raça, sexo, religião e orientação.

O algoritmo racista

Algoritmos são sequências de raciocínio, de ações, instruções, regras e conjuntos de dados para se alcançar um objetivo. Eles contam com entrada e saída de dados mediados pelas regras. Na internet eles são utilizados em linguagem computacional e são criados para cada rede social em específico. 

Já os Algoritmos Racistas se referem a softwares que privilegiam pessoas brancas. Segundo especialistas a discriminação algorítmica é uma violação de direitos humanos, pois ataca o direito à privacidade, à liberdade de expressão e à livre circulação do indivíduo. 

Para ler um pouco mais sobre IA e Algoritmos: As inteligências artificiais já estão substituindo humanos?

Casos

Segundo a ONU, foram implementados nos EUA nos anos 2000 os primeiros sistemas de vigilância com utilização de inteligência artificial para auxiliar na prevenção de crimes, porém eles reforçam preconceitos contra comunidades específicas, como mulheres, negros, hispânicos e muçulmanos.

A inteligência artificial já foi utilizada na prisão de homens negros que depois foram provados inocentes, programas de celulares estimulam a mudança de traços físicos e cor da pele reforçando esteriótipos, 

Em 2015, o Google Fotos foi denunciado pois a plataforma rotulou um casal negro como “gorilas”. Na plataforma Flickr um casal negro já foi rotulado como “macacos”. 

Em 2020 o Twitter foi denunciado por priorizar a exibição de rostos brancos em publicações de internautas. O termo “cabelo feio” quando pesquisado no Google retorna, em sua maioria, cabelos cacheados que fogem do padrão de beleza. 

Recentemente um levantamento realizado pela Rede de Observatórios da Segurança mostrou que no Brasil 90,5% das pessoas presas por reconhecimento facial com câmeras de segurança eram negras.

Mais de 2400 professores, pesquisadores e estudantes foram contra um sistema americano que descobre a possibilidade de pessoas cometerem crimes cruzando informações biométricas com fichas criminais. A tecnologia se alimenta de dados de criminalidade que são racialmente carregados, legitimando a violência contra grupos marginalizados, na maioria das vezes. Em uma carta, mais de 1 mil tecnólogos do MIT, Harvard e Google foram contra algoritmos que tentam prever crimes com base apenas no rosto de uma pessoa.

Segundo a ONU, os países devem assegurar que a utilização de inteligência artificial em seus serviços não reforcem preconceitos estruturais.

Para escutar um pouco mais sobre IA: Eletricast – Inteligência Artificial

Por que isso acontece?

Segundo pesquisadores isso acontece porque os algoritmos reproduzem as falhas do comportamento social. As tecnologias criadas não são neutras porque elas foram criadas em um contexto social. 

Elas geralmente não são feitas conscientemente, mas a falta de diversidade nos funcionários do setor, homens brancos, héteros, classe média ou alta, perpetuam o comportamento nos algoritmos, segundo levantamento do coletivo Pretalab com consultoria ThoughtWorks. Os inventores das redes sociais atuais criaram seus algoritmos seguindo sua visão racial, de gênero, política, social, projetando assim, algoritmos “racistas”. 

Segundo a especialista Verene Shepherd, existe um grande risco de que a IA reforce o preconceito e que agrave ou possibilite práticas discriminatórias.
Acreditando que os algoritmos podem ser “intencionalmente” criados racistas, um outro ponto importante é que somos nós que formamos as redes sociais, ou seja, o problema não está nos algoritmos, mas sim em quem está por trás e nos usuários das redes.

O tema não é atual. A sociedade, em sua maioria, foi construída com racismo e preconceito. Além de mudar a nossa mentalidade quanto a essa realidade, é necessário acompanhar o desenvolvimento da tecnologia e se perguntar: Qual é o limite? Até que ponto é viável a utilização das máquinas para nos ajudar se elas podem colocar vida de pessoas em risco? Até quando a sociedade vai continuar com seus preconceitos e repassá-los às tecnologias? Acabar com o preconceito seria a solução ideal, mas pouco prática. Uma coisa é certa, o problema não pode ser deixado de lado.

Por Kássia Carvalho

Gostou do conteúdo? Compartilha com os amigos!