Coded Bias: o racismo nos algoritmos que todos estamos submetidos

Coded Bias é um documentário, dirigido por Shalini Kantayya, lançado pela Netflix em 2021. A tradução é algo como Viés Codificado, mas o nome mais apropriado seria “Racismo Codificado”.

O documentário revela os obscuros algoritmos presentes nas redes sociais e controlam o mundo virtual. Pior que isso, são também as bases no desenvolvimento das Inteligências Artificiais (IA) do futuro. 

Tudo começa, quando Joy Builamwini, uma pesquisadora negra do Laboratório de Mídia no Instituto de Tecnologia de Massachusetts (MIT), trabalhava em um software de reconhecimento facial. Frustrada, pois o software não identificava seu rosto, a pesquisadora resolveu fazer um teste. Vestiu uma máscara branca, e a partir daí, o programa passou a identificar seu rosto como sendo o de um humano. Ao retirar a máscara branca, o software não a reconhecia mais. A máquina não percebia o rosto de uma mulher negra, como o sendo um rosto humano. 

Ela testou vários sistemas; IBM, Microsoft, Face++, Google; porém todos mostravam o mesmo problema. Após analisar o conjunto de dados, percebeu existir um viés racista e misógino nos algoritmos. 

As IAs aprendem através de uma grande quantidade de dados, para assim, identificarem padrões. Ao se usar dados distorcidos, gera-se uma Inteligência Artificial com padrões distorcidos. 

Todo ser humano tem seus vieses inconscientes resultados da cultura e sociedade em que vivem. Esses dados são um reflexo histórico do momento, quanto mais as máquinas interagem com dados produzidos por humanos, mais aprendem e reproduzem esses padrões humanos.

As estruturas matemáticas contidas na programação não são racistas, mas os dados inseridos nelas são. As redes sociais, smartphones e Google coletam uma infinidade de dados produzidos por humanos na internet.  Esses vieses racistas presentes na sociedade estão sendo incorporados involuntariamente pelos algoritmos. 

Nesse momento, há 6 empresas nos EUA e 3 na China criando suas IAs. Cada uma delas, sendo alimentadas com os vieses culturais e preconceitos sociais de cada um de seus países. 

Hoje temos a vida controlada por esses algoritmos sob um disfarce de neutralidade das máquinas, têm-se algoritmos determinando quem receberá moradia, empréstimos bancários, renegociação de dívidas, ofertas de crédito, o valor da franquia no seguro veicular, quem será contratado, até mesmo que notícias e publicações cada um dos usuários irá receber.

A polícia de Londres está monitorando áreas urbanas através do reconhecimento facial.  Descobriu-se que 98% das identificações são erradas, inocentes estão sendo identificados como foragidos. O documentário mostra a polícia de Londres, abordando e multando pessoas que estivessem com os rostos não visíveis, uma espécie de domesticação da população para obedecer a um algoritmo.  

Nos EUA, mais 117 milhões de pessoas têm seus dados reconhecíveis pela polícia, reconhecimento esses, imprecisos e que não funcionam bem. As Big Tech estão efetuando uma vigilância de massa às margens das leis, sem regulação, sem lei e de forma pouco clara. Estamos caminhando para uma sociedade autoritária.

Steve Wozniak, cofundador da Apple, acusou que o novo cartão de crédito da empresa discrimina quem receberá crédito pelo gênero. Mesmo ele tem conta conjunta e os registros de bens com a esposa, ela recebe menos oferta de crédito e limite de gastos menores que os dele.

A Amazon abandonou sua IA de contratação de funcionários. Os currículos eram selecionados pela máquina, a qual rejeitava mulheres. Há poucas mulheres em cargos tecnológicos na Amazon - apenas 14% são mulheres. Por consequência, a IA replicou o mundo em que ela existe. 

UnitedHealth Group, um plano de saúde suplementar, foi investigada, pois, os algoritmos da empresa priorizavam o atendimento de pacientes brancos, menos emergenciais, em detrimento de negros, com casos emergenciais mais graves.

A comissão estadual da Pensilvânia aprovou para o uso de juízes no proferimento de sentenças uma ferramenta de avaliação de riscos. O instrumento analisa o risco de incidência, condenações prévias e antecedentes criminais. Como Resultado, os negros recebiam pontuações altas erroneamente, enquanto brancos recebiam pontuações mais baixas erroneamente.

O Facebook tem uma patente registrada, em que promete aos comerciantes, um sistema de identificação dos clientes que entrarem em suas lojas, o aparelho também dará uma nota de confiabilidade ao cliente.

Em 2010, o Facebook realizou um experimento com 61 milhões de pessoas. Para um grupo, mostrou uma mensagem escrita “Dia de Eleições”, para outro, “Dia de Eleições” e fotos dos perfis de amigos com dizeres “Eu votei!”. Com isso, levou 300 mil pessoas a se engajarem e votarem – nos EUA o voto não é obrigatório. Nas eleições de 2016, a presidência foi decidida por uma diferença de 100 mil votos entre os candidatos.

Dessa forma, pode-se fazer com que os eleitores de um determinado político votem, enquanto os eleitores de um político opositor, decidam não irem votar. Sem que ninguém nem saiba o que está acontecendo - a abstenção, até mesmo em países com voto obrigatório, vem aumentando.  Com um simples toque, essas empresas podem mudar as eleições de um país.

Quem mesmo frauda as eleições? Nicarágua e Venezuela?

A ciência de dados torna todas essas manipulações automáticas e imperceptíveis. Essas práticas na internet estão aumentando as desigualdades sociais, criando um mundo de vigilância Estatal e vigilância empresarial. E isso está sendo normalizado. O pior, é que as pessoas estão dando suas informações voluntariamente, através das postagens em rede social e apoiando essas iniciativas em nome de uma falsa narrativa de segurança.

Por fim, para os usuários pouco familiarizados com o algoritmo da Netflix, saiba que os filmes recomendados para você, não são os mesmos recomendados para seu vizinho ou amigos. A Netflix seleciona o que cada pessoa vai assistir, indica filmes para uns e não indica os mesmos filmes para outros.

As empresas de tecnologia estão construindo o mundo das distopias do gênero Cyberpunk e de literatos como Philip K. Dick., William Gibson ou Bruce Sterling.

Cyberpunk - Movimento cultural, onde a tecnologia é usada para o controle mental e vigilância dos indivíduos. Há um autoritarismo corporativo e os perigos do avanço tecnológico desenfreado, sem regulamentação ética e leis. As megacorporações exercem mais poder do que governos e parte da sociedade tem que sobreviver fazendo coisas ilícitas, seja para essas empresas ou contra elas. Há uma desigualdade social monstruosa, alta tecnologia para alguns e baixa renda para a maioria.