Coded Bias - Divulgação
As manipulações automáticas e imperceptíveis da ciência de dados
por Marcus Atalla
Coded Bias é um documentário, dirigido por Shalini Kantayya, lançado pela Netflix em 2021. A tradução é algo como Viés Codificado, mas o nome mais apropriado seria “Racismo Codificado”.
O documentário revela os obscuros algoritmos presentes nas redes sociais que controlam o mundo virtual. Pior que isso, são também as bases no desenvolvimento das Inteligências Artificiais (IA) do futuro.
Tudo começa, quando Joy Builamwini, uma pesquisadora negra do Laboratório de Mídia no Instituto de Tecnologia de Massachusetts (MIT), trabalhava em um software de reconhecimento facial. Frustrada, pois o software não identificava seu rosto, a pesquisadora resolveu fazer um teste. Vestiu uma máscara branca, e a partir daí, o programa passou a identificar sua face como sendo um rosto humano. Ao retirar a máscara branca, o software voltou a não a reconhecer mais. A máquina não percebia o rosto de uma mulher negra, como sendo o rosto de um humano.
Ela testou vários sistemas; IBM, Microsoft, Face++, Google; porém todos mostravam o mesmo problema. Após analisar o conjunto de dados, percebeu existir um viés racista nos algoritmos.
As IAs aprendem através da inserção de uma grande quantidade de dados, esses dados produzidos por humanos na internet, para assim, as IAs aprenderem identificando padrões. Ao se usar dados distorcidos, gera-se uma Inteligência Artificial com padrões distorcidos.
Todo ser humano tem seus vieses inconscientes resultados da cultura e sociedade em que vivem. Esses dados são um reflexo histórico do momento, quanto mais as máquinas interagem com dados produzidos por humanos, mais aprendem e reproduzem esses padrões culturais humanos.
As estruturas matemáticas contidas na programação, não são racistas, mas os dados inseridos nelas são. As redes sociais, smartphones e Google coletam uma infinidade de dados produzidos por humanos na internet. Esses vieses racistas presentes na sociedade estão sendo incorporados involuntariamente nas IAs pelos algoritmos.
Nesse momento, há 6 empresas nos EUA e 3 na China criando suas IAs. Cada uma delas, sendo alimentadas com os vieses culturais e preconceitos sociais de cada um de seus países.
Hoje temos a vida controlada por esses algoritmos sob um disfarce de neutralidade das máquinas, têm-se algoritmos determinando quem receberá moradia, empréstimos bancários, renegociação de dívidas, ofertas de crédito, o valor da franquia no seguro veicular, quem será contratado, até mesmo que notícias e publicações cada um dos usuários irá receber.
A polícia de Londres está monitorando áreas urbanas através do reconhecimento facial. Descobriu-se que 98% das identificações são erradas, inocentes estão sendo identificados como foragidos e crimoniosos. O documentário mostra a polícia de Londres, abordando e multando pessoas que estivessem com os rostos não visíveis, uma espécie de domesticação da população para obedecer a um algoritmo.
Nos EUA, mais 117 milhões de pessoas têm seus dados reconhecíveis pela polícia, reconhecimento esses, imprecisos e que não funcionam bem. As Big Tech estão efetuando uma vigilância de massa às margens das leis, sem regulação, sem lei e de forma pouco clara. Estamos caminhando para uma sociedade autoritária.
Steve Wozmiak, cofundador da Apple, acusou que o novo cartão de crédito da empresa discrimina quem receberá crédito pelo gênero. Mesmo ele tem conta conjunta com a esposa e os registros de bens serem com ela, as ofertas de crédito e limite de gastos oferecidos a ela são menores que os dele.
A Amazom abandonou sua IA de contratação de funcionários. Os currículos eram selecionados pela máquina, a qual rejeitava mulheres. Há poucas mulheres em cargos tecnológicos na Amazon – apenas 14% são mulheres. Por consequência, a IA replicou o mundo em que ela existe, dando preferência na contratação de homens.
UnitedHealth Group, um plano de saúde suplementar, foi investigada, pois, os algoritmos da empresa priorizavam o atendimento de pacientes brancos, menos emergenciais, em detrimento de negros, com casos emergenciais mais graves.
A comissão estadual da Pensilvânia aprovou para o uso de juízes no proferimento de sentenças uma ferramenta de avaliação de riscos. O instrumento analisa o risco de reincidência, condenações prévias e antecedentes criminais. Como Resultado, os negros recebiam pontuações altas erroneamente, enquanto brancos recebiam pontuações mais baixas erroneamente. Sendo assim, as penas para negros são maiores.
O Facebook tem uma patente registrada, na qual promete aos comerciantes, um sistema de identificação dos clientes que entrarem em suas lojas, o aparelho também dará uma nota de confiabilidade ao cliente, baseado em sua aparência.
Em 2010, o Facebook realizou um experimento com 61 milhões de pessoas. Para um grupo, mostrou uma mensagem escrita “Dia de Eleições”, para outro, “Dia de Eleições” com fotos dos perfis de amigos com os dizeres “Eu votei!”. Com isso, levou 300 mil pessoas a se engajarem e irem votar – nos EUA o voto não é obrigatório. Nas eleições de 2016, a presidência foi decidida por uma diferença de 100 mil votos entre os candidatos. Ou seja, 300 mil pessoas sendo induzidas a votarem no mesmo candidato escolhido por seus conhecidos, é suficiente para mudar o resultado eleitoral nos EUA.
Além disso, pode-se fazer com que os eleitores de um determinado político votem, enquanto os eleitores de um político opositor, decidam não irem votar. (Método utilizado pela Cambridge Analytica, em parceira com o Facebook, em alguns países caribenhos). Sem que ninguém nem saiba o que está acontecendo – a abstenção, até mesmo em países com voto obrigatório, vem aumentando. Com um simples toque, essas empresas monopolistas das redes sociais podem mudar as eleições de um país.
Quem mesmo frauda as eleições e são países antidemocráticos? Nicarágua, Bolívia e Venezuela?
A ciência de dados torna todas essas manipulações automáticas e imperceptíveis. Essas práticas na internet estão aumentando as desigualdades sociais, criando um mundo de vigilância Estatal e vigilância empresarial. E isso está sendo normalizado. O pior, é que as pessoas estão dando suas informações voluntariamente, através das postagens em rede social e apoiando essas iniciativas em nome de uma falsa narrativa de segurança.
Por fim, para os usuários pouco familiarizados com o algoritmo da Netflix, saiba que os filmes recomendados para você, não são os mesmos recomendados para seus vizinhos ou amigos. A Netflix seleciona o que cada pessoa vai assistir, indica filmes para uns e não indica os mesmos filmes para outros.
As empresas de tecnologia estão construindo o mundo das distopias do gênero Cyberpunk e de literatos como Philip K. Dick., William Gibson ou Bruce Sterling.
Cyberpunk – Movimento cultural, onde a tecnologia é usada para o controle mental e vigilância dos indivíduos. Há um autoritarismo corporativo e os perigos do avanço tecnológico desenfreado, sem regulamentação ética e leis. As megacorporações exercem mais poder do que governos e parte da sociedade tem que sobreviver fazendo coisas ilícitas, seja para essas empresas ou contra elas. Há uma desigualdade social monstruosa, alta tecnologia para alguns e baixa renda para a maioria. Alguns, na década de 80/90, diziam que o Cyberpunk era mais que um subgênero de ficção científica, mas sim, um gênero preditivo, pelo andar da carruagem, ou melhor dizendo; pelo anda do “carro autônomo”, eles estavam certos.
Marcus Atalla – Graduação em Imagem e Som – UFSCAR, graduação em Direito – USF. Especialização em Jornalismo – FDA, especialização em Jornalismo Investigativo – FMU
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para dicasdepauta@jornalggn.com.br.
Leia também:
China acende o alerta vermelho: NED em Taiwan, por Marcus Atalla
Uma análise realista do que está ocorrendo na Ucrânia, por Marcus Atalla
A falácia do Telegram russo e a Doutrina de Choque aos Democratas, por Marcus Atalla
Operação federal cita “servidão por dívida”, em que os garimpeiros realizavam atividade sem qualquer proteção
Acordo poderia ajudar o tenente-coronel a pelo menos manter o cargo e não perder totalmente…
Apesar da advertência, o ministro se disse confiante em um acordo para resolver o impasse…
Nove estados e o Distrito Federal já decretaram emergência em decorrência da dengue. Minas Gerais…
Muita gente já esqueceu as centenas de milhares de mortes pela Covid-19, a tentativa de…
Entre a Tutela da Justiça e a Proteção da Infância, nem manter nem revogar, reformar…
View Comments
No romance “1984”, de George Orwell, o Partido (ou Estado, ou Bancos/Corporações, como queiram) ainda tinha o trabalho de eliminar pessoas indesejadas - via memory hole - ou caídas em desgraça, via Quarto 101, e criar outras (com biografia, condecorações e tudo) para ocupar-lhes o lugar. Essa era uma das atividades de Winston Smith, no Ministério da Verdade (creio que era nesta repartição que ele trabalhava, se não me falha a memória).
Pois bem, em nosso novo e maravilhoso mundo virtual, coloquemos mais um posto de trabalho no rol dos empregos em extinção. Não há mais necessidade de Winston Smith, não haverá, mais, “1984”.
Caminhamos para um mundo em que os indesejados - por motivos políticos, sócio-econômicos, étnico-raciais, o que for - e os caídos em desgraça - inconformistas, heterodoxos, os sexualmente desviados do padrão, o que for - sequer serão, por assim dizer, ‘percebidos’ pela IA. Não serão descartados, porque sequer serão contabilizados como pertencentes à raça humana. Serão ‘não-pessoas’ por excelência, entes inexistentes, não pertencentes, sem direitos, sem renda ou acesso a meios de sustento que não os marginais, zumbis e párias modernos ou pós-modernos.
Que belíssima cacetada na visão ingênua da maioria da humanidade, a respeito dos benefícios que a tecnologia traria ao ser humano. Aqueles que julgavam que tais “benefícios” estariam ao alcance e disponíveis para todos, independente de classe social, cor da pele, religião, o escambau! A tecnologia é o que sempre foi, ao menos depois da Revolução Industrial: investimento para obtenção de lucros. Se para isso for necessário distorcer a verdade e eliminar o diferente, qual o problema?
Imagine-se o poder que a tecnologia do reconhecimento facial põe ao dispor de seus controladores, suas ramificações em inumeráveis campos da sociedade; seria lícito (ou sensato) abrir mão disso em virtude de considerações éticas, morais, e dispensar os fabulosos ganhos (LUCROS!) que ela possibilita? Mas se é justamente em nome da ética, da moral, da liberdade, democracia e justiça social que essa “gente” age!
Ainda hoje, no Youtube, recebi uma recomendação de um tal ‘Carnegie Council for Ethics in International Affairs’. PQP. Os canais que eu habitualmente acompanho, todos de esquerda, nunca me são recomendados. Eu que não vá atrás. Mas alguém aí duvida que canais progressistas e de esquerda, e mesmo social-democratas, como o GGN, terão o memory hole como destino? Ou, para ser mais atual, serão desprezados e eliminados como os negros o são, nos bancos de dados que, em breve, irão gerir a vida na face da Terra?
O homem descobriu uma fórmula para se livrar dos diferentes e indesejados sem precisar recorrer aos genocídios e guerras. Basta ignorá-los, e deixá-los morrer à míngua, do lado de fora de seus portões virtuais.
O problema são os dados não o algoritmo , se você é feio não culpe o espelho .... :)
Capitalismo de vigilância Soshana Zuboff