Dark Data e a ilusão da eliminação total de todas as incertezas, por Fábio de Oliveira Ribeiro

O objetivo final do capitalismo de vigilância é garantir resultados. Qual seria o reflexo disso nos setores da economia que, em razão de sua própria natureza, dependem da sorte ou de circunstâncias intangíveis?

Dark Data e a ilusão da eliminação total de todas as incertezas, por Fábio de Oliveira Ribeiro

No início da segunda parte do livro, Shoshana Zuboff traça um panorama do imperativo das predições, da transformação de tudo em fluxos da dados a serem coletados e transformados em excedente comportamental para garantir a certeza dos lucros.

Como dissemos no texto anterior desta série, a lógica do próprio capitalismo [em razão da incerteza e dos temores que provoca nos empresários e investidores] pode ter dado origem ao capitalismo de vigilância. Nesse capítulo são evidenciadas as diferenças qualitativas entre ambos sistemas econômicos.

“Telematics announce a new day of behavioral control. Now the insurance company can set specific parameters for driving behavior. Tese can include anything from fastening the seat belt to rate of speed, idling times, braking and cornering, aggressive acceleration, harsh braking, excessive hours on the roud, driving out of state, and entering a restrictec area. These parameters are translated into algorithms tha continuously monitor, evaluate, and rank the driver, calculations that translate into real-time rate adjustements.

According to a patent held by Spireon’s top strategist, insureres can eliminate uncertainty by shaping behavior. The idea is to continuously optimize the insurance rate based on monitoring the driver’s adherence to behavioral parameters defined by the insurer. The system translates its behavioral knowledge into power, assigning credits or imposing punishments on drivers. Surplus is also translated into prediction products for sale to advertisers. The system calculates ‘behavioral traits’ for advertisers to target, sending ads directly to the driver’s phone. A secont patent is even more explicit about triggers for punitive measures. It identifies a range of algorithms that activate consequences when the system’s parameters are breached: ‘a violation algorithm’, ‘a monitoring algorithm’, ‘an adherence algorithm’, ‘a credit algorithm’. (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 215/216)

Tradução:

“A telemática anuncia um novo dia de controle comportamental. Agora a companhia de seguros pode definir parâmetros específicos para o comportamento de dirigir. Estes podem incluir qualquer coisa, desde apertar o cinto de segurança a taxas de velocidade, tempo de marcha lenta sem carga, frenagem e curvas, aceleração agressiva, frenagem severa, excesso de horas na estrada, condução fora do estado e entrada em uma área restrita. Esses parâmetros são traduzidos em algoritmos que monitoram, avaliam e classificam continuamente o motorista, cálculos que se traduzem em ajustes de taxa em tempo real.

De acordo com uma patente mantida pelo principal estrategista de Spireon, os seguros podem eliminar a incerteza moldando o comportamento. A ideia é otimizar continuamente a taxa de seguro com base no monitoramento da aderência do motorista aos parâmetros comportamentais definidos pela seguradora. O sistema traduz seu conhecimento comportamental em poder, atribuindo créditos ou impondo punições aos motoristas. O excedente também é traduzido em produtos de previsão para venda aos anunciantes. O sistema calcula ‘características comportamentais’ para os anunciantes segmentarem, enviando anúncios diretamente para o telefone do motorista. Uma segunda patente é ainda mais explícita sobre gatilhos para medidas punitivas. Ele identifica uma série de algoritmos que ativam consequências quando os parâmetros do sistema são violados: ‘um algoritmo de violação’, ‘um algoritmo de monitoramento’, ‘um algoritmo de aderência’, ‘um algoritmo de crédito’

Uma maravilha, por certo. O carro poderia ser desligado à distância quando o comprador ou locador deixasse de pagar a parcela. Um sinal de GPS indicaria o local em que o veículo seria recuperado a mando do vendedor ou locador. O problema: não existe sistema computacional totalmente imune à ação maliciosa de hackers. Se a esmagadora maioria das pessoas se recusar a comprar veículos monitorados, as empresas de seguro teriam que voltar a utilizar as técnicas tradicionais de avaliação de risco.

As tecnologias que possibilitaram essa inovação foram desenvolvidas por um cientista que desejava monitorar animais selvagens em seus próprios habitats (R. Stuart MacKay) e por um professor que as aperfeiçoou acreditando que a onisciência tecnológica seria uma dádiva para a humanidade (Joseph Paradiso). Segundo Shoshana Zuboff os trabalhos de ambos foram colocados a serviço do imperativo das predições.

“…Competition for surveillance revenues eventualy reachd a point at wich the volume of surplus became a necessary but insufficient condition for success. The news threshold was defined by the quality or prediction produtcts. In the race for higher degrees of certainty, it became clear that the best predictions would have to approximate observation. The prediction imperative is the expression or these competitive forces.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 201)

Tradução:

“… A competição por receitas de vigilância chegou a um ponto em que o volume excedente se tornou uma condição necessária, mas insuficiente para o sucesso. O limite de notícias foi definido pelos produtos de qualidade ou previsão. Na corrida por graus mais altos de certeza, ficou claro que as melhores previsões teriam que aproximar a observação. O imperativo da previsão é a expressão dessas forças competitivas “.

O capitalismo de vigilância nasceu no ciberespaço e começou a interferir no mundo real maximizando o lucro das empresas que compram espaço de propaganda customizado. Mas ele não pode ficar confinado aos dados aleatoriamente produzidos pelos usuários. Não é possível reduzir sensivelmente as incertezas sem que tudo que existe no mundo real tenha sido transformado em informações e, depois, expropriado. O fluxo constante e crescente de excedente comportamental cada vez mais diversificado é essencial para que possibilitar aos capitalistas de vigilância vender predições sobre o futuro mais acuradas e modificar o comportamento das pessoas.

Leia também:  Um fantasma ronda a pandemia COVID-19: o Necrocomunismo, por Wilson Ferreira

“The shift toward economies of scope defines a new set of aims: behavioral surplus must be vast, but must also be varied. These variantions are developed along two dimensions. The first is te extension of extraction opertions from the virtual world into the ‘real’ world, where we actually live our lives. Surveillance capitalists understood that their future wiealt would depende upon new supply routes that extend to real lifre on the roads, among trees, throughout the cities. Extension wants your bloodstream and your bed, your breakfast conversation, your commute, your run, your refrigerator, your parking space, your living room.

Economies of scope also proceed along a second dimention: depth. The drive for economies of scope in the deph dimension is even more audacious. The idea here is that highly predictive, and therefore highly lucrative, behavioral surplus would be plumbed from intimate patterns of the self. These supply operations are aimed at your personality, moods, and emotions, your lies and vulnerabilities. Every level of intimacy would have to be automacally captured and flattened into a tidal flow of data points for the factory conveyor belts thar proceed toward manufactures certainty.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 201)

Tradução:

“A mudança para economias de escopo define um novo conjunto de objetivos: o excedente comportamental deve ser fixo, mas também variado. Essas variações são desenvolvidas em duas dimensões. A primeira é estender as operações de extração do mundo virtual para o mundo ‘real’, onde realmente vivemos nossas vidas. Os capitalistas de vigilância entenderam que suas escolhas futuras dependeriam de novas rotas de suprimentos que se estendessem a pessoas reais nas estradas, entre árvores, pelas cidades. A extensão quer sua corrente sanguínea e sua cama, sua conversa sobre o café da manhã, seu trajeto, sua corrida, sua geladeira, seu espaço de estacionamento, sua sala de estar.

As economias de escopo também seguem uma segunda dimensão: profundidade. O impulso para economias de escopo na dimensão profundidade é ainda mais audacioso. A ideia aqui é que um superavit comportamental altamente preditivo e, portanto, altamente lucrativo, seria extraído de padrões íntimos do psique humana. Essas operações de fornecimento visam a sua personalidade, humor e emoções, suas mentiras e vulnerabilidades. Todo nível de intimidade teria que ser capturado automaticamente e achatado em um fluxo corrente de pontos de dados para as correias transportadoras de fábrica avançarem para a certeza da manufatura.”

No futuro imaginado pelo capitalismo de vigilância, a queda de uma folha da copa da árvore que existe na frente do prédio onde eu moro seria uma informação tão valiosa quanto a minha própria reação emocional à mosca que veio me incomodar quando eu estava tomando sol e lendo o livro de Shoshana Zuboff. O que alguém poderia me vender? Que produtos futuros poderiam ser criados com a análise destas informações quando elas fossem correlacionadas com bilhões de outras produzidas por tudo que compõe o contexto dos homens de meia idade que vive na periferia de uma cidade periférica de um país periférico?

“…The aim of this under taking is not to impose behavioral norms, such as conformity or obedience, but rather to produce behavior that reliably, definitively, and certainly leads to desired commercial results. The research director of Gartner, the well-respected business advisory and research firm, makes the point unambiguously when he observes that mastery of the ‘internet of things’ will serve as ‘a key enabler in the transformation of business models from ‘guaranteed levels of performance’ to ‘guaranteed outcomes’ ’.

This is an extraordinary statemet because ther can be no such garantees in the absence of the power to make it só. This wider complex that we refer to as the ‘means of behavioral modification’ is the expression of this gathering power. The prospect of guaranteed outcomes alerts us to the force of the prediction imperative, which demands thar surveillance capitalists make the future for the sake of predicting it. Under this regime, ubiquitous computint is not just a knowing machine; it is an actuating machine designed to produce more certainty about us and for them.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 203)

Tradução:

“… O objetivo dessa abordagem não é impor normas comportamentais, como conformidade ou obediência, mas produzir um comportamento que de maneira confiável, definitiva e certamente leve aos resultados comerciais desejados. O diretor de pesquisa da Gartner, a respeitada firma de consultoria e pesquisa de negócios, argumenta inequivocamente quando observa que o domínio da ‘internet das coisas’ servirá como ‘um facilitador essencial na transformação de modelos de negócios a partir de ‘níveis garantidos de desempenho’ para ‘resultados garantidos ”.

Este é uma afirmação extraordinária, porque não existe tal garantia na ausência do poder de fazê-lo. Esse complexo mais amplo que chamamos de ‘meios de modificação comportamental’ é a expressão desse poder de reunião. A perspectiva de resultados garantidos nos alerta para a força do imperativo da previsão, o que exige que os capitalistas da vigilância façam o futuro pelo negócio de prever. Sob esse regime, a computação onipresente não é apenas uma máquina conhecedora; é uma máquina de atuação projetada para produzir mais certeza sobre nós e para eles.”

À medida que esse fenômeno ganha corpo e começa a se espalhar para outros ramos de atividade econômica [da produção de carros com múltiplos sensores conectados ao servidor de computador que coletará as informações produzidas; das empresas de seguro que empregam essas informações para definir a taxa de risco específica que cada motorista representa] o próprio capitalismo sofrerá uma considerável mutação. Com a eliminação de todos os imprevistos e temores nenhum investimento seria realizado sem que houvesse qualquer possibilidade de prejuízo. O declínio da rentabilidade de qualquer atividade econômica deixaria de existir.

Leia também:  O nazismo e as raízes do mal em estado puro (III), por Roberto Bueno

O objetivo final do capitalismo de vigilância é garantir resultados. Qual seria o reflexo disso nos setores da economia que, em razão de sua própria natureza, dependem da sorte ou de circunstâncias intangíveis?

Para que realizar um campeonato de futebol se um algoritmo será capaz de definir previamente quem será o campeão levando em conta todas as variáveis à disposição? É realmente possível fazer predições infalíveis a partir da análise de informações sobre a situação financeira dos clubes qualificação dos treinadores situação dos estádios, condições climáticas antecipadas para as datas e horários das partidas, honestidade dos árbitros e bandeirinhas, condicionamento físico e talento dos atletas?

Se um sistema for capaz de previsível com exatidão que pintor, escritor, arquiteto, escultor, poeta ou músico que irá se tornar um sucesso e que obra de arte em particular cativará a maior quantidade de pessoas qual seria o incentivo para os artistas seguirem produzindo suas obras ou tentando romper tradições estéticas estabelecidas? Pode a arte, uma atividade humana com imensas repercussões econômicas que tem uma característica muito peculiar (a produção de coisas que se tornam expressivas e valiosas no futuro mesmo quando foram consideradas irrelevantes e sem valor quando divulgadas) ser submetida às predições baseadas em vastas coleções de informações analisadas por algoritmos programados para imitar todas as reaçõe emoções humanas presentes e futuras?

“Unstructured data cannot merge and flow in the new circuits of liquefied assets bought and sold. They are friction. [Harriet] Green fixes on the declarative term that simultaneously names the problem and justifies its solution: dark data. The message we saw honed in the on line world – ‘If you’re not in the system, you don’t exist’ – is refined for this new phase of dispossession. Because the apparatus of connected things is intended to be everything any behavior of human or thing absent from this push for universal inclusion is dark: menacing, untamed, rebellious, rogue, out of control. The stubborn expanse of dark data is framed as the enemy of IBM’s and its customers’ ambitions, Note the echoes of McKay here, with his determination to penetrate the secrets of unrestrained animais and inaccessible regions. The tension is that no thing counts until it is rendered as behavior, translated into eletronic data flows, ad channeled into the light as observable data. Everything must be illuminated for counting and herding.

Is this notion of ‘dark data’ handily becomes he ‘data exaust’ of ubiquitous computing. It provides the moral, techical, commercial, and legal rationale for powerful systems of machine intelligence that can capture and analyze behaviors and conditions never intended for a public life. For those who seek surbeillance revenues, dark data represent lucrative and necessary territories in the dynamic universal jigsaw constituted by surveillance capitalism’s urge towar scale, scop, and action. Thus, the technology comunity casts dark data as the intolerable ‘unknown unknown’ that threatens the financial promise of the ‘internet of things.’” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 210/211)

Tradução:

“Dados não estruturados não podem se fundir e fluir nos novos circuitos de ativos líquidos comprados e vendidos. Eles são atritos. [Harriet] Green corrige o termo declarativo que simultaneamente nomeia o problema e justifica sua solução: dados obscuros. A mensagem que vimos honrada no mundo online – ‘Se você não existe no sistema, você não existe’ – é refinada para esta nova fase de desapropriação. Como o aparato das coisas conectadas pretende ser tudo o que qualquer comportamento humano ou coisa ausente desse impulso pela inclusão universal é sombrio: ameaçador, indomado, rebelde, desonesto, fora de controle. A extensão teimosa de dados obscuros é enquadrada como inimiga das ambições da IBM e de seus clientes, observe os ecos de McKay aqui, com sua determinação de penetrar nos segredos de animais indomáveis e regiões inacessíveis. A tensão é que nada conta até que seja traduzido como comportamento, traduzido em fluxos de dados eletrônicos, e canalizado para a luz como dados observáveis. Tudo deve estar iluminado para contagem e pastoreio.

Essa noção de ‘dados obscuros’ se torna facilmente ‘dados precisos’ ou computação onipresente. Ele fornece a lógica moral, técnica, comercial e legal para sistemas poderosos de inteligência de máquinas que podem capturar e analisar comportamentos e condições nunca destinados à vida pública. Para aqueles que buscam receitas de vigilância, os dados obscuros representam territórios lucrativos e necessários no quebra-cabeças dinâmico universal constituído pela enorme escala, escopo e ação do capitalismo de vigilância. Assim, a comunidade tecnológica considera os dados obscuros como algo intolerável o ‘desconhecido desconhecido’ que ameaça a promessa financeira da ‘internet das coisas’.”

É imensa a sedução de conquistar um poder absoluto derivado não da força e sim do conhecimento. É inesgotável a ambição de sempre obter sucesso e nunca correr riscos ou amargar prejuízos imprevisíveis. O empresário perfeito do futuro [ou seja, aquele que está em condições de comprar os produtos vendidos pelos capitalistas de vigilância] poderá sempre tomar decisões certas no momento exato. No mundo que está nascendo virtuosas não seriam as ações corajosas e sim as decisões preordenadas por um objetivo garantido por intermédio do conhecimento de fatos que inevitavelmente ocorrerão.

Leia também:  De Bia a Val, o que pensa a nojenta elite brasileira, por Rômulo Moreira

No início do livro, a autora adverte o leitor para algo essencial: as inovações introduzidas pelo capitalismo de vigilância não podem e não devem ser avaliadas através das experiências passadas. É um erro interpretar o que não tem precedentes levando em conta os precedentes existentes.

“One explanation for surveillance capitalism’s many triumphs floats above them all: it is unprecedented. The unprecedente is necessarily unrecognizable. When we enconter something unprecedented, we automacally interpret it through the lenses of familiar categories, thereby rendering invisible precisely that which is unprecedented.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 12)

Tradução:

“Uma explicação para os muitos triunfos do capitalismo de vigilância flutua acima de todos: ele é sem precedentes. O sem precedentes é necessariamente irreconhecível. Quando criamos algo sem precedentes, nós o interpretamos automaticamente através de lentes de categorias familiares, tornando invisível exatamente o que é sem precedentes.”

Apesar da eloquência e da profundidade do trabalho de Shoshana Zuboff confesso que fiquei tentado a fazer exatamente aquilo que ela não recomenda. A partir de agora farei algumas considerações a partir de precedentes conhecidos acerca das previsões.

Predições que tentam impedir que algo ocorra raramente conseguem obter resultado desejado. Essa é a maior lição de um mito estudado à exaustão por Freud. Se Édipo não tivesse ouvido a profecia de que mataria o pai e copularia com a mãe a tragédia teria ocorrido? Se ele tivesse ignorado as palavras do Oráculo a informação que reduziu sua incerteza teria produzido efeitos indesejados?

Nenhuma empresa jamais será capaz de sequestrar o próprio futuro. Ele é e continuará sendo sempre incerto.

Segundo Heródoto, quando ouviu o Oráculo dizer que se ele movesse suas tropas contra os persas um grande império seria derrotado, o rei Creso acreditou que a destruição do inimigo dele era certa. A previsão realmente se realizou. Um império realmente foi destruído: o do próprio rei Creso. Por mais que possa ser considerada exata no momento em que for proferida uma predição pode ser mal interpretada.

O historiador Caio Suetônio Tranquilo assegura que Calpúrnia previu a morte de Júlio César através de um sonho. Ela teria tentado impedir o marido de ir ao Senado. Todavia, Calpúrnia não foi capaz de prever a habilidade de Décimo Bruto de manipular as emoções de César para fazê-lo cumprir seus compromissos públicos nos idos de março.

Mesmo quando uma informação relevante foi obtida através de uma previsão segura um resultado indesejado não pode ser evitado. A redução da incerteza pode se tornar irrelevante em virtude de fatores imprevistos e imprevisíveis.

Os romanos criaram um sistema religioso intrincado que garantia a obtenção de previsões consideradas válidas. A finalidade dele não era antecipar o futuro através da magia (ou da exploração do excedente comportamental) e sim consolidar certezas consensuais existentes ou desejadas (na esfera política), manipular e controlar as emoções dos cidadãos (em situações de crise) e garantir a autoridade das decisões tomadas pelo comando (em caso de guerra).

Após as reformas religiosas de Numa Pompílio as pitonisas e feiticeiras passaram a ter pouco prestígio e nenhuma influência no destino de Roma. A aquisição dos livros Sibilinos por Tarquínio o Soberbo, por exemplo, não impediu a queda dele nem evitou o fim da monarquia romana.

“Non hic herba ualet, non nocturna Cytaeis,
non Perimadea gramina cocta manu;
quippe ubi nec causas nec apertos cernimus ictus,
unde tamem ueniant tot mala caeca uia est;
non eget hic medicis, non lectis mollibus aeger,
huic nullum caeli tempus et aura nocet:
ambulat – et subito mirantur funus amici!
Sic est incautum, quidquid habetur Amor.
Nam cui non ego sum fallaci praemia uati?
Quae mea non decies somnia uersat anus?”

“De nada valem ervas, Citeide noturna,
nem mesmo o caldeirão de Parimede,
pois se não distinguimos as causas e os golpes,
turva é a via donde vêm os males.
Não é que falte leito ou médico ao doente,
nenhum clima nem vento lhe faz mal:
passeia s súbito se espantam – está morto!
Seja o que for, Amor é imprevisível.
E eu não sou presa fácil para os falsos vates?
As velhinhas não versam os meus sonhos?”
(Sexti Properti, Elegias, edição bilíngue, Liber II, 4/7-16, editora autêntica, Belo Horizonte-São Paulo, tradução Guilherme Gontijo Flores, 2014, p. 98/99)

Roma não precisou coletar informações sobre tudo e sobre todos para construir um império colossal que durou séculos. “Agir e sofrer”, essas eram as qualidades tipicamente romanas segundo Tito Lívio. Os romanos não tinham medo de correr riscos. Os norte-americanos também eram empreendedores corajosos no final do século XIX início do século XX.

Ao que parece, a paixão pela tecnologia tem um subproduto emocional perverso: a amplificação do medo. No início do século XXI os norte-americanos se tornaram temerosos. Eles querem resultados garantidos e pagam por previsões cada vez mais acuradas transformando a democracia num inferno de vigilância privada ostensiva. O que o capitalismo de vigilância construirá? Uma civilização que vai durar mil anos ou um império economicamente injusto e politicamente instável que desmantelará rapidamente em virtude das vastas coleções de informações estarem fadadas a se corromper e a se transformar em Dark Data?

Você pode fazer o Jornal GGN ser cada vez melhor.

Assine e faça parte desta caminhada para que ele se torne um veículo cada vez mais respeitado e forte.

Assine agora