Bem- vindos ao Castelo Virtual, aqui todos os servos podem ser vigiados e caçados, por Fábio de Oliveira Ribeiro

Shoshana Zuboff trata especificamente do desenvolvimento e da utilização de novas técnicas para controlar e modelar o comportamento das pessoas nas ruas das cidades em que elas vivem.

Bem- vindos ao Castelo Virtual, aqui todos os servos podem ser vigiados e caçados, por Fábio de Oliveira Ribeiro

O capitalismo da vigilância nasceu e floresceu no mundo virtual, primeiro como uma maneira de valorizar espaços de propaganda e, depois, como uma máquina capaz de possibilitar a elaboração e a comercialização de previsões acuradas sobre as ações futuras dos usuários da internet feitas com base em vastas coleções de informações coletadas sobre eles.

A ambição do novo modelo econômico de se propagar para o mundo real começou a ocorrer com a produção e venda de equipamentos eletrônicos “inteligentes” que possibilitaram a criação de novas rotas para a expropriação de excedente comportamental. Isso obviamente não bastava. Era necessário mudar o comportamento das pessoas, primeiro na própria internet e, depois, no mundo real. No capítulo 10 de seu livro, Shoshana Zuboff trata especificamente do desenvolvimento e da utilização de novas técnicas para controlar e modelar o comportamento das pessoas nas ruas das cidades em que elas vivem.

“ ‘The new power is action’, a senior software engeneer told me. ‘The intelligence of the internet of things means that sensors can aldo be actuators’. The director of software engineering for a company that is an important player in the ‘internet of things’ added, ‘It’s no longer simply about ubiquitous computing. Now the real aim is ubiquitous intervention, action, and control. The real power is that now you can modify real-time actions in the real world. Connected smart sensors can register and analyze any kind of behavior and then actually figure out how to change it. Real-time analytics trannslate into real-time action’. The scientists and engineers I interviewed call this new capability ‘actuation’ and they describe it as the critical though largely undiscussed turning point in the evolution of the apparatus of ubiquity.

This actuations capability defines a new phase of the prediction imperative that enphasizes economies of action. This phase represents the completion of the new means of behavioral modification, a decisive and necessary evlution of the surveillance capitalist ‘means of prodoction’ toward a more complex, iterative, and muscular operational system. It is critical achievement in the race to guaranted outcomes. Under surveillance capitalism the objectives and operations of automated behavioral modification are designed and controlled by companies to mee their own revenue and growth objectives.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 293/294)

Tradução:

“‘O novo poder é a ação’, me disse um engenheiro de software sênior. ‘A inteligência da Internet das coisas significa que os sensores também podem ser atuadores’. O diretor de engenharia de software de uma empresa que é um ator importante na ‘Internet das Coisas’ acrescentou: ‘Não se trata mais simplesmente de computação onipresente. Agora, o verdadeiro objetivo é intervenção, ação e controle onipresentes. O poder real agora é que você pode modificar ações em tempo real no mundo real. Os sensores inteligentes conectados podem registrar e analisar qualquer tipo de comportamento e, em seguida, descobrir como alterá-lo. A análise em tempo real se transforma em ação em tempo real ‘. Os cientistas e engenheiros que entrevistei chamam essa nova capacidade de ‘atuação’ e a descrevem como o ponto de virada crítico, embora amplamente não discutido, na evolução do aparato de onipresença.

Essa capacidade de atuação define uma nova fase do imperativo de previsão que enfatiza as economias de ação. Esta fase representa a conclusão dos novos meios de modificação comportamental, uma evolução decisiva e necessária dos ‘meios de produção’ capitalistas de vigilância em direção a um sistema operacional mais complexo, iterativo e muscular. É uma conquista crítica na corrida para resultados garantidos. Sob o capitalismo de vigilância, os objetivos e operações de modificação comportamental automatizada são projetados e controlados pelas empresas para atingir seus próprios objetivos de receita e crescimento.”

Ao longo do capítulo, a autora esclarece quais são as características dos três principais focos desta nova abordagem: afinação, pastoreio e condicionamento. Os usuários de internet são levador a agir de uma determinada maneira que maximiza a influência do sistema ou do jogo (afinação). Os capitalistas da vigilância controlam os elementos chaves do contexto em que as ações serão realizadas (pastoreio) com a finalidade de obter lucro provocando mudanças no comportamento dos usuários ou jogadores (condicionamento).

Esse condicionamento reforçado mediante a intervenção onipresente, entretanto, é apenas um meio para outros fins: o sucesso econômico/político das pessoas/candidatos que compraram os serviços dos capitalistas da vigilância. Os usuários de internet ou jogadores são apenas ratos num laboratório virtual que se projeta no mundo real. As pessoas são levadas a tomar decisões (políticas ou comerciais) e/ou a se deslocar pela cidade de acordo com os parâmetros definidos por quem controla o sistema ou o jogo em seu próprio benefício. Não por acaso nesse capítulo, Shoshana Zuboff faz uma longa digressão sobre o trabalho de Skinner (um velho conhecido nosso) e sobre as implicações políticas do trabalho dele.

Os experimentos nocivos feitos pelo Facebook são bem conhecidos. Monitorando as ações de milhões de adolescentes na Austrália e na Nova Zelândia, o Facebook procurou descobrir se eles estavam se sentindo estressados, derrotados, ansiosos, nervosos, estúpidos, bobinhos, inúteis, fracassados, etc… Manipulando a Timeline deles, a rede social de Zuckerberg provocou modificações comportamentais que puderam ser medidas subsequentemente. E se o Facebook se tornar uma força maléfica? Essa pergunta incomodou vários especialistas quando o resultado dessas experiências foram divulgadas.

Reações semelhantes foram provocadas pelo Pokémon Go, jogo desenvolvido para conduzir hordas de adolescentes e adultos pelas ruas, parque e comércios. O objetivo oculto do jogo é garantir os lucros que decorrem do fluxo contínuo de informações colhidas dos GPS dos Smartphones dos usuários. Eles podem ser direcionados para determinado ponto da cidade em que um Pokémon poderá ser colhido (ou outra atividade do jogo será realizada). Enquanto jogam eles poderão consumir os produtos e serviços colocados à sua disposição por comerciantes dispostos a pagar para receber os dóceis rebanhos de consumidores.

As objeções às práticas do Facebook foram bastante eloquentes:

“A rich and flourishing research literature illuminates the antecedents, conditions, consequences, and challenges of human self-regulation as a universal need. The capacity for self-determination is understood as an essential foundation for many of the behaviors that we associeae whit critical capabilities such as empathy, volition, reflection, personal development, authenticity, integrity, learning, goal accomplishment, impulse control, creativity, and the sustenance of intimate enduring relationships. ‘Implicit in this process is a self that sets goals and standards, is aware of its own thoughts and behaviors, and has the capacity to change them’, write Ohio State University professor Dylan Wagner and Dartmouth professor Todd Heatherton in an essay about the centrality of self-awareness to self-determination: ‘Indeed, some theorists have suggested that the primary purpose of self awareness is to enable self-regulation.’ Every threat to human autonomy begins with an assault on awareness, ‘tearing down our capacity to regulate our thoughts emotions and desires.’ ” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 308)

Tradução:

“Uma rica e florescente literatura de pesquisa ilumina os antecedentes, condições, consequências e desafios da auto-regulação do ser humano como uma necessidade universal. A capacidade de autodeterminação é entendida como uma base essencial para muitos dos comportamentos que associamos com capacidades críticas, como empatia, volição, reflexão, desenvolvimento pessoal, autenticidade, integridade, aprendizado, realização de objetivos, controle de impulsos, criatividade e sustentação de relacionamentos duradouros íntimos. ‘Implícito nesse processo existe um ‘eu’ que estabelece metas e padrões, conhece seus próprios pensamentos e comportamentos e tem capacidade para alterá-los’, escrevem Dylan Wagner, professor da Universidade Estadual de Ohio e Todd Heatherton, professor de Dartmouth, em um ensaio sobre a centralidade da autoconsciência à autodeterminação: ‘De fato, alguns teóricos sugeriram que o objetivo principal da autoconsciência é permitir a auto-regulação.’ Toda ameaça à autonomia humana começa com um ataque à consciência, destruindo nossa capacidade de regular os nossos próprios pensamentos emoções e desejos. ‘”

As questões levantadas pelo Pokémon Go não são muito diferentes:

“The genius of Pokémon Go was to transform the game you see into a higher-order game of surveillance capitalism, a game about the game. The players who took the city as their board, roaming its parks and pizzerias, unwittingly constituted a wholly diferent kind of human game board for this second and more consequential game. The players in this other real game could not be found in the clot of enthusiasts waving their phones at the edge og David’s lawn. In the real game, prediction produtcts take the form of protocols that impose forms of telestimulation intended to prod herd people across real world terrains to spende their real-world money in the real-world commercial establishments of Niantic’s flesh-and-blood behavioral futures markets.

Niantic itself is like a tiny probe rising from the immensitity of Google’s mapping capabilities, surplus flows, means of production, and vast server farms as it constructs and tests the prototype of a global means of behavior modification owned and operated by surveillance capitalism. Niantic discovered that in the rapture of engaging competitive social play, the dreaded friction of individual will voluntarily gives way the game automatically elicits and breeds the specific behaviors sought by the high rollers in Niantic’s behavioral future markets. Whit this second game board in motion, the players in the real game vie for proximity to the wake of cash that follows each smiling member of the herd.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 319)

Tradução:

“O gênio do Pokémon Go foi transformar o jogo que você vê em um jogo de alta ordem do capitalismo de vigilância, um jogo sobre o jogo. Os jogadores que tomaram a cidade como seu tabuleiro, percorrendo seus parques e pizzarias, inconscientemente constituíram um tipo totalmente diferente de tabuleiro humano para este segundo e mais consequente jogo. Os jogadores deste outro jogo real não puderam ser encontrados no coágulo de entusiastas agitando seus telefones na beira do gramado de David [cidadão norte-americano que foi atormentado por jogadores de Pokémon Go e que ignorava que um Pokémon havia sido colocado no quintal dele]. No jogo real, os produtos de previsão assumem a forma de protocolos que impõem formas de telestimulação destinadas a estimular as pessoas do rebanho em terrenos do mundo real a gastar seu dinheiro do mundo real nos estabelecimentos comerciais do mundo real dos mercados comportamentais de carne e osso da Niantic.

A própria Niantic é como uma pequena sonda que surge da imensidão dos recursos de mapeamento, fluxos excedentes, meios de produção e vastos fazendas de servidores do Google, enquanto constrói e testa o protótipo de um meio global de modificação de comportamento pertencente e operado pelo capitalismo de vigilância. A Niantic descobriu que, no êxtase de envolver o jogo social competitivo, a temida fricção do indivíduo voluntariamente cede o jogo automaticamente provoca e gera os comportamentos específicos procurados pelos jogadores de alto escalão nos futuros mercados comportamentais da Niantic. Com este segundo tabuleiro em movimento, os jogadores do jogo real disputam a proximidade com o dinheiro que segue cada membro sorridente do rebanho.”

A rejeição à transformação do homem em membro de uma manada inconsciente explorada para fins que ele ignora levou os norte-americanos a combater ferozmente o nazismo e o fascismo. Não só aquele que germinou na Alemanha e na Itália nos anos 1930, mas também o que foi plantado nos EUA pelo behaviorismo de Skinner nos anos 1960 e 1970.

Nos Estados Unidos existem regras que impedem o Estado de financiar pesquisas com o objetivo de modificar o comportamento dos cidadãos. Elas foram criadas para inibir os abusos que ocorreram durante o Projeto MKUltra da CIA. Shoshana Zuboff faz um resumo deste projeto e do debate que ele provocou ao se tornar público. Ela também narra algumas de suas consequências práticas (a proliferação de programas behavioristas em presídios, escolas e hospitais psiquiátricos norte-americanos) e políticas (a luta contra essas aberrações) que levaram o Senado dos EUA a aprovar regras limitando a pesquisa e disciplinando o trabalho dos pesquisadores. Essas regras, entretanto, não se aplicam ao Facebook por razões que a autora do livro esclareceu.

“Unknow to the senators, scholars, rights activists, litigators, and many other citizens who stood against the antidemocratic incursions of the behavioral engineering vision, these methods had not died. The project would resurface in a wholly unexpected incarnation as a creature of the market, its unprecedented digital capabilities, scale, and scope now flourishing under forces combined to resist behavior modification as a for of state power, the energies of capitalist counterinsurgency were already at work within society. The corporation was to enhoy the rights of personhood but be free of democratic obligations, legal constraints, moral calculations, and social considerations. Certainly in US case, a weakened state in whiich elected official depend upon corporate wealth in every election cycle has shown little appetite to contest behavior modification as a market project, let alone to stand for the moral imperatives of the autonomous individual.

In its latest incarnation, behavioral modification comes to life as a global digital market architecture unfettered by geography, independet of constitutional constraints, and formally indifferent to the risks it poses to freedom, dignity, or the sustenance of the liberal order that Erwin’s subcommittee was determined to defend. This contrast is even more distressing in light of the fact that in the mid-twentieh century, the means of behavioral modification were aimed at individuals or groups who were construed as ‘them’: military enemies, prisioners, and other captives of walled disciplinary regimes.

Today’s means of behavioral modification are aimed unabashedly at ‘us’. Everyone is swept up in this new market dragnet, including the psychodramas of ordinary, unsuspecting fourteen-years-olds approching the weekend whit anxiety. Every avenue of connectivity serves to bolster private power’s need to seize behavioral profit. Where is the hammer of democracy now, when threat comes from your phone, your digital assistant, your Facebook login?” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 326/327)

Tradução:

“Desconhecidos pelos senadores, estudiosos, ativistas de direitos, litigantes e muitos outros cidadãos que se opuseram às incursões antidemocráticas da visão da engenharia comportamental, esses métodos não haviam morrido. O projeto ressurgiria em uma encarnação totalmente inesperada como uma criatura do mercado, suas capacidades digitais, escala e escopo sem precedentes agora florescendo sob forças combinadas para resistir à modificação de comportamento como um poder do Estado, as energias da contra-insurgência capitalista já estavam em ação dentro da sociedade. A corporação deveria gozar dos direitos da personalidade, mas ficar livre de obrigações democráticas, restrições legais, cálculos morais e considerações sociais. Certamente, no caso dos EUA, um estado enfraquecido no qual os funcionários eleitos dependem da riqueza corporativa em cada ciclo eleitoral mostrou pouco apetite para contestar a modificação de comportamento como um projeto de mercado, e muito menos defender os imperativos morais do indivíduo autônomo.

Em sua última encarnação, a modificação comportamental ganha vida como uma arquitetura global de mercado digital livre de geografia, independente de restrições constitucionais e formalmente indiferente aos riscos que representa para a liberdade, dignidade ou o sustento da ordem liberal que o subcomitê de Erwin foi determinado defender. Esse contraste é ainda mais angustiante à luz do fato de que, em meados do século XX, os meios de modificação comportamental eram direcionados a indivíduos ou grupos que eram interpretados como ‘eles’: inimigos militares, prisioneiros e outros cativos de regimes disciplinares murados.

Os meios de modificação comportamental de hoje são direcionados descaradamente a ‘nós’. Todo mundo é arrastado por essa nova rede de arrasto do mercado, incluindo os psicodramas de crianças comuns e inocentes de quatorze anos que se aproximam do fim de semana com ansiedade. Todas as vias de conectividade servem para reforçar a necessidade do poder privado de obter lucro comportamental. Onde está o martelo da democracia agora, quando a ameaça vem do seu telefone, assistente digital e login no Facebook?”

Em dois textos desta série fiz algumas referências ao passado medieval que nós temos pela frente. Volto ao tema antes de fazer algumas observações finais sobre as consequências possíveis do que está ocorrendo nos EUA.

Após a conquista normanda, os castelos de pedra fortificados surgiram do chão como cogumelos na Inglaterra. Isso dividiu a sociedade inglesa em duas partes: aqueles que possuíam os castelos eram livres para governar e acumular riqueza; os demais eram obrigados a pagar impostos e/ou trabalhar pelos senhores feudais.

Dentro dos castelos, uma língua era falada. Fora deles, o idioma do povo era outro muito diferente. As leis que se aplicavam aos senhores feudais eram diferentes das que regulavam as vidas dos servos. Os conflitos eram geralmente resolvidos em benefício daqueles que tinham os meios de coerção e que eram capazes de causar dor e permanecer sob a proteção das muralhas quando necessário.

O livro de Shoshana Zuboff nos permite visualizar uma estrutura semelhante nos dias de hoje. Google, Microsoft, Amazon e Facebook são castelos protegidos por muralhas econômicas, políticas, tecnológicas e diplomáticas. Os donos destas empresas gozam de uma liberdade comparável à dos senhores feudais. No mundo virtual que eles governam como senhores absolutos os usuários de internet são apenas servos obrigados a se sujeitar às regras que eles criaram para expropriar o excedente comportamental que eles transformam em lucros.

Entre “eles” e “nós” não pode existir igualdade de direitos, apenas uma hierarquia social tão rígida quando aquela que foi imposta na Inglaterra pelos conquistadores normandos. A exploração brutal do trabalho servil durante o feudalismo e a expropriação do excedente comportamental nos dias de hoje são as duas faces da mesma moeda que ligam duas épocas aparentemente tão diferentes. A desesperança de um servo dos séculos 12 e 13 é muito semelhante à nossa própria situação desesperada.

Uma última observação me parece oportuna. É evidente que são motivadas e justas as manifestações que estão ocorrendo nos EUA por causa do afro-americano que foi cruelmente assassinado por um policial. Finalmente os cidadãos daquele país da internet e foram às ruas para lutar pelos seus direitos.

No capítulo anterior nos vimos como a objetificação do homem destruiu a filosofia de Kant e despertou o interesse na humanização dos robôs https://jornalggn.com.br/artigos/overture-para-um-chip-emotivo-e-requiem-para-as-emocoes-genuinas/. Doravante nós teremos a oportunidade de ver a utilização deles para caçar todos aqueles que acreditam poder compartilhar “on line” suas humanas reações à brutalidade policial.

A reação estatal às manifestações de rua em Minneapolis, Atlanta, Washington etc será tão ou mais violenta do que as que estão sendo realizadas por alguns manifestantes. Me parece evidente que todos os recursos do capitalismo de vigilância poderão ser e serão colocados a serviço da identificação, localização e punição das pessoas que foram fotografadas e filmadas incendiando prédios públicos, destruindo viaturas de polícia e/ou saqueando lojas. De fato isso já está acontecendo https://www.mlive.com/news/grand-rapids/2020/06/grand-rapids-police-seek-photos-videos-to-track-down-rioters.html.

O que nós estamos vendo não é uma “primavera norte-americana”. O resultado desse movimento será muito diferente daquilo que ocorreu no Egito, na Líbia e em outros países do Oriente Médio desestabilizados com ajuda do Facebook e do Twitter. Muito pelo contrário, o mais provável é que o capitalismo de vigilância reforce alguns aspectos desagraveis do “American way of Cop tyranny.”

As imagens dos manifestantes que incendiaram e saquearam Minneapolis e outras cidades dos EUA podem ser utilizadas para localizar os perfis deles no Facebook, Twitter e Instagran. As publicações que eles mesmos fizeram narrando ou comemorando seus atos podem ser identificados e associados aos telefones deles. Usando recursos do Android, o Google pode colocar os telefones dos suspeitos nas cenas dos crimes (esse será um indício de prova importante). Neste exato momento um velho sistema político pode estar sendo reconstruído nos EUA com a colaboração voluntária ou forçada dos castelos feudais dos capitalistas de vigilância.

O feudalismo se caracterizava pela imobilidade da sociedade. Antes da Revolução Francesa, os destinos das pessoas eram fixados pelo nascimento. Numa democracia, a mobilidade social pode decorrer tanto do mérito pessoal quando da política. Entretanto, se for colocado a serviço de um Estado sedento para reprimir parcelas minoritárias de sua própria população (caso dos EUA), o capitalismo de vigilância impedirá qualquer melhoria da situação de contingentes populacionais empobrecidos e oprimidos pela violência policial. Não haverá espaço para negociações políticas se cada um dos manifestantes for identificado e obrigado a responder criminalmente por seus atos.

É necessário, portanto, não se deixar impressionar muito pelas inovações tecnológicas. Elas criaram uma situação realmente única e imprevista. Mas não porque elas possibilitaram o surgimento de uma nova sociedade e sim porque elas podem ser colocadas a serviço do renascimento de estruturas políticas que deixaram de existir há mais de dois séculos.

Você pode fazer o Jornal GGN ser cada vez melhor.

Apoie e faça parte desta caminhada para que ele se torne um veículo cada vez mais respeitado e forte.

Apoie agora