O nascimento da indústria inteligente e do sindicalismo 2.0, por Fábio de Oliveira Ribeiro

Shoshana Zuboff narra os discursos ufanistas de três CEOs acerca do que a Microsoft, o Google e o Facebook já fizeram e do que aquelas empresas pretendem fazer.

O nascimento da indústria inteligente e do sindicalismo 2.0, por Fábio de Oliveira Ribeiro

Nos dois textos anteriores desta série foram exploradas as primeiras considerações de Shoshana Zuboff acerca do que ela chamou de instrumentarianismo, fenômeno que prefiro chamar de ‘auctoritas virtual’ https://jornalggn.com.br/artigos/a-nova-auctoritas-e-sua-verdade-o-nao-pertencimento/. No capítulo 14, a autora trata da utopia da certeza. Mas antes de entrar no tema, Shoshana Zuboff narra os discursos ufanistas de três CEOs acerca do que a Microsoft, o Google e o Facebook já fizeram e do que aquelas empresas pretendem fazer.

Satya Nadella (Microsoft) quer mudar o mundo. Larry Page (Google) quer uma mudança revolucionária. Mark Zuckerberg (Facebook) diz viabilizará a criação da humanidade global. As palavras deles me fizeram lembrar de uma música inesquecível.

“Um piloto rouba um Mig
Gelo em Marte, diz a Viking
Mas, no entanto, não há galinha em meu quintal”

O que diabos o fragmento da letra de uma música de Raul Seixas está fazendo aqui? Isso nós veremos no final.

Após usar a obra de Frank e Fritizie Manuel para tecer alguns comentários sobre as utopias (tal como elas eram concebidas no passado), Shoshana Zuboff afirma que:

“In this respect, the surveillance capitalist leaders are sui generis utopianists. Marx grasped the world whit his thickly articulated theory, but with only the power of his ideas could not implement his vision. Long after the publication of Marx’s theories, men such as Lenin, Stalin and Mao applied them to real life. Indeed the Manuels [Frank e Fritizie Manuel] describe Lenin as a specialist in ‘applied utopistics’. In contrast, the surveillance capitalists seize the world in practice. Their theories are thin – at least this is true of the thinking that they share with the public. The opposite is ture of their power, which is monumental and largely unimpeded.

When it comes to theory and practice, the usual sequence is that theory is avaiable to inspect, interrogate, and debate before the action is initiated. This allows observers and opportunity to judge a theory’s whortiness for application, to consider unanticipated consequences of application, and evaluate an application’s fidelity to the theory in which it originates. The unavoidable gap between theory and practice creates a space for critical inquiry. For example, we can question whether a law or governmental practice is consistent with a nation’s constitution, charter of rights, and governing principles because we can inspect, interpret, and debate those documents. If the gap is too great, citizens act to close the gap by challenging the law or pratice.

The surveillance capitalists reverse the normal sequence of theory and practice. Their practices move ahead at high velocity in the absence of an explicit and contestable theory. They specialize in displays of instrumentarianism’s unique brand of shock and awe, leving onlookers dazed, uncertain, and helpless. The absense of a clear articulation of their theory leaves the rest of us to ponder its practical effects: the vehicular monitoring system that shuts dwon your engine; the destination that appears with the route; the suggeested purchase that flashes on your phone the moment your endorphins peak; Big Other’s continuous tracking of your location, behavior, and mood; and its cheerful herding of city dwellers toward surveillance capitalists customers.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 406)

Tradução:

“A esse respeito, os líderes capitalistas da vigilância são utópicos sui generis. Marx compreendeu o mundo com sua teoria fortemente articulada, mas apenas com o poder de suas ideias não foi possível implementar sua visão. Muito tempo depois da publicação das teorias de Marx, homens como Lenin, Stalin e Mao aplicaram-nas à vida real. De fato, os Manuels [Frank e Fritizie Manuel] descrevem Lenin como um especialista em ‘utopística aplicada’. Em contraste, os capitalistas da vigilância apreendem o mundo na prática. Suas teorias são escassas – pelo menos isso é verdade quanto ao pensamento que compartilham com o público. O oposto é a força de seu poder, que é monumental e praticamente desimpedido.

Quando se trata de teoria e prática, a sequência usual é que a teoria está disponível para inspecionar, interrogar e debater antes que a ação seja iniciada. Isso permite ao observador a oportunidade de julgar a totalidade da aplicação de uma teoria, considerando as consequências imprevistas de sua aplicação, e avaliar a fidelidade de uma aplicação à teoria em que ela se originou. A lacuna inevitável entre teoria e prática cria um espaço para a investigação crítica. Por exemplo, podemos questionar se uma lei ou prática governamental é consistente com a Constituição, a carta de direitos e os princípios de governo de uma nação, porque podemos inspecionar, interpretar e debater esses documentos. Se a diferença é muito grande, os cidadãos agem para colmatar a lacuna desafiando a lei ou a prática.

Os capitalistas da vigilância invertem a sequência normal da teoria e da prática. Suas práticas avançam em alta velocidade na ausência de uma teoria explícita e contestável. Eles se especializam em exibições da marca única de choque e reverência ao instrumentarianismo, deixando os espectadores aturdidos, incertos e desamparados. A ausência de uma clara articulação de sua teoria deixa o resto de nós a ponderar sobre seus efeitos práticos: o sistema de monitoramento veicular que desliga o motor; o destino que aparece com a rota; a compra sugerida que pisca no seu telefone no momento em que suas endorfinas atingem o pico; o rastreamento contínuo do Grande Outro de sua localização, comportamento e humor; e seu alegre rebanho de moradores da cidade em direção a clientes capitalistas de vigilância.”

A utopia dos capitalistas da vigilância criaram depende de nós (fornecedores de excedentes comportamentais que são expropriados de diversas maneiras utilizando recursos cada vez mais invasivos), mas ela não foi criada para nós. Os consumidores dos produtos comercializados pelo capitalismo de vigilância não são os usuários de internet e sim os empresários interessados em maximizar suas vendas comprando previsões no mercado comportamental futuro ou automatizar totalmente suas fábricas para reduzir custos, eliminar erros e garantir resultados.

Zuboff detalha um projeto-piloto desenvolvido pela Microsoft com uma empresa sueca:

“…Algotithmic uncontracts apply rules and substitute for social functions such as supervision, negociation, communication, and problem solving. Each person and piece of equipament takes plaece among an equivalence of objects, each one ‘recognizable’ to ‘the system’ thorugh the AI devices distributed acroos the site.

For example, each individual’s training, credentials, employment history and other background information are instantly on display to the system. A ‘policy’ might declare that ‘only credentialed employeess can use jackhammers’. If an employee who is not accredited for jackhammer use approaches that tool, the possibility of an impendin violation istriggered, and the jackhammer screans an alert, instantly disabling itself.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 409)

Tradução:

“… Os algorítmico ‘não contratos’ aplicam regras e substituem funções sociais como supervisão, negociação, comunicação e solução de problemas. Cada pessoa e peça de equipamento se destaca entre uma equivalência de objetos, cada um ‘reconhecível’ pelo ‘sistema’ através dos dispositivos de IA distribuídos em todo o site.

Por exemplo, o treinamento de cada indivíduo, credenciais, histórico de emprego e outras informações básicas são instantaneamente exibidas no sistema. Uma ‘política’ pode declarar que ‘apenas funcionários credenciados podem usar britadeiras’. Se um funcionário que não é credenciado para britadeira usar a ferramenta, a possibilidade de uma violação iminente é disparada e a britadeira grita um alerta, desativando-se instantaneamente.”

Um pouco adiante, Shoshana Zuboff disserta sobre a nova sociedade que está sendo criada:

“Microsoft’s patent return us to Planck, Meyer, and Skinner and the viewpoint of the Other-None. In their physics-based representation of human behavior, anomalies are the ‘accidents’ that are called freedom but actually denote ignorance; they simply cannot yet be explained by the facts. Planck/Meyer/Skinner belived that the forfeit of this freedom was the necessary price to be paid for ‘safety’ and ‘harmony’ of an anomaly-free society in which all processes are optimized for the greater good. Skinner imagined that with the correct techonology of behavior, knowledege could preemptively eliminate anomalies, driving all behavior toward preestablished parameters that align with social norms and objectives. ‘If we could show that our members preferred life in Walden Two’, says Frazier-Skinner, ‘it would be the best possible evidence that we had reached a safe and productive social structure’.

In this template of social relations, behavioral modification operates just beyond the threshold of human awareness to induce, reward, goad, punish and reinforce behavior consisten with ‘correct policies’. Thus, Facebook learns that it can predictably move the societal dial on voting patterns, emotional states, or anything eles that it chooses. Niantic Labs and Google learn that they can precictably enrich MacDonald’s bottom line or that of any other customer. In each case, corporate objectives define the ‘policies’ toward which confluent behavior harmoniously streams.

The machine hive – the confluent mind created by machine learning – is the material means to the final elimination of the caotic elements thar interfere with guaranteed outcomes. Eric Schimidt and Sebastian Thrun, the machine intelligence guru who directed Google’s X Lab and helped the development of Street View and Google’s sel-driving car, make this point in championing Alphabet’s autonomous vehicles. ‘Let’s stop freaking out about artificial intelligence’, they write.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 412/413)

Tradução:

“A patente da Microsoft nos devolve a Planck, Meyer e Skinner e o ponto de vista do Outro-Nenhum. Na representação física do comportamento humano, as anomalias são os ‘acidentes’ chamados liberdade, mas que na verdade denotam ignorância; eles simplesmente ainda não podem ser explicados pelos fatos. Planck/Meyer/Skinner acreditavam que a perda dessa liberdade era o preço necessário a ser pago pela ‘segurança’ e ‘harmonia’ de uma sociedade livre de anomalias, na qual todos os processos são otimizados para o bem maior. Skinner imaginou que, com a tecnologia correta do comportamento, o conhecimento poderia eliminar preventivamente anomalias, levando todo o comportamento a parâmetros pré estabelecidos, alinhados com normas e objetivos sociais. ‘Se pudéssemos mostrar que nossos membros preferiam a vida em Walden Two’, diz Frazier-Skinner, ‘seria a melhor evidência possível de que alcançamos uma estrutura social segura e produtiva’.

Nesse modelo de relações sociais, a modificação comportamental opera um pouco além do limiar da consciência humana para induzir, recompensar, instigar, punir e reforçar o comportamento consistido nas ‘políticas corretas’. Assim, o Facebook aprende que pode prever de maneira previsível a mudança social nos padrões de votação, estados emocionais ou qualquer outra coisa que ele escolher. O Laboratório Niantic e o Google descobrem que podem enriquecer de forma imprevisível os resultados financeiros do MacDonald’s ou de qualquer outro cliente. Em cada caso, os objetivos corporativos definem as ‘políticas’ em relação às quais o comportamento confluente flui harmoniosamente.

A colmeia de máquinas – a mente confluente criada pelo aprendizado de máquina – é o meio material para a eliminação final dos elementos caóticos que interferem nos resultados garantidos. Eric Schimidt e Sebastian Thrun, o guru da inteligência de máquinas que dirigiu o X Lab do Google e ajudou no desenvolvimento do Street View e do carro autônomo do Google, fazem questão de defender os veículos autônomos do Alphabet. ‘Vamos parar de surtar sobre a inteligência artificial’ eles afirmam.”

Ao comentar um dos textos desta série, o internauta Jeremy Parker (ele mesmo um especialista em computação que trabalha em projetos de expansão do capitalismo de vigilância na Inglaterra), disse que:

“Science fiction has played with the idea of emotions as a commodity many times. Once emotion is digitised I suppose the next aim will be to reduce the soul itself, the spark of life, into a simulacrum of information. And then we will become ghosts in the machine.”
https://twitter.com/not3bad/status/1267875847899435014

Tradução:

“A ficção científica brincou com a ideia das emoções como uma mercadoria muitas vezes. Uma vez que a emoção é digitalizada, suponho que o próximo objetivo será reduzir a própria alma, a centelha da vida, em um simulacro de informações. E então nos tornaremos fantasmas na máquina.”

Minha resposta a ele foi curta:

“And then we will become ghosts for the machine.”

Tradução:

“E então nos tornaremos fantasmas para a máquina.”

Dois comentários de Shoshana Zuboff sobre o futuro que está sendo construído sugerem que ela concorda com a tese de que nós estamos sendo transformados em fantasmas para as máquinas.

“… The machines mimic each other, and so must we. The machines move in confluence, not many rivers but one, and so must we. The machines are each structured by the same reasoning and flowing toward the same objective, and so must we be structered.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 414)

Tradução:

“… As máquinas se imitam, e nós também devemos fazer isso. As máquinas se movem em confluência, não muitos rios, mas um, e nós também devemos seguir esse padrão. Cada uma das máquinas é estruturada pelo mesmo raciocínio e flui em direção ao mesmo objetivo, e, portanto, assim nós devemos ser estruturados.”

“In this humam hive, individual freedom is forgeit to collective knowledge and action. Nonharmonious elements are preemptively targed with high doses of tuning, herding, and conditioning, including the full seductive force of social persuasion and influence. We march in certainty, like the smart machines. We learn to sacrifice our freedom to collective knowledege imposed by others and for the sake of their guaranteed outcomes. This is the signature of the third modernity offered up by surveillance capital as its answer to our quest for effective life together.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 414/415)

Tradução:

“Nesta colmeia, a liberdade individual é forjada para o conhecimento e a ação coletivas. Elementos não-harmônicos são preemptivamente atacados com altas doses de afinação, pastoreio e condicionamento, incluindo toda a força sedutora da persuasão e influência social. Marchamos com certeza, como as máquinas inteligentes. Aprendemos a sacrificar nossa liberdade ao conhecimento coletivo imposto por outras pessoas e pelo bem de seus resultados garantidos. Essa é a assinatura da terceira modernidade oferecida pelo capital de vigilância como resposta à nossa busca por uma vida efetiva em conjunto.”

O que podem os fantasmas fazer contra o circo de horrores que está sendo criado para transformá-los em apêndices orgânicos de máquinas controladas por algoritmos capazes de gerenciar todos os fatores humanos e produtivos de uma empresa? Eles podem tudo.

Suponhamos que cada empregado só tenha acesso a um tipo de máquina e que cada máquina possa ser desligada automaticamente quando alguém não autorizado tentar operá-la. Seria muito fácil parar toda a produção fabril apenas organizando os operários para trocarem de lugar com seus colegas a fim de que cada qual provocasse o desligamento remoto automático de uma máquina para a qual não estaria credenciado a operar.

Qualquer sindicalista com alguma experiência sabe que parar uma empresa com milhares de empregados capacitados a operar diversos tipos de máquinas é uma tarefa difícil. Funcionários com experiência em diversos setores podem ser remanejados para manter a fábrica funcionando. Parar uma grande empresa altamente automatizada que utiliza recursos de Inteligência Artificial como os descritos por Shoshana Zuboff seria infinitamente mais fácil.

Nenhum sistema computacional é invulnerável. E assim como o WikiLeaks vazou todos os segredos mais sórdidos da diplomacia e dos militares dos EUA, o sindicalismo 2.0 pode acabar se beneficiando do vazamento de vulnerabilidades das tecnologias da informação utilizadas para transformar os empregados em escravos das máquinas num ambiente fabril desumano e totalmente previsível. Um excesso de repressão algorítmica também pode acarretar reações extremamente destrutivas https://edition.cnn.com/2020/06/05/us/amazon-redlands-fire-trnd/index.html.

O único resultado garantido neste caso seria um evidente acréscimo de incerteza e, sem dúvida alguma, de prejuízo econômico. Adotar o máximo de tecnologia nem sempre é a resposta correta para manter as máquinas funcionando apesar da inconformidade de uma parcela dos empregados. Um aumento de certeza nem sempre corresponde à eliminação da possibilidade de declínio da rentabilidade empresarial em virtude de conflitos trabalhistas previsíveis e potencialmente nocivos.

É nesse ponto que entra a música de Raul Seixas. Durante a Guerra Fria, quando Raulzito compôs a música citada, Washington e Moscou disputavam os corações e mentes do mundo inteiro. Tanto os EUA como a URSS se apresentavam como utopias concretizadas.

Os norte-americanos diziam representar a liberdade e a fartura capitalista, muito embora tivessem invadido a Coreia e, depois, o Vietnã. Os soviéticos eram os campeões da igualdade, mas a situação dos “camaradas” do Partido Comunista sempre foi melhor que a dos demais cidadãos. Em sua música, Raul Seixas rejeita as duas utopias de uma maneira irônica e genial.

Nenhum avanço tecnológico norte-americano (como a sonda Viking) ou problema político soviético (defecção do piloto que roubou um MIG) seria capaz de resolver o problema imediato mais importante (a ausência de galinha no quintal de um brasileiro). A fome (ou a vontade de comer algo diferente) é mais opressiva e importante do que qualquer utopia ou disputa ideológica.

Quando a utopia de alguns é a causa eficiente da insatisfação de muitos o resultado é quase sempre o mesmo. O mundo é chacoalhado até mudar para melhor ou para pior. Pouco importa, desde que ele se torne pior para aqueles que estavam numa situação muito melhor. E fim de papo!

Você pode fazer o Jornal GGN ser cada vez melhor.

Apoie e faça parte desta caminhada para que ele se torne um veículo cada vez mais respeitado e forte.

Apoie agora