Overture para um chip emotivo e Réquiem para as emoções genuí

Overture para um chip emotivo e Réquiem para as emoções genuínas

por Fábio de Oliveira Ribeiro

No artigo anterior dessa série vimos como Shoshana Zuboff descreveu o que pode se chamado o nascimento do psicototalitarismo com a exploração comercial e/ou política do excedente comportamental expropriado dos usuários de redes sociais na internet. Neste nós veremos como o capitalismo de vigilância ultrapassou o Rubicão ao desenvolver tecnologias para capturar e interpretar emoções humanas para transformar o resultado destas interpretações produtos lucrativos.

Antes de entrar no assunto, entretanto, tomo a liberdade de pedir ao leitor que assista quatro cenas de três filmes.

A primeira é do filme I, Robot (2004). Ao ser interrogado por Spooner o robô Sonny afirma que seu pai tentou ensiná-lo emoções. O detetive afirma que robôs não tem emoções. Quando Spooner insiste em saber se Sonny matou o doutor Lanning o robô bate violentamente na mesa ao dizer que não. Isso se chama raiva, diz Spooner.

As duas outras cenas são do filme The bicentennial man (1999). Após procurar durante muito tempo o robôs de sua espécie, o criativo robô Andrew encontra Galatea. Ele fica assombrado com o comportamento espontâneo de sua nova amiga. Ele pergunta se ela sempre soube que era diferente. Ela responde que o chip de personalidade dela estava acionado. Na cena seguinte ele pega uma furadeira para dar um fim na personalidade irritante da amiga.

A última cena foi extraída do filme Jupiter Ascendig (2015). Contratado para ajudar no processo de regularização da situação da protagonista do filme, o advogado robótico (cuja face imita expressões humanas) encontra dificuldades burocráticas. Ele resolve o problema subornando um servidor público e dizendo que fazer isso é incompatível com sua programação.

https://www.youtube.com/watch?v=VveTsyjFlNA

Da ficção norte-americana para a realidade europeia.

“The SEWA project is a window on burgeoning new domain of rendition and behavioral surplus supply operations konwn as ‘affective computing’, ‘emotion analytics’ and ‘sentiment analyses’. The personalization project descends deeper toward the ocean floor with these new tools, where they lay claim to yet a new frontier of rendition trained not only on your personality but also on your emotional life. If this project os surplus from the depths is to succed, then your unconscious – where feelings form before there are wordss to express them – must be recast as simply one more source of raw-material supply for machine rendition and analysis, all of it for the sake of more-perfect prediction. As a market research report on affective computing explaains, ‘Knowing the real-time emotional state can help businesses to sell their produtct and thereby increase revenue’.

Emotion analyticss produtcs such SEWA use specialized software to scour faces, voices, gestures, bodies, and brains, all of it captured by ‘biometric’ and ‘depth’ sensors, often in combination with imperceptibly small, ‘unobtrusive’ cameras. This complex of machine intelligence is trained to isolate, capture, and render the most subtle and intimate behaviors, from an inadvertent blink to a jaw that slackens in surprise for a fraction of a second. Comtinations of sensor and softhware can recognize and indetify faces; estimate age, ethnicity, and gender; analyse gaze direction and blinks; and track distinct facial points to interpret ‘micro-expressions’ eyes movemets, emotions, moods, stress, boredon, confusion, intentions, and more: all at the speed of life.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 282/283)

Tradução:

“O projeto SEWA é uma janela para o surgimento de novos domínios de suprimentos para a extração de excedentes comportamentais conhecidos como ‘computação afetiva’, ‘análise de emoções’ e ‘análise de sentimentos’. O projeto de personalização desce mais fundo em direção ao fundo do oceano com essas novas ferramentas, onde é reivindicada uma nova fronteira de submissão treinada não apenas em sua personalidade, mas também em sua vida emocional. Se esse projeto de excedentes das profundidades for bem-sucedido, seu inconsciente – onde os sentimentos se formam antes que existam palavras para expressá-los – deve ser reformulado como mais uma simples fonte de suprimento de matéria-prima para renderização e análise de máquinas, tudo isso para a realização de previsões mais perfeitas. Como explica um relatório de pesquisa de mercado sobre computação afetiva, “Conhecer o estado emocional em tempo real pode ajudar as empresas a vender seus produtos e, assim, aumentar a receita”.

Os produtos de análise de emoção, como a SEWA, usam software especializado para vasculhar rostos, vozes, gestos, corpos e cérebros, todos capturados por sensores ‘biométricos’ e ‘de profundidade’, geralmente em combinação com câmeras imperceptivelmente pequenas e ‘discretas’. Esse complexo de inteligência de máquina é treinado para isolar, capturar e tornar os comportamentos mais sutis e íntimos, de um piscar inadvertido a um queixo que relaxa de surpresa por uma fração de segundo. As combinações de sensor e software podem reconhecer e identificar faces; estimar idade, etnia e gênero; analisar a direção do olhar e piscada; e acompanha pontos faciais distintos para interpretar movimentos de olhos, emoções, humor, estresse, tédio, confusão, intenções e muito mais: tudo na velocidade da vida.”

Um pouco adiante, após narrar a saga Rosalind Picard [pesquisadora do MIT Media Lab que começou questionando os efeitos potencialmente negativos do desenvolvimento de tecnologias capazes de interpretar emoções humanas e que se tornou dona de uma lucrativa empresa que faz justamente isso], Shoshana Zuboff conta como a ideia de uma sócia dela na empresa Affectiva se tornou realidade.

“By 2016, Kaliouby was the company’s CEO, redefining its business as ‘Emotional AI’ and calling it ‘the next frontier of artificial intelligence’. The company had raised $34 million in venture capital, included 32 Fortune 100 companies and 1,400 brands from all over the world among its clients, and claimed to have the largest repository of emotion data in the world, with 4,8 million face videos from 75 countries, even as it continued to expand its supply routes with data sourced from online viewing, video game participation,driving, and conversation.

This is the commercial context in which Kaliouby came to feel that it is perfectly rreasonable to assert an ‘emotional chip’ will become the base operational unit of a new ‘emotion economy’. She speaks to her audiences of a chip embedde in all thins everywhere, running constantly in the baackground, roducing an ‘emotional pulse’ each time you check your phone: ‘I think in the future we’ll assume that every device just knows how to read your emotions’. At least one company, Emoshape, has taken her proposition seriously. The firm, whose tagline is ‘Life Is the Value’m produces a microchip that it calls ‘the industry’s first emotion syntesis engine’, delivering ‘hight performance machine emotion awareness’. The company writes that its chip can classify twelve emotions with up to 98 percent accuracy, enabling is ‘arfiticial intelligence or robot to experience 64 trillion possible distinct emotional states’.

Kaliouby imagines thar pervasive ‘emotion scanning’ will come to be as taken for granted as a ‘cookie’ planted in your computer to track your online browsing. Alter all, those cookies once stirred outrage, and now they inundate every online move.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 289)

Tradução:

“Até 2016, Kaliouby era o CEO da empresa, redefinindo seus negócios como ‘IA emocional’ e chamando-a de ‘a próxima fronteira da inteligência artificial’. A empresa levantou US $ 34 milhões em capital de risco, incluiu 32 empresas da Fortune 100 e 1.400 marcas de todo o mundo entre seus clientes e afirmou ter o maior repositório de dados de emoções do mundo, com 4,8 milhões de vídeos de rosto de 75 países, inclusive continuando a expandir suas rotas de suprimento com dados provenientes de visualização on-line, participação em videogame, direção e conversação.

Este é o contexto comercial em que Kaliouby chegou à conclusão de que é perfeitamente razoável afirmar que um ‘chip emocional’ se tornará a unidade operacional básica de uma nova ‘economia emocional’. Ela fala com o público sobre um chip embutido em todos os lugares, rodando constantemente no fundo, provocando um ‘pulso emocional’ toda vez que você checa seu telefone: ‘Acho que no futuro assumiremos que todo dispositivo saberá como ler suas emoções ‘. Pelo menos uma empresa, Emoshape, levou a proposta dela a sério. A empresa, cujo slogan é ‘A Vida é Valor’ produz um microchip que chama de ‘o primeiro mecanismo de síntese de emoções do setor’, fornecendo ‘alta percepção das emoções das máquinas com alto desempenho’. A empresa informa que seu chip pode classificar doze emoções com precisão de até 98%, permitindo que a ‘inteligência emocional ou robô experimente 64 trilhões de estados emocionais distintos possíveis’.

Kaliouby imagina que a ‘varredura de emoções’ difundida será considerada um fato trivial da vida como um ‘cookie’ plantado em seu computador para rastrear sua navegação on-line. Além do mais, esses cookies causaram indignação e agora inundam todos os movimentos online.’”

Shoshana Zuboff termina esse capítulo fazendo profunda reflexão baseada na obra de Sartre.

“No matter how much is taken from me, this inward freedon to create meaning remais my ultimate sanctuary. Jean-Paul Sartre writes that ‘freedom is nothing but the existance of our will’ and he elaborates: ‘Actually it is not enogh to will; it is necessary to will to will’. This rising up of the will to will is the inner act that secures us as autonomous beings who project choice into the world and exercise the qualities of self-determining moral judgement that are civilization’s necessari and final bulwak. This is the sense behind another of Sartre’s insghts: ‘Without bearings, stirred by a nameless anguish the words labor… The voice is born of a risk: either to lose onseself or win the right to speak in the first person’.

As the prediction imperative drives into the self, the value of its surplus becomes irresistible, and cornering operations escalete. What happens to the right to speak in the first persom from and as my self when the swelling frenzy of institutionalization set into motion by the prediction imperative is trained or cornering my sighs, blinks, and utterances on the way to my very thoughts as a means to other’s ends? It is no longer a matter of surveillance capital wringing surplus from what I search, buy, and browse. Surveillance capital wants more than my body’s coordinates in time and space. Now it violates the inner sanctun as machines and their algorithms decide the meaning of my breath and my eyes, my jaw muscles, the hitch in my voice, and the exclamation points that I offered in innocence and hope.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 291)

Tradução:

“Não importa o quanto seja tirado de mim, essa liberdade interior para criar significado permanece meu santuário final. Jean-Paul Sartre escreve que ‘liberdade não é senão a existência de nossa vontade’ e ele elabora: ‘Na verdade, não é suficiente querer; é necessário querer desejar’. Essa elevação da vontade de querer é o ato interno que nos assegura como seres autônomos que projetam a escolha no mundo e exercem as qualidades de julgamento moral autodeterminado que são necessárias e o baluarte final da civilização. Este é o sentido por trás de outra intuição de Sartre: ‘Sem rumo, agitado por uma angústia sem nome, o trabalho das palavras… A voz nasce de um risco: perder-se ou conquistar o direito de falar na primeira pessoa’.

À medida que o imperativo da previsão penetra no ego, o valor de seu excedente se torna irresistível e as curvas de operações aumentam. O que acontece com o direito de falar em primeira pessoa de mim mesmo quando o frenesi crescente da institucionalização desencadeada pelo imperativo da previsão é treinado ou encurrala meus suspiros, piscadelas e enunciados no caminho para meus próprios pensamentos como um meio para os fins dos outros? Não é mais uma questão do capital de vigilância excedendo o que eu pesquiso, compro e navego. O capital da vigilância quer mais do que as coordenadas do meu corpo no tempo e no espaço. Agora, ele viola o santuário interno, à medida que as máquinas e seus algoritmos decidem o significado da minha respiração e dos meus olhos, dos músculos da minha mandíbula, da variação na minha voz e dos pontos de exclamação que ofereci na inocência e na esperança.”

Essa passagem do livro é auto-explicativa e não precisa ser comentada. Voltemos ao início deste texto para amplificar as ideias de Shoshana Zuboff com outros argumentos.

Como vimos, o robô Sonny reage emocionalmente à acusação de assassinato. Andrew, o robô bicentenário primeiro descobre que o chip de personalidade do robô Galatea foi acionado e, depois, fica irritado com o comportamento dela e resolve desligá-lo com uma furadeira. O advogado robótico com face humana Jupiter Jones contornou os parâmetros de programação que o impediam de pagar subornos ou ele simplesmente mentiu quando disse que não poderia fazer isso?

A obra de Shoshana Zuboff evidencia que o espaço que existia entre a realidade e a ficção está deixando de existir. Todas as situações dramáticas, engraçadas e curiosas envolvendo os robôs dos filmes I, Robot, The bicentennial man e Jupiter Ascendig se tornaram uma possibilidade real. Ao que parece, no âmbito da internet tudo o que foi imaginado no passado já se tornou ultrapassado.

Foi por essa razão que iniciei esse texto fazendo referências às cenas de três filmes. Quando as nossas emoções deixam de ser um fim em si mesmo para nós (e para as pessoas com as quais nos relacionamos) e se transformam em objetos que podem ser sequestrados, quantificados, analisados e transformados em produtos comercializados por capitalistas da vigilância a única humanidade que realmente desperta interesse é aquela atribuída às máquinas.

Programadas para expropriar, explorar, manipular e transformar nossas emoções por razões econômicas e/ou políticas, as próprias máquinas (softwares, chips, Inteligência Artificial, robôs) se transformarão nos únicos expectadores do mundo. Isso não é pouco.

Numa de suas lições sobre a filosofia de Kant, Hannah Arendt afirma que:

“… no centro da filosofia moral de Kant encontra-se o indivíduo; no centro de sua filosofia da história (ou, antes de sua filosofia da natureza), encontra-se o progresso perpétuo da raça humana, ou gênero humano. (Portanto: a História de um ponto de vista geral.). O ponto de vista ou perspectiva geral é ocupado pelo espectador, que é um ‘cidadão do mundo’, ou melhor, um ‘espectador do mundo’. É ele quem decide, tendo uma ideia do todo, se, em algum evento singular, particular, o progresso está sendo efetuado.” (Lições sobre a filosofia política de Kant, Hannah Arendt, organização e ensaio Ronald Beiner, Nona lição, editora Relume Dumará, Rio de Janeiro, 1994, p. 59)

Como será possível ao homem decidir se, em algum evento particular, o progresso está sendo efetuado se ele mesmo deixou de ser um expectador do mundo? Pode um ser humano, cujos excedentes comportamentais foram expropriados e as profundezas cognitivas e emocionais sequestradas com a finalidade de produzir lucro para empresários que adquiriram o poder de prever e modelar suas ações futuras, observar mais do que o pálido reflexo de uma sombra?

Em razão de suas características únicas, o capitalismo de vigilância dividiu o mundo entre aqueles que realmente observam e aqueles que se tornaram objetos observáveis e controláveis enquanto acreditam poder observar o mundo. O capitalismo de vigilância não proferiu apenas uma sentença de morte para a privacidade e a autonomia dos seres humanos. Ele conseguiu destruir um dos pilares centrais que sustentavam a filosofia de Kant.