Ring Doorbell e Echo Dot Alexa: é preciso isolar e conter o novo populismo penal tecnológico
por Fábio de Oliveira Ribeiro
Na pré-história os seres humanos eram obrigados a conviver perigosamente com animais predadores muito ameaçadores, velozes que tinham presas e garras mais afiadas e letais do que os seres humanos. alguns caçavam presas humanas solitariamente, outros faziam isso em bandos. Os humanos viviam em grupos pequenos desenvolveram ferramentas para se defender, construíram abrigos para se proteger. E então eles começaram a caçar seus predadores também, primeiro por necessidade e muito mais tarde por esporte.
A separação psicológica entre os humanos e a natureza foi quase total. E esse padrão acabou sendo incorporado em mitos e valorizado em algumas religiões. O longo processo de evolução da condição humana encontra-se agora sob a pressão de uma tecnologia criada pelos homens, mas que tem uma característica muito diferente de todas as ferramentas e máquinas que o homem inventou e utilizou no passado.
IAs e robôs são desenhados, programados, treinados e comercializados para realizar tarefas específicas. Mas também podem involuntariamente manipular psicologicamente, ferir e eventualmente até matar humanos ao perseguir os objetivos de sua programação. Algumas dessas máquinas virtuais de calcular probabilidades vasculhando imensos bancos de dados para fazer correlações podem até mesmo aprender a fazer isso de maneira mais eficiente, sem se importar com danos colaterais e tragédias (como está ocorrendo em Gaza). O sucesso militar israelense em Gaza com ajuda de tecnologia IA da Palantir já é considerado uma chave para o futuro da guerra pelos americanos.
Não sei se e quando os humanos se tornarão pets de IAs e robôs. De certa maneira isso já está acontecendo e numa velocidade acelerada. Sempre me pergunto como chegamos até aqui e se isso tudo faz sentido. Uma tecnologia perigosa como essa deve continuar seguindo seu desenvolvimento em direção à desumanização de todos em todos os países? Os militares devem poder agarrar essa tecnologia e usa-la sem qualquer restrição?
As perguntas não são poucas. As respostas nem sempre são fáceis ou satisfatórias. Existe uma área da atividade humana em que as IAs e os robôs não conseguirão penetrar, deformar e reorganizar? Como fazer para colocar o desenvolvimento dessa tecnologia num caminho suave em que a sobrevivência da humanidade e a dignidade humana serão preservados se o próprio campo jurídico sofre a pressão oriunda da utilização de ferramentas inteligentes?
Algumas das respostas serão dadas no evento que está ocorrendo na Índia.
“Em discurso na Cúpula sobre o Impacto da inteligência Artificial, em Nova Délhi, na Índia, o presidente Luiz Inácio Lula da Silva defendeu nesta quinta-feira (19) um modelo de governança global da inteligência artificial liderada pela Organização das Nações Unidas (ONU).
‘A Quarta Revolução Industrial avança rapidamente enquanto o multilateralismo recua perigosamente. É nesse contexto que a governança global da inteligência artificial assume um papel estratégico. Toda inovação tecnológica de grande impacto possui caráter dual e nos confronta com questões éticas e políticas.’” Vide Agência Brasil
O que se discute na Índia é o futuro. Todavia, as inovações que já ocorreram e que nós já consideramos passado não podem ser ignoradas. Afinal, elas têm um grande potencial disruptivo para utilizarmos a linguagem de Jeff Bezos.
E assim chegamos a um assunto espinhoso que eu pretendo discutir aqui: as tecnologias de IA associadas à coleta, armazenagem e análise de voz e de imagem, particularmente as amplamente comercializadas pela Amazon (Ring Doorbell e Echo Dot Alexa). Consoante informações não oficiais, Amazon tem olhos e/ou ouvidos em aproximadamente 600 milhões de residências ao redor do mundo (no Brasil ela já vendeu 15 milhões de dispositivos Alexa). É fato que os dados coletados por esses dispositivos e armazenados nos servidores da Amazon podem ser e já são compartilhados com agências policiais.
A primeira coisa que salta aos olhos nesse caso é a privatização e terceirização da privacidade com possíveis repercussões públicas.
“A casa é asilo inviolável do indivíduo, ninguém nela podendo penetrar sem consentimento do morador, salvo em flagrante delito ou desastre, ou para prestar socorro, ou, durante o dia, por determinação judicial.” (art. 5°, XI, da CF/88)
“Ninguém sofrerá intromissões arbitrárias na sua vida privada, na sua família, no seu domicílio ou na sua correspondência, nem ataques à sua honra e reputação. Contra tais intromissões ou ataques toda a pessoa tem direito a proteção da lei.” (art. 12, Declaração Universal dos Direitos Humanos)
“Ninguém será objecto de ingerências arbitrárias ou ilegais na sua vida privada, na sua família, no seu domicílio ou na sua correspondência, nem de ataques ilegais à sua honra e reputação. Toda a pessoa tem direito a protecção da lei contra essas ingerências ou esses ataques.” (art. 17 do Pacto Internacional de Direitos Civis e Políticos)
“1. Toda pessoa tem direito ao respeito de sua honra e ao reconhecimento de sua dignidade.
2. Ninguém pode ser objeto de ingerências arbitrárias ou abusivas em sua vida privada, na de sua família, em seu domicílio ou em sua correspondência, nem de ofensas ilegais à sua honra ou reputação.
3. Toda pessoa tem direito à proteção da lei contra tais ingerências ou tais ofensas.” (art. 11 da Convenção Interamericana de Direitos Humanos)
Essas são regras que garantem a inviolabilidade de domicílio no Brasil. Em outros países existem regras semelhante. Merecendo destaque aqui o art. 8.1 da Convenção Europeia de Direitos do Homem.
“Enquanto direito fundamental positivado nas Constituições, expressa-se pelos arts. 10.1 e 13 da alemã (Lei Fundamental); emendas 3 e 4 da americana; arts. 18 e 19 da argentina; art. 25.1 da boliviana; arts. 5º, incs. X e XI da brasileira; art. 19.5 da chilena; art. 15 da colombiana; art. 23 da costa riquenha; art. 56 da cubana; art. 66.22 da equatoriana; arts. 18.1 e 18.2 da espanhola; art. 14 da italiana; art. 16 da mexicana; arts. 2.7 e 2.9 da peruana; arts. 34.1 e 34.2 da portuguesa; art. 11 da uruguaiana; arts. 59 e 62 da venezuelana5 ; dentre inúmeras outras.” (INVIOLABILIDADE DOMICILIAR: NOVAS PERSPECTIVAS A PARTIR DO DIREITO COMPARADO, Iuri Victor Romero Machado)
Todas essas regras modernas, que são consideradas especialmente valiosas pelas civilizações ocidentais, tem sua origem mais antiga num instituto do Direito Romano:
“Os romanos traçaram uma clara linha entre público e o privado. A política, em sentido formal, ocorria fora da habitação privada, que era considerada, em parte, separada da atividade pública. Os palácios senatoriais podiam ser frequentados por quase qualquer um, e lá eram negociadas muitas questões políticas, mas continham espaços cuidadosamente calibrados, comunais e mais personalizados, para a recepção de clientes e potenciais clientes; e, exceto no caso de crimes extremos, o comportamento dos membros da família dentro das paredes de uma casa era de responsabilidade do paterfamilias, o chefe masculino da casa, e estava fora da competência do direito público. A casa era a unidade básica, chamada de domus, em latim, quando se enfatizava sua localização física, e família, quando se referia às pessoas.” (O Legado de Roma, Chris Wickham, editora Unicamp, Campinas, 2019, p. 120)
A invasão do domus por tecnologias que possibilitam a coleta de informações privadas que serão armazenadas e analisadas pela Amazon e eventualmente utilizadas para fins privados ou públicos representa uma mudança de paradigma importante. À medida que mais e mais pessoas renunciam às garantias expressas das normas constitucionais e internacionais acima transcritas, menor será o valor da inviolabilidade do domicílio.
Essa fragilização tecnologicamente induzida da proteção da privacidade do lar explica, inclusive, o que está ocorrendo nos EUA. O ICE já pode entrar em qualquer domicílio sem precisar de autorização do proprietário ou ordem judicial. Não por acaso, o ICE também licenciou produtos da Amazon.
A comercialização massiva desses equipamentos tem despertado a atenção e a preocupação de juristas e advogados. Os advogados em especial não podem nem pensar em ter um Echo Dot Alexa em seus escritórios, porque isso pode violar a privacidade dos clientes deles e comprometer os casos em que advogam, especialmente se forem contratados para atuar contra a Amazon. Mas eu gostaria de expandir essa questão. Antes disso, porém, reproduzo abaixo um pequeno exercício mental.
Alguém compra o Ring Doorbell e Echo Dot Alexa para instalar na sua casa. Mas depois que os equipamentos forem instalados essa pessoa deliberadamente pinta com tinta preta a lente que recobre a câmera da Ring Doorbell e danifica totalmente o sensor de som do Echo Dot Alexa. Imediatamente ou após um curto período de tempo, a Amazon ficará sabendo que aqueles dois equipamentos comprados e ligados não cumprem a missão que lhes compete: coletar dados do usuário.
Suponhamos agora que algum tempo depois um crime seja cometido ou na varanda de entrada da casa ou dentro dela? Obviamente nenhum dado terá sido coletado pelos dois dispositivos. Os olhos e orelhas da Amazon nessa casa hipotética não poderão ser utilizados pela Polícia (ou pelo ICE, se houver suspeita de imigrantes envolvidos). Isso obviamente levantará suspeitas sobre o consumidor. Mesmo que consiga provar que estava em outro país no dia do crime, a Polícia vai querer saber porque ele pintou com tinta preta a lente que recobre a câmera da Ring Doorbell e danificou totalmente o sensor de som do Echo Dot Alexa.
Inquirido pela Polícia, o dono do domus hipotético poderia simplesmente dizer:
“Danifiquei os dois equipamentos porque quis. Sou um defensor da privacidade e gosto de ser irônico. Eu comprei, paguei e instalei esses equipamentos na minha casa e fiz neles as modificações que considerei adequadas e compatíveis com minha ideologia. Algum problema?”
Juridicamente não existe nenhum problema aqui. A casa é o santuário de seu dono. A liberdade de consciência política e ideológica dos cidadãos também é amplamente garantida: ninguém pode ser punido por acreditar no valor de sua privacidade e fazer algo para preservá-la em sua casa. O direito de propriedade assegura ao consumidor fazer o que quiser com os equipamentos que ele comprou, inclusive jogá-los no lixo, mantê-los desligados ou mesmo danificá-los.
Todavia, é evidente que esses princípios jurídicos tradicionais constitucionalmente protegidos são totalmente incompatíveis com a tecnologia da Amazon e com os usos que podem ser feitos dela pelas autoridades policiais. Então, um incidente como o mencionado certamente desencadearia algum tipo de reação pública e a legislação poderia ser debatida e modificada.
Porque não criminalizar a conduta de alguém que impediu a Polícia de investigar e descobrir o autor de um crime com os dados que seriam gerados pelos seu Ring Doorbell e Echo Dot Alexa? O comportamento daquela pessoa que danificou os equipamentos antes de instalá-los impedindo a investigação de um crime pode ser considerado um atentado contra a dignidade da Justiça?
Apesar de meramente especulativa, essa é uma discussão importante. Quando dois princípios jurídicos (direitos e garantias individuais x utilidade processual dos dados coletados por dispositivos como Ring Doorbell e Echo Dot Alexa) entram em rota de colisão e não conseguem mais coexistir o resultado quase sempre acaba produzindo debates parlamentares e ocasionando modificações legislativas.
Num país como os EUA, cuja política é dominada pelas Big Techs, é muito provável que o princípio da utilidade processual predomine sobre os direitos e garantias individuais. Como acima mencionado, isso já está ocorrendo no caso do ICE. Mas no Brasil o resultado provavelmente seria diferente, porque durante a Ditadura Militar nós aprendemos a valorizar as liberdades democráticas. Além disso, nosso país já dispõe de uma legislação que restringe bastante a atuação das gigantes de tecnologia. Entre esses dois extremos é possível imaginar algum tipo de acomodação de maneira a preservar tanto os direitos e garantias individuais quanto a utilidade processual dos dados coletados por dispositivos como Ring Doorbell e Echo Dot Alexa.
O debate público em torno de uma questão como essa seria inevitavelmente deslocada pela direita da esfera jurídica para a moral. Isso facilitaria muito o trabalho de convencer a população a abdicar mais e mais de seus direitos e garantias individuais. Segundo Jürgen Habermas, Moral e Direito pertencem a esferas diferentes:
“Normas morais regulam relações e conflitos interpessoais entre pessoas naturais que se reconhecem, ao mesmo tempo, como membros de uma comunidade concreta e como indivíduos insubstituíveis. Elas são dirigidas a pessoas individuadas por sua história de vida. As normas jurídicas, diferentemente, regulam relações e conflitos interpessoais entre atores que se reconhecem como membros de uma comunidade abstrata, gerada pelas próprias normas jurídicas. Elas também se dirigem a sujeitos individuais, cuja individuação, todavia, não se dá mais por uma identidade pessoal construída nos termos de sua história de vida, mas por sua capacidade de assumir a posição de membros sociais típicos de uma comunidade constituída juridicamente. Da perspectiva dos destinatários, a relação jurídica faz abstração da capacidade de uma pessoa vincular sua vontade a convicções normativas, exigindo-se tão somente a capacidade de tomar decisões racionais com respeito a fins, isto é, a liberdade de arbítrio. Dessa redução da vontade livre de uma pessoa com responsabilidade moral (e ética) ao arbítrio de um sujeito jurídico determinado por suas preferências particulares seguem os demais aspectos da legalidade. Apenas matérias que abrangem relações externas podem ser reguladas juridicamente. Pois o direito impõe o comportamento conforme a regras.” (Facticidade e validade, Jürgen Habermas, editora Unesp, São Paulo, 2020, p. 161)
No caso que nos interessa aqui, é evidente que o deslocamento da questão para esfera moral poderia interferir negativamente na produção do Direito. Regras jurídicas não raro são pioradas em razões do predomínio político do moralismo e do populismo penal, especialmente quando essas mudanças ampliarão os privilégios legais da Polícia e a fatia de mercado e o poder de mercado de uma empresa como a Amazon (empresa acostumada a fazer lobby parlamentar para impor sua agenda).
A invasão da esfera política e a sujeição do Direito aos pressupostos tecnológicos incorporados em produtos como o Ring Doorbell e no Echo Dot Alexa tem o potencial de deformar a própria moral. Afinal, isso só poderia ocorrer com uma redução do espaço reservado à subjetividade humana que não pode e não deve ser objeto de regras de comportamento imperativas, exceto nos casos mais graves.
Uma legislação que contenha a ameaça “Mantenha sua Ring Doorbell e/ou seu Echo Dot Alexa ligado e capturando dados que podem ser úteis à Polícia, ou então…” pode parecer útil e até moralmente justificável. Mas isso significaria o colapso da civilização tal como ela lentamente evoluiu para reconhecer e preservar uma esfera de subjetividade e privacidade que não deve ser perturbada nem mesmo pelo Estado.
Isso também afetaria substancialmente o princípio democrático que deve orientar a produção da Lei. Mas para entender bem essa questão é necessário voltar à obra de Jürgen Habermas:
“…A liberdade comunicativa apenas existe entre atores que procuram se entender acerca de algo segundo um enfoque performativo, esperando uns dos outros tomadas de posição perante pretensões de validade reciprocamente levantadas. Essa dependência da liberdade comunicativa com respeito a relações intersubjetivas explica por que ela sempre se encontra vinculada a obrigações ilocucionárias. Alguém só detém a possibilidade de tomar posição, com um ‘sim’ ou com um ‘não’, frente a pretensões de validade suscetíveis à crítica se o outro estiver disposto a fundamentar, caso necessário, a pretensão levantada com seu ato de fala. E, na medida em que os sujeitos agem comunicativamente admitem eu a coordenação de seus planos de ação passa a depender de um consentimento, apoiado nas tomadas de posição recíprocas e no reconhecimento intersubjetivo de pretensões de validade, contam apenas os argumentos que podem ser aceitos em comum pelos participantes.” (Facticidade e validade, Jürgen Habermas, editora Unesp, São Paulo, 2020, p. 169)
Um pouco adiante o filósofo alemão afirma que:
“… a ideia de autolegislação dos cidadãos não pode se reduzida à autolegislação moral de uma pessoa individual. A autonomia tem de ser concebida em termos mais gerais e neutros. Por isso, introduzi um princípio do discurso que é, em primeira medida, indiferente em relação á moral e ao direito. O princípio do discurso deve assumir a figura de um princípio da democracia apenas pela via de sua institucionalização segundo a forma jurídica, que por sua vez confere força legitimadora ao processo de criação normativa. A ideia decisiva é que o princípio da democracia se deve ao entrecruzamento do princípio do discurso com a forma jurídica.” (Facticidade e validade, Jürgen Habermas, editora Unesp, São Paulo, 2020, p. 171)
O princípio democrático se apoia na livre comunicação entre cidadãos que podem eventualmente se retirar da conversa quando chegam à conclusão de que isso se tornou necessário. Ninguém pode ser forçado a adotar ou abandonar uma determinada posição. Os argumentos que não forem aceitos em comum pelos participantes do debate devem ser dele removidos, caso isso não ocorra o próprio debate restará interditado. A conversa pode ser mediada pela tecnologia, mas não deve por ela ser condicionada.
Todavia, tudo isso acabaria sofrendo um impacto brutal se ao conversarem sobre temas públicos relevantes ou pessoalmente sensíveis as pessoas não puderem, por exemplo, remover o Echo Dot Alexa do local ou desliga-lo. Nos EUA, a Amazon já invadiu o domus e enfraqueceu a percepção pública do valor civilizatório da inviolabilidade do domicílio para ganhar dinheiro permitindo à Polícia e ao ICE acessar e utilizar informações privadas coletadas pelos seus dispositivos.
Caso a espionagem privatizada autorizada pelos consumidores se tornar compulsória, a Amazon não apenas adquirirá o privilégio de gravar tudo aquilo que as pessoas dizem. Na prática, aquela empresa gigantesca com olhos e ouvidos eletrônicos em centenas de milhões de lares em diversos países inibirá as pessoas de dizerem algo que poderia ser dito desde que as informações da conversa relevante não se tornassem públicas. A autocensura é uma característica dos regimes tirânicos, que tendem a se perpetuar porque as pessoas aceitam viver uma mentira compartilhada porque temem represálias pessoais caso comecem a fazer críticas e sugerir mudanças.
As inovações tecnológicas podem ser desenhadas e colocadas a serviço dos cidadãos e do aperfeiçoamento da democracia, mas dependendo da arquitetura legal as pessoas é que ficarão a serviço de uma tecnologia e do proprietário dela. Ao pensar sobre uma hipótese como a que foi levantada, devemos sempre tentar aprofundar a discussão e antecipar consequências imprevisíveis de mudanças legislativas que podem até mesmo ser desejadas pela maioria da população.
Desde que a peça Antigone, de Sófocles, foi encenada em 441 aC na cidade de Atenas sabe-se que a Lei pode se transformar numa armadilha trágica. Uma Lei é capaz de prender inclusive e principalmente o governante que a colocou em vigor no momento em que o cumprimento dela foi imposto à força.
Tecnologias como as incorporadas nos produtos da Amazon não devem produzir alterações legislativas que restrinjam os direitos e garantias individuais. Mesmo que elas sejam populares entre os policiais e entre os ambiciosos líderes da direita e da extrema direita, existem valores civilizatórios mais importantes a ser preservados pelo Estado.
Os populistas penais devem ser confrontados de maneira permanente. Dispositivos invasivos podem ser processualmente úteis, mas não devem ser obrigatórios ou obrigatoriamente mantidos ligados por seus donos. Investigações criminais não precisam ser necessariamente feitas exclusivamente com os dados gerados pela Ring Doorbell e pelo Echo Dot Alexa.
Se Polícia deixar de identificar o criminoso de uma maneira, ela tem o poder/dever de recorrer aos métodos tradicionais de investigação autorizados pela legislação. É melhor deixar um caso sem solução do que transformar a vida de todos os cidadãos num inferno de vigilância totalitária comandado por uma empresa privada que obtém lucro extraindo dados de centenas de milhões de usuários de seus produtos.
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: https://www.catarse.me/JORNALGGN “
Deixe um comentário