produtos
Especialista aponta necessidade de entender como funciona mecanismo, e seu risco à democracia
Jornal GGN – Na história da humanidade, cada era foi submetida a um princípio de organização. Na era atual, esse princípio está sendo baseado nos algoritmos computadorizados, pondera o professor Paulo César Castro da Escola de Comunicação da Universidade Federal do Rio de Janeiro (ECO/UFRJ).
Em entrevista ao IHU, o docente se diz preocupado com a liberdade de exposição de pensamentos do indivíduo comum e, mais ainda, do risco que corre ao questionar alguma forma de vigilância posta em prática por governos e empresas, haja vista os casos Julian Assange e Edward Snowden, o primeiro refugiado na embaixada do Equador em Londres desde 2012, e o segundo na Rússia – os dois por denunciar mecanismos de controle e vigilância dos serviços de segurança dos Estados Unidos.
“Os algoritmos têm sido, para mim, umas das expressões máximas da lógica que estabelece hierarquias, recomenda o melhor e o pior, define valores e gostos, aponta caminhos e soluções e, por fim, redesenha muitos de nossos valores e vínculos sociais.”, avalia César Castro. Acompanhe a seguir a entrevista na íntegra.
O professor Paulo César Castro não quer se assumir pessimista, nem apocalíptico, conforme denominação de Umberto Eco, mas reconhece que as ações dos serviços de segurança dos Estados Unidos já denunciadas em episódios como os que envolvem Julian Assange (refugiado na embaixada do Equador em Londres desde 2012) e Edward Snowden (refugiado na Rússia) podem ser indícios para preocupações. “Parece que qualquer um de nós que denunciar o caráter totalitário dos governos através dessa forma moderna de vigilância vai pagar um preço bem alto”, teme.
Em entrevista por e-mail para a IHU On-Line, Castro afirma que, no século 20, com os computadores, “os algoritmos assumem uma especial proeminência, ainda que, muitas vezes, não nos demos conta deles”. Esse fenômeno se acentua nos dias de hoje por conta da internet. “Se cada era está submetida a algum princípio de organização, mais recentemente este princípio está essencialmente baseado nos algoritmos computadorizados.”
Os objetivos podem ser diferentes, mas Castro lembra que governos e corporações privadas “estão buscando saber cada vez mais sobre quem interage com as tecnologias digitais”. Por isso, defende que qualquer pessoa deve aprender como navegar em sites ou como usar quaisquer equipamentos digitais, assim como saber sobre o monitoramento que ela pode estar sendo submetida. “Ao mesmo tempo que deveríamos poder dizer se queremos ou não ser monitorados, também temos o direito de saber o que será feito efetivamente com os dados recolhidos a nosso respeito.”
Trata-se de um caminho sem volta. “Se o uso das tecnologias digitais já está inexoravelmente associado ao nosso dia a dia, inclusive como fator de inclusão social, não temos outra opção a não ser debater publicamente, nas redes sociais, nas ruas ou nos espaços formais da atuação política, o papel dos algoritmos”, defende.
Os algoritmos são elemento central neste sistema de vigilância das pessoas. “A lista seria inesgotável, pois não há quase nada na nossa interação com as tecnologias digitais, principalmente as baseadas na internet, que não seja acompanhada por algum, às vezes, insidioso algoritmo”, explica. “Os algoritmos têm sido, para mim, umas das expressões máximas da lógica que estabelece hierarquias, recomenda o melhor e o pior, define valores e gostos, aponta caminhos e soluções e, por fim, redesenha muitos de nossos valores e vínculos sociais.” E como eles são invisíveis, há pouco entendimento e crítica sobre eles.
Castro afirma que é preciso debater sobre os algoritmos e suas lógicas para se ter sobre eles uma olhar crítico, o que não significa demonizar a internet. “Representa a realização do saudável exercício da democracia em um espaço que vem se configurando como tão importante e vital para nossa existência.”
Paulo César Castro é professor associado da Escola de Comunicação (ECO) da Universidade Federal do Rio de Janeiro (UFRJ), onde coordenou o curso de Produção Editorial e chefiou o Departamento de Expressão e Linguagens (DEL). Na ECO/UFRJ, obteve seu mestrado e doutorado, ambos em Comunicação e Cultura. A graduação, em Jornalismo, foi realizada na Universidade Federal do Ceará (UFC).
Atualmente coordena o Programa de Educação Tutorial (PET) da ECO e também o Projeto de Extensão “Editor em Ação”, a partir do qual é realizado anualmente o evento de mesmo nome do curso de Produção Editorial. Compõe a diretoria do Centro Internacional de Semiótica e Comunicação (CISECO).
É um dos responsáveis pela organização dos três últimos livros lançados pelo CISECO, em parceria com a Edufal, a partir das conferências de pesquisadores brasileiros e estrangeiros apresentadas no evento anual Pentálogo. É membro dos grupos de pesquisa “Midiatização das Práticas Sociais” (Unisinos), “Políticas e Economia da Informação e da Comunicação – PEIC” (ECO/UFRJ) e “Laboratório de Estudos em Comunicação Comunitária – LECC” (ECO/UFRJ). Dedica-se a pesquisas nas áreas de semiótica, comunicação, midiatização, internet, redes sociais, jornalismo e produção editorial.
A entrevista foi publicada revista IHU On-Line, N°. 495, de 16-10-2016.
Confira a entrevista.
IHU On-Line – O que são algoritmos e de que maneira eles estão presentes na vida das pessoas?
Paulo César Castro – Respondendo de modo bem simples, algoritmos são séries de instruções para resolver um problema. E este problema pode ser também uma atividade bem simples, como ensinar a um amigo a chegar à nossa casa a partir do aeroporto. Se ele, por exemplo, for fazer o trajeto através de um “algoritmo” de transporte público, precisaremos dar as instruções sobre qual ônibus deverá apanhar no aeroporto, onde descerá para pegar o metrô, em qual estação desembarcará e depois quais ruas e quantos quarteirões precisará andar até a nossa casa. Sendo assim, a lógica dos algoritmos está presente em nossas vidas nas atividades mais banais do nosso dia a dia. Mas é claro que é no século 20, com os computadores, e mais ainda com a internet nos dias de hoje, que os algoritmos assumem uma especial proeminência, ainda que, muitas vezes, não nos demos conta deles.
Os problemas passaram a ser resolvidos em escalas muito maiores, e em tempos infinitamente muito mais curtos, principalmente a partir da capacidade das máquinas de executarem repetidamente operações de menor ou maior complexidade. Como as tecnologias digitais assumiram uma dimensão fundamental na nossa existência contemporânea, concernente ao conceito de bios midiático de Muniz Sodré [1], e em grande parte suas lógicas têm sido regidas pelos algoritmos, eles estão presentes nas nossas vidas de uma forma mais espraiada do que a maioria das pessoas sequer imagina.
Os algoritmos estão por trás de uma, aparentemente banal, pesquisa no Google, dos anúncios publicitários que estão sempre a nos espreitar em qualquer página que visitamos, da forma como nossa time line no Facebook é organizada, da lista de filmes que o Netflix nos exibe assim que ligamos a televisão. Se podem ter sua aplicação tão costumeiramente associada à escolha das ações nas quais investir, podem também ser os responsáveis pela “lógica” das ações policiais em uma cidade, pelos métodos de triagem de “suspeitos” na fila de um aeroporto, pela escolha de alguém, numa lista de candidatos, para ocupar uma vaga de emprego, pelas pessoas que são indicadas umas às outras num site de relacionamentos, pelos valores dos seguros, baseados na forma como os motoristas dirigem. A lista seria inesgotável, pois não há quase nada na nossa interação com as tecnologias digitais, principalmente as baseadas na internet, que não seja acompanhada por algum, às vezes, insidioso algoritmo.
IHU On-Line – O senhor tem usado a expressão era do algoritmo. Conceitue-a, por favor.
Paulo César Castro – O uso massivo da internet em escala global tem instituído – aproveitando ainda o conceito de bios midiático – outra ambiência, e é através dela que temos, cada vez mais, redefinido nossas formas de vínculo social. Nesse novo modo de sociabilidade, que Muniz Sodré elabora a partir da visão tríade de Aristóteles [2] sobre os gêneros de existência na polis (o do conhecimento, o dos prazeres e o da sociabilidade política), os algoritmos têm sido, para mim, umas das expressões máximas da lógica que estabelece hierarquias, recomenda o melhor e o pior, define valores e gostos, aponta caminhos e soluções e, por fim, redesenha muitos de nossos valores e vínculos sociais. Se as mídias tradicionais, ainda que não sejam as únicas, ainda desempenham um papel significativo como classificadores dos sentidos, baseadas nos fundamentos “algorítmicos” dos gatekeepers [3], dos editores, dos curadores, esse trabalho passa cada vez mais a ser dividido com o nexo algorítmico das máquinas. Se cada era está submetida a algum princípio de organização, mais recentemente este princípio está essencialmente baseado nos algoritmos computadorizados, como aponta o escritor das áreas de tecnologia e cultura Navneet Alang.
Ele, aliás, defende que o século 19 teve o romance como seu princípio organizador, enquanto o século 20 teve a televisão. Como nos últimos tempos a mutação tecnológica é muito mais rápida, Alang considera que o site foi o princípio por trás da web 1.0, e, pouco tempo depois, com a web 2.0, este mudou para os aplicativos. Os dispositivos que ele indica para cada era podem até ser questionáveis, mas pelo menos todos têm em comum o pertencimento ao campo das mídias.
Evidentemente que não assumo como minha a formulação da expressão “era dos algoritmos”, mas, se a uso, é porque acredito na importância que eles crescentemente têm tido para a sistematização de visões de mundo (reiterando-as ou propondo outras). Mas o mais problemático é que, por serem elaborados com técnicas computacionais/matemáticas, levam à crença de que estão isentos de qualquer subjetividade. E por causa de sua invisibilidade – pois, no geral, agem silenciosamente entre uma interação e outra do usuário com as tecnologias digitais, sem serem devidamente anunciados -, muito pouco ainda têm sido submetidos a escrutínio, avaliação ou crítica.
Minha impressão é que as escabrosas revelações feitas por Julian Assange [4], do Wikileaks, e por Edward Snowden [5] ainda não foram suficientes para despertar devidamente na sociedade uma ampla discussão sobre os meios que vêm sendo usados para monitorar todas as nossas ações no ambiente da internet.
IHU On-Line – Do que se trata a lógica midiatizante dos algoritmos, tema já explorado pelo senhor em suas reflexões?
Paulo César Castro – O algoritmo funciona sobre o seguinte princípio básico: input > processamento > output. Após a entrada de algumas informações básicas em um dispositivo, elas são processadas segundo um algoritmo que, ao final, apresenta um resultado como saída. Uma operação matemática com uma calculadora pode representar um exemplo bem simples de aplicação do algoritmo. Com a internet, os inputs têm sido dados pelos próprios usuários a partir de suas interações com diferentes dispositivos conectados à internet, seja de modo deliberado ou, muitas vezes, sem que sequer tenha consciência desse ato. Os registros dessas ações são então armazenados em imensos reservatórios (chamados de Big Data) e processados segundo as lógicas algorítmicas internas a cada dispositivo ou tecnologia, pertencentes a governos, empresas, instituições não governamentais e até a pessoas físicas.
O output, em cada situação, depende dessas entradas e dos modos como foram programados os seus processamentos. Sendo assim, a experiência do usuário com as tecnologias, de acordo com o que lhe é recomendado como ordem, valor, classificação, sistematização etc., e até mesmo pelo que deixa de ser recomendado, é baseado no processo midiatizante que têm os algoritmos como lógica. Não se trata aqui de considerar esse usuário como um mero receptor passivo e indefeso diante dos outputs que lhe são dirigidos, pois ele pode reagir sob as mais diferentes estratégias aos encantos dos algoritmos e de suas instituições proprietárias, mas isso não significa que, diante da importância dos discursos que vêm sendo formulados a partir dessa nova ambiência, o debate não deva ser feito. Aliás, já está mais do que na hora.
IHU On-Line – O limite entre esfera pública e esfera privada está cada vez mais esmaecido?
Continue lendo…
Faça login para comentar Você pode fazer o Jornal GGN ser cada vez melhor.
Apoie e faça parte desta caminhada para que ele se torne um veículo cada vez mais respeitado e forte.
Seja um apoiador
Teoria interessante, mas um pouco ingênua …
A revolução em andamento é muito mais profunda do que sugere o pesquisador entrevistado.
O que é a 4ª revolução industrial – e como ela deve afetar nossas vidas
No final do século 17 foi a máquina a vapor. Desta vez, serão os robôs integrados em sistemas ciberfísicos os responsáveis por uma transformação radical. E os economistas têm um nome para isso: a quarta revolução industrial, marcada pela convergência de tecnologias digitais, físicas e biológicas.
Eles antecipam que a revolução mudará o mundo como o conhecemos. Soa muito radical? É que, se cumpridas as previsões, assim será. E já está acontecendo, dizem, em larga escala e a toda velocidade.
“Estamos a bordo de uma revolução tecnológica que transformará fundamentalmente a forma como vivemos, trabalhamos e nos relacionamos. Em sua escala, alcance e complexidade, a transformação será diferente de qualquer coisa que o ser humano tenha experimentado antes”, diz Klaus Schwab, autor do livro A Quarta Revolução Industrial, publicado este ano.
As vantagens e desvantagens dos métodos de preparo de café
Image copyrightGETTY IMAGESImage captionA industrialização mudará de uma maneira radical e, com ela, o universo do emprego
Os “novos poderes” da transformação virão da engenharia genética e das neurotecnologias, duas áreas que parecem misteriosas e distantes para o cidadão comum.
No entanto, as repercussões impactarão em como somos e como nos relacionamos até nos lugares mais distantes do planeta: a revolução afetará o mercado de trabalho, o futuro do trabalho e a desigualdade de renda. Suas consequências impactarão a segurança geopolítica e o que é considerado ético.
Por que às vezes temos a sensação de cair quando estamos adormecendo?
Então de que se trata essa mudança e por que há quem acredite que se trata de uma revolução?
O importante, destacam os teóricos da ideia, é que não se trata de um desdobramento, mas do encontro desses desdobramentos. Nesse sentido, representa uma mudança de paradigma e não mais uma etapa do desenvolvimento tecnológico.
“A quarta revolução industrial não é definida por um conjunto de tecnologias emergentes em si mesmas, mas a transição em direção a novos sistemas que foram construídos sobre a infraestrutura da revolução digital (anterior)”, diz Schwab, diretor executivo do Fórum Econômico Mundial e um dos principais entusiastas da “revolução”.
“Há três razões pelas quais as transformações atuais não representam uma extensão da terceira revolução industrial, mas a chegada de uma diferente: a velocidade, o alcance e o impacto nos sistemas. A velocidade dos avanços atuais não tem precedentes na história e está interferindo quase todas as indústrias de todos os países”, diz o Fórum.
Também chamada de 4.0, a revolução acontece após três processos históricos transformadores. A primeira marcou o ritmo da produção manual à mecanizada, entre 1760 e 1830. A segunda, por volta de 1850, trouxe a eletricidade e permitiu a manufatura em massa. E a terceira aconteceu em meados do século 20, com a chegada da eletrônica, da tecnologia da informação e das telecomunicações.
Agora, a quarta mudança traz consigo uma tendência à automatização total das fábricas – seu nome vem, na verdade, de um projeto de estratégia de alta tecnologia do governo da Alemanha, trabalhado desde 2013 para levar sua produção a uma total independência da obra humana.
A automatização acontece através de sistemas ciberfísicos, que foram possíveis graças à internet das coisas e à computação na nuvem.
Os sistemas ciberfísicos, que combinam máquinas com processos digitais, são capazes de tomar decisões descentralizadas e de cooperar – entre eles e com humanos – mediante a internet das coisas.
O que vem por aí, dizem os teóricos, é uma “fábrica inteligente”. Verdadeiramente inteligente. O princípio básico é que as empresas poderão criar redes inteligentes que poderão controlar a si mesmas.
Os números econômicos são impactantes: segundo calculou a consultora Accenture em 2015, uma versão em escala industrial dessa revolução poderia agregar 14,2 bilhões de dólares à economia mundial nos próximos 15 anos.
No Fórum Mundial de Davos, em janeiro deste ano, houve uma antecipação do que os acadêmicos mais entusiastas têm na cabeça quando falam de Revolução 4.0: nanotecnologias, neurotecnologias, robôs, inteligência artificial, biotecnologia, sistemas de armazenamento de energia, drones e impressoras 3D.
Mas esses também serão os causadores da parte mais controversa da quarta revolução: ela pode acabar com cinco milhões de vagas de trabalho nos 15 países mais industrializados do mundo.
O que é a 4ª revolução industrial – e como ela deve afetar nossas vidas
Revolução para quem?
Os países mais desenvolvidos adotarão as mudanças com mais rapidez, mas os especialistas destacam que as economias emergentes são as que mais podem se beneficiar.
A quarta revolução tem o potencial de elevar os níveis globais de rendimento e melhorar a qualidade de vida de populações inteiras, diz Schwab. São as mesmas populações que se beneficiaram com a chegada do mundo digital – e a possibilidade de fazer pagamentos, escutar e pedir um táxi a partir de um celular antigo e barato.
Obviamente, o processo de transformação só beneficiará quem for capaz de inovar e se adaptar.
“O futuro do emprego será feito por vagas que não existem, em indústrias que usam tecnologias novas, em condições planetárias que nenhum ser humano já experimentou”, diz David Ritter, CEO do Greenpeace Austrália/Pacífico em uma coluna sobre a quarta revolução industrial para o jornal britânico The Guardian.
E os empresários parecem entusiasmados – mais que intimidados – pela magnitude do desafio, uma pesquisa aponta que 70% têm expectativas positivas sobre a quarta revolução industrial.
Ao menos esse é o resultado do último Barômetro Global de Inovação, uma pesquisa que compila opiniões de mais de 4.000 líderes e pessoas interessadas nas transformações em 23 países.
Ainda assim, a distribuição regional é desigual e os mercados emergentes da Ásia são os que estão adotando as transformações de uma forma mais intensa que os de economias mais desenvolvidas.
“Ser disruptivo é o padrão modelo para executivos e cidadãos, mas continua sendo um objetivo complicado de se colocar em prática”, reconhece o estudo.
Os perigos do cibermodelo
Nem todos veem o futuro com otimismo: as pesquisas refletem as preocupações de empresários com o “darwinismo tecnológico”, onde aqueles que não se adaptam não conseguirão sobreviver.
E se isso acontece a toda velocidade, como dizem os entusiastas da quarta revolução, o efeito pode ser mais devastador que aquele gerado pela terceira revolução.
“No jogo do desenvolvimento tecnológico, sempre há perdedores. E uma das formas de desigualdade que mais me preocupa é a dos valores. Há um risco real de que a elite tecnocrática veja todos as mudanças que vêm como uma justificativa de seus valores”, disse à BBC Elizabeth Garbee, pesquisadora da Escola para o Futuro da Inovação na Sociedade da Universidade Estatal do Arizona (ASU).
“Esse tipo de ideologia limita muito as perspectivas que são trazidas à mesa na hora de tomar decisões (políticas), o que por sua vez aumenta a desigualdade que vemos no mundo hoje”, diz.
“Considerando que manter o status quo não é uma opção, precisamos de um debate fundamental sobre a forma e os objetivos desta nova economia”, diz Ritter, que considera que deve haver um “debate democrático” em relação às mudanças tecnológicas.
Por um lado, há quem desconfie de que se trata de uma quarta revolução: é certo que as mudanças são muitas e profundas, mas o conceito foi usado pela primeira vez em 1940 em um documento de uma revista de Harvard intitulado A Última Oportunidade dos Estados Unidos, que trazia um futuro sombrio para avanço da tecnologia e seu uso representa uma “preguiça intelectual”, diz Garbee.
Outros, mais pragmáticos, alertam que a quarta revolução só aumentará a desigualdade na distribuição de renda e trará consigo todo tipo de dilemas de segurança geopolítica.
O mesmo Fórum Econômico Mundial reconhece que “os benefícios da abertura estão em risco” por causa de medidas protecionistas, especialmente barreiras não tarifárias do comércio mundial que foram exacerbadas desde a crise financeira de 2007: um desafio que a quarta revolução deverá enfrentar se quiser entregar o que promete.
“O entusiasmo não é infundado, essas tecnologias representam avanços assombrosos. Mas o entusiasmo não é desculpa para a ingenuidade e a história está infestada de exemplos de como a tecnologia passa por cima dos marcos sociais, éticos e políticos que precisamos para fazer bom uso dela”, diz Garbee.
Visões complementares
Apesar de complementares, considero o post com a entrevista do Professor Cesar Castro bem mais profunda que o deste artigo da BBC.
O Professor Cesar Castro alerta para um problema atual e do qual dificilmente conseguiremos mais escapar. Tal como ficar enredado em uma teia de aranha gosmenta ou cair em um grande “mar” de areia movediça.
Não considero, em absoluto, esta entrevista como simplista ou ingênua.
Ao contrário, já faz muito tempo que todas essas questões deveriam estar sendo debatidas, em profundidade, por todos os parlamentos do mundo; principalmente os daqueles países que supostamente prezam e dizem defender a privacidade dos seus cidadãos.
Observo, para quem não tenha se dado conta, que o post continua em:
http://www.ihu.unisinos.br/561454-algoritmos-devem-ser-debatidos-entrevista-especial-com-paulo-cesar-castro
Quem sou eu para contrariar a importância dos algoritmos
Muito pelo contrário…
Talvez eu tenha me expressado mal. Quando disse que a teoria que o prezado professor Cesar Castro discute aqui é ingênua, quis dizer que é apenas parte do todo. O que vem por aí, a chamada ”4a. revolução …” ou seja lá o nome que quiserem é muito mais abrangente e, por isso, mais assustador ainda.
Claro que uma reportagem da BBC não é e nem tem o objetivo de ser profunda, mas o tema em si, é – e muito. Pode fazer uma busca pelo assunto que vai encontrar muita coisa. Tanto em nível acadêmico quanto no âmbito político/social.
Enfim, não se tratam de visões complementares. A aqui denominada “era do algoritmo” é apenas parte da outra, chamada de “4a. revolução industrial”.
Sinceramente, por mim, podemos voltar à Idade da Pedra. Viverei muito feliz em cima de uma árvore, tomando meu solzinho, coletando frutas no pé, nadando e pescando nos rios e mares, dando e recebendo amor.
Se deus quiser…
[video:https://www.youtube.com/watch?v=9KJE1rVCC7Y%5D
Ingenuo?! Pra mim foi so
Ingenuo?! Pra mim foi so triste mesmo.
Eu tou pensado que “pensar” eh tecnologia, que “algoritmos” acontecem igual shit, e que se voce nao tem tecnologia de pensamento voce ta fudido, e o item me vem com o centro do problema: “algoritmos”.
So que eu nao tou sendo gigolado por “algoritmos” 24 horas por dia, ao vivo, e em real time.
Eh por bichas loucas complexadas mesmo.
Olá equipe, falta dar link
Olá equipe, falta dar link para o restante do texto
http://www.ihu.unisinos.br/561454-algoritmos-devem-ser-debatidos-entrevista-especial-com-paulo-cesar-castro
E por falar em equipe, nós que acompanhamos o GGN há anos, precisamos ver como ajudar na manutenção da comunidade, uma vez que o governo usurpador tem cerceado e pelo visto ceceará cada vez mais a manifestação independente
Reparem
Quando a gente faz por exemplo, uma pesquisa de preço pela internet de um produto eletrônico ou eletrodoméstico, no instatnet seguinte todas as páginas que a gente está habituado a visitar são inundados com propagandas dos produtos que você pesquisou.
Isso já reparei que acontece comigo aos montes.
Acho que é isso que o professor quis dizer.
E quanto ao que penso políticamente?
É complicado né?
Como se defender?
Se fosse só isso…
Se fosse apenas retornarmos à idade da pedra, também não ficaria tão preocupado.
Uma coisa é uma nova organização produtiva/industrial. Outra, bem diferente, é o controle totalitário das mentes. Se este é obtido por algoritmos ou por outros métodos importa menos. Ocorre que os algoritmos, do jeito que a nossa sociedade digital evoluiu, são extremamente eficazes, inodoros, insípidos, incolores e, acima de tudo, sem quaisquer possíveis antídotos.
Uma organização produtiva/industrial, ainda que mais opressiva, poderá sempre ter alguma forma de resistência pelos antigos métodos da organização sindical. Acho.
Houston, temos um problema!
Era para ter saído como resposta à Vânia 17:23.
Saiu no lugar errado.
Além de tudo os algorítmos são estúpidos.
E não só os algorítmos.
E não só os algorítmos.
.
This comment has been deleted.
?
?
ops…
Me desculpe pelo comentário anterior, já apagado!
Mas você realmente não entendeu meu comentário lá embaixo, muito menos o que vem a ser a chamada quarta revolução industrial. é muito mais que “uma nova organização produtiva/industrial”.
Link interessante
https://www.youtube.com/watch?v=kdMEdGbmZAE
tempo ao tempo…
e pensar que tudo foi bolado, inicialmente, apenas para selecionar palavras em grandes textos
hoje, pessoas, sentimentos, desejos, preferências, sonhos, visões e segredos
Que sujeito enrolado,
Que sujeito enrolado, esperava entender pelo menos superficialmente o que seria algorítimo . . . . mas passou longe . . . .
Consulte o Google
mat sequência finita de regras, raciocínios ou operações que, aplicada a um número finito de dados, permite solucionar classes semelhantes de problemas. inf conjunto das regras e procedimentos lógicos perfeitamente definidos que levam à solução de um problema em um número finito de etapas.
*
A silenciosa ditadura do algoritmo
POR PEPE ESCOBAR– ON 18/10/2016CATEGORIAS: DESTAQUES, MUNDO, SOCIEDADE
Em sociedades digitalizadas, decisões cruciais sobre a vida são tomadas por máquinas e códigos. Por que isso multiplica a desigualdade e ameaça o direito à informação e a democracia
Por Pepe Escobar | Tradução: Inês Castilho
Vivemos todos na Era do Algoritmo. Aqui está uma história que não apenas resume a era, mas mostra como a obsessão pelo algoritmo pode dar terrivelmente errado.
Tudo começou no início de setembro, quando o Facebook censurou a foto ícone de Kim Phuch, a “menina do napalm”, símbolo reconhecido em todo o mundo da Guerra do Vietnã. A foto figurava em post no Facebook do escritor norueguês Tom Egeland, que pretendia iniciar um debate sobre “sete fotos que mudaram a história da guerra”.
Não só o seu post foi apagado, como Egeland foi suspenso do Facebook. O Aftenposten, principal jornal diário da Noruega, propriedade do grupo de mídia escandinavo Schibsted, transmitiu devidamente a notícia, lado a lado com a foto. O Facebook pediu então que o jornal apagasse a foto – ou a tornasse irreconhecível em sua edição online. Antes mesmo de o jornal responder, artigo e foto já haviam sido censurados na página do Aftenposten do Facebook.
A primeira ministra norueguesa, Erna Solberg, protestou contra tudo isso em sua página do Facebook. Também foi censurada. OAftenposten então sapecou a história inteira em sua primeira página, ao lado de carta aberta a Mark Zuckerberg, assinada pelo diretor do jornal, Espen Egil Hansen, acusando o Facebook de abuso do poder.
Passaram-se 24 longas horas até que o colosso de Palo Alto recuasse e “desbloqueasse” a publicação.
Uma opinião embrulhada em código
O Facebook empenhou-se ao máximo para controlar os danos depois do episódio. Isso não alterou o fato de que o inbroglio “menina da napalm” é um clássico drama do algoritmo, como ocorre na aplicação de inteligência artificial para avaliar conteúdo.
Como outros gigantes da Economia de Dados, o Facebook deslocaliza a filtragem de dados para um exército de moderadores em empresas localizadas do Oriente Médio ao Sul da Ásia. Isso foi confirmado por Monika Bickert, do Facebook.
Esses moderadores têm um papel no controle daquilo que deve ser eliminado da rede social, a partir de sinalizações dos usuários. Mas a informação é então comparada a um algoritmo, que tem a decisão final.
Não é necessário ter PhD para perceber que esses moderadores não têm, necessariamente, vasta competência cultural, ou capacidade de analisar contextos. Isso para não mencionar que os algoritmos são incapazes de “entender” contexto cultural e certamente não são programados para interpretar ironia, sarcasmo ou metáforas culturais.
Os algoritmos são literais. Em poucas palavras, são uma opinião embrulhada em código. E no entanto, estejamos atingindo um estágio em que a máquina decide o que é notícia. O Facebook, por exemplo, conta agora apenas com o algoritmo para definir quais hstórias coloca em destaque.
Pode haver um lado positivo nessa tendência – como o Facebook, o Google e o YouTube usarem sistemas para bloquear rapidamente vídeos do ISIS e propaganda jihadista semelhante. Logo estará em operação eGLYPH – um sistema que censura vídeos violam supostos direitos autorais por meio “hashing”, ou codificação para busca rápida. Uma única marca será atribuída a vídeos e áudios considerados “extremistas”, possibilitando assim sua remoção automática em qualquer nova versão e bloqueando novos uploads.
E isso nos traz para um território ainda mais turvo; o próprio conceito de “extremista”. E os efeitos, sobre todos nós, de sistemas de censura baseados em lógica algorítmica.
Como as Armas de Destruição Matemática controlam nossa vida
É neste cenário que um livro como Armas de Destruição em Math [ou “Armas de Destruição Matemática”] de Cathy O’Neil (Crown Publishing), torna-se tão essencial quanto o ar que respiramos.
O’Neil lida com a coisa real; é PHD em matemática em Harvard, ex-professora do Barnard College, ex-analista quantitativa num fundo de hedge antes de reconverter-se a pesquisadora, e blogueira no mathbabe.org.
Modelos matemáticos são o motor de nossa economia digital. Isso leva O’Neil a formular seus dois insights decisivos – que podem surpreender legiões de pessoas que veem as máquinas como simplesmente “neutras”.
1) “Aplicações baseadas em matemática e que empoderam a Economia de Dados são baseadas em escolhas feitas por seres humanos falíveis”.
2) “Esses modelos matemáticos são opacos, e seu trabalho é invisível para todos, exceto os cardeais em suas áreas: matemáticos e cientistas computacionais. Seus vereditos são imunes a disputas ou apelos, mesmo quando errados ou nocivos. E tendem a punir pobres e oprimidos, enquanto tornam os ricos mais ricos em nossa sociedade”.
Daí o conceito de Armas de Destruição Matemática (WMDs), de O’Neil; ou de o quanto modelos matemáticos destrutivos estão acelerando um terremoto social.
O’Neil detalha extensivamente como modelos matemáticos destrutivos microgerem vastas faixas da economia real, da publicidade ao sistema prisional, sem falar do sistema financeiro (e dos efeitos posteriores à interminável crise de 2008).
Esses modelos matemáticos são essencialmente opacos; não responsáveis; e miram acima de toda “otimização” das massas (consumidoras).
A regra de ouro é – o que mais seria? – seguir o dinheiro. Como diz O’Neil, para “as pessoas que executam os WMDs”, o “feedback é a grana”; “os sistemas são construídos para devorar mais e mais dados, e afinar suas análises de modo a despejar nele mais e mais dinheiro”.
As vítimas – como nos ataques de drone na administração Obama – são mero “dano colateral”.
Paralelos entre o cassino financeiro e os Big Data são inevitáveis – e é útil o fato de que O’Neil tenha trabalhado nos dois setores.
O Vale do Silício segue o dinheiro. Vemos nele os mesmos bancos de talentos das universidades de elite norte-americanas (MIT, Stanford, Princeton), a mesma obsessão por fazer o necessário para juntar mais e mais dinheiro para a empresa empregadora.
As Armas de Destruição Matemática favorecem a eficiência. “Justiça” não passa de um conceito. Computadores não entendem conceitos. Programadores não sabem codificar um conceito – como vimos na história da “menina do napalm”. E também não sabem como ajustar algoritmos para refletir equidade.
O que temos é o conceito de “amizade” sendo medido por likes e conexões no Facebook. O’Neil soma tudo; “Se você pensa no WMD como indústria, injustiça é o que está sendo expelido pela fumaça da chaminé. É uma emissão tóxica.”
Mande um fluxo de caixa, já
No fim, é a Deusa do Mercado que regula tudo – premiando eficiência, crescimento e fluxo de caixa sem fim.
Mesmo antes do fiasco da “menina do napalm”, O’Neil já apontara o fato crucial de que o Facebook determina, na realidade, e segundo seus próprios interesses, o que todos veem – e aprendem – na rede social. Nada menos que dois terços dos norte-americanos adultos têm perfil no Facebook”. Quase a metade, afirma relatório do Centro de Pesquisa Pew, conta com o Facebook para parte, ao menos, das notícias que leem.
A maioria dos norte-americanos – para não falar da maioria dos 1,7 bilhão de usuários do Facebook espalhados pelo mundo – ignora que o Facebook canaliza o feed de notícias. As pessoas de fato acreditam que o sistema compartilha instantaneamente, com sua comunidade de amigos, qualquer coisa que é postada.
O que nos traz, mais uma vez, à questão chave no front das notícias. Ao ajustar seus algoritmos para modelar as notícias que as pessoas veem, o Facebook tem agora tudo o que é necessário para jogar com todo o sistema político. Como observa O’Neil, “Facebook, Google, Apple, Microsoft, Amazon têm todos uma vasta quantidade de informação sobre grande parte da humanidade – e os meios para nos dirigir para onde queiram”.
Estrategicamente, seus algoritmos não têm preço, é claro; segredo comercial supremo, não transparente.; “Eles fazem seus negócios nas sombras”.
Em sua recente e propagandeada viagem a Roma, Mark Zuckerberg disse que o Facebook é “uma empresa high-tech, não uma empresa jornalística”. Não é bem isso. O aspecto mais intrigante do fiasco da “menina do napalm” pode ser o fato de que Shibsted, o grupo de mídia escandinavo, está planejando investir um dinheiro enorme na criação de um novo forum social para derrotar – quem? – o Facebook. Prepare-se para uma guerra novinha em folha no fronte do WMD.
http://outraspalavras.net/destaques/a-silenciosa-ditadura-do-algoritmo/
Técnica e Preconceito
Não. Não se trata de romance de Jane Austen.
Mas, sim, de como a técnica, supostamente neutra, pode assumir comportamentos preconceituosos.
Primeiros sinais de alerta foram detectados, ainda nos anos 80 do século passado, quando redes neurais foram empregadas como auxiliares no processo de decisão para a concessão de empréstimos bancários.
Infelizmente, agora, não tenho a referência.
O sistema foi alimentado com enormes bancos de dados compostos pelos empréstimos anteriores concedidos pelo banco juntamente com os resultados das quitações.
Em pouco tempo, “o sistema” começou a recusar automaticamente todos os pedidos solicitados por moradores de bairros periféricos menos afluentes.
O mesmo processo preconceituoso obtido quando ao detectar correlações se estabelecem automaticamente relações de causa e efeito.
A estatística faz tempo sabe disso.
Os “sistemas inteligentes”, ainda não. E não parece ser muito fácil “ensiná-los”.
Uma complicação adicional será a dificuldade de reverter decisões burocráticas tomadas a partir do instante em que você for rotulado equivocadamente por um desses sistemas. O caso da menina do napalm foi muito fácil de ser resolvido por ser amplamente conhecido e ante a comoção internacional gerada. O Zé das Couves, entretanto, vai ser esmagado nas engrenagens.