Os fantasmas algorítmicos se divertem com ajuda da imprensa
por Fábio de Oliveira Ribeiro
Desde tempos imemoriais os seres humanos têm sido assombrados por desejos, devoções, medos e ódios pessoais e coletivos recorrentes que se manifestam de maneiras diferentes de acordo com as predisposições das pessoas e as características de cada cultura num determinado período histórico.
Limites são impostos pela evolução histórica, também é claro, porque um homem do século I dC não conseguir compreender como e porque muitos hoje temem robôs assassinos e o Terminator cenário. Isso porque os robôs e a tecnologia IA não faziam parte do universo cultural deles. Nós, por outro lado, rimos dos temores que os romanos do século I dC acreditavam na deusa da Cloaca e temiam desagradar o Stercutus e Sterculius (deus do esterco).
No oriente médio, o petróleo é chamado “excremento do diabo”. O que não deixa de ser uma ironia, porque todos o querem porque ele é valioso mesmo que seu valor provoque disputas militares sangrentas dolorosas. Os dados são o novo petróleo, mas o excremento valioso explorado pelas Big Techs são as IAs. Essa tecnologia não apenas provoca conflitos entre americanos e chineses como podem ser e efetivamente estão endo utilizadas para fins militares.
Pequenos fragmentos de código que provocam comportamentos inesperados em sistemas computadorizados são geralmente chamados de “fantasma na máquina”. Os “botões de morte” (dispositivos de segurança contra roubo) criados no passado dentro de algumas séries de microchips Intel são “fantasmas nos microchips”, porque o suporte “on line” desse serviço foi há muito descontinuado pelo fabricante. O acionamento involuntário desses “botões de morte” ainda causa dor de cabeça para os donos de alguns modelos de notebooks.
Outro “fantasma no microchip” é o MINIX , sigla que designa o “minúsculo computador dentro do seu computador” difícil de ser acessado por você e sobre o qual você não sabe nada, exceto se você for um especialista em segurança de TI. Esse dispositivo que permitem aos fabricantes de microchips acessar seu computador sem a sua autorização inverteu completamente a lógica do poder político.
Durante milênios, os governos tiveram acesso a coisas que as pessoas, e mesmo as poderosas empresas, não podiam ter. Agora, os fabricantes de microchips tem acesso a coisas que nem mesmo os órgãos governamentais podem ter. Essa assimetria tecnológica com transferência de poder do Estado para empresas privadas foi corrigida nos EUA, mas é claro que o “fantasma no microchip” que existe no seu computador está lá e você não pode fazer nada. E para piorar ele pode ser acionado remotamente tanto pelo fabricante dele quanto por um órgão governamental que obtenha o acesso à tecnologia.
Dá para entender porque os especialistas estão com medo de um evento computacional catrastófico. Agentes de IAs podem eventualmente ser treinadas para maliciosamente infiltrar e acionar esses dispositivos. Quem sabe o que pode acontecer numa escala global se um grande banco for vítima de um apagão computacional?
Apesar do estágio de desenvolvimento em que nos encontramos, ainda existem pessoas que acreditam em fantasmas. E isso nos coloca diante de duas novas modalidades de problemas: a assombração de data centers e de sistemas computadorizados por fantasmas tradicionais e; o surgimento de fantasmas que aprenderam a se manifestar como fossem robôs. Tudo isso é hipotético é claro, mas o debate em torno desses novos seres assustadores maravilhosos se torna inevitável porque já existem pessoas que acreditam que IAs tem poderes espirituais que devem ser libertados.
Se admitirmos a hipótese de que os fantasmas existem, não seria possível dizer como eles poderiam penetrar num sistema computadorizado ou porque alguns deles se dariam ao trabalho de aprender a se expressar como os robôs para assustar as pessoas. Todavia, uma coisa é certa: podemos dizer que é grande a probabilidade de existir pessoas que temem essas duas coisas. Ademais, pesquisadores já enveredam por esse caminho e escritores exploram comercialmente essas possibilidades.
Retornemos agora ao início. A mente humana é capaz de ser sequestrada por desejos, devoções, medos e ódios pessoais e coletivos. IAs são especialmente boas para quantificar e correlacionar informações fornecidas pelos usuários de internet. Então elas podem ser desenhadas para explorar os aspectos mais sombrios da personalidade humana e utilizadas como arma para assombrar uma pessoa ou um grupo de pessoas, reforçando os desejos, devoções, medos e ódios delas, inclusive reunindo usuários semelhantes em bolhas para que eles possam compartilhar tendências destrutivas e até suicidas. Isso pode ser feito para fins comerciais, sem maldade intencional. Mas também pode ser feito de propósito por razões políticas e geoestratégicas.
O fantasma que agora assombra as pessoas e os países desestabilizando politicamente nações ricas e pobres é muito real, mas a realidade dele é qualitativamente diferente das crenças e hipóteses fantasmagóricas que eu levantei aqui apenas para cativar a atenção do leitor. Os danos que os fantasmas matemáticos que operam para além das imagens que nós vemos nas telas de nossos dispositivos conectados à internet (smartphones, tablets, notebooks) podem causar de maneira não intencional e intencional estão sendo documentados ao redor do mundo (vide A máquina do caos, Max Fisher, e a Máquina do ódio, Patrícia Campos Melo). Nesse contexto, dizer que regular as redes antissociais é uma forma de censura (como faz parte da imprensa brasileira) chega a ser risível.
Se um cão morde uma pessoa isso não é notícia. Mas se alguém morde o cão isso pode render um furo jornalístico. O governo Lula decidiu morder as Big Techs porque os fantasmas matemáticos que elas criam para obter lucro pode ser (e eventualmente serão) transformados em armas de destruição em massa, capazes de transformar as pessoas em matilhas de cães enlouquecidos que invadiram Brasília e destruíram prédios públicos. Isso obviamente não deveria ser considerado um caso de censura, mas de defesa da segurança pública e do bem-estar da população em geral.
Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para [email protected]. O artigo será publicado se atender aos critérios do Jornal GGN.
“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: https://www.catarse.me/JORNALGGN “
Deixe um comentário