Porque erram as previsões sobre o poder dos supercomputadores

Aprendemos da maneira mais difícil que ganhar um jogo de Go ou Jeopardy! é muito mais fácil do que processar palavras e imagens, fornecer cuidados de saúde eficazes e construir carros autônomos.

POR JEFFREY FUNK E GARY SMITH

Desde o início da revolução do computador, os pesquisadores sonham em criar computadores que rivalizem com o cérebro humano. Nossos cérebros são máquinas de informação que usam entradas para gerar saídas, assim como os computadores. Quão difícil pode ser construir computadores que funcionem tão bem quanto nossos cérebros?

Em 1954, uma equipe de Georgetown-IBM previu que os programas de tradução de idiomas seriam aperfeiçoados em três a cinco anos. Em 1965, Herbert Simon disse que “as máquinas serão capazes, dentro de vinte anos, de fazer qualquer trabalho que um homem possa fazer”. Em 1970, Marvin Minsky disse à revista Life: “Em três a oito anos, teremos uma máquina com a inteligência geral de um ser humano comum”. Bilhões de dólares foram investidos em esforços para construir computadores com inteligência artificial que iguala ou supera a inteligência humana. Os pesquisadores não sabiam a princípio, mas este foi um tiro da lua – um esforço extremamente ambicioso que tinha poucas chances de um retorno rápido.

A pesquisa de IA foi lançada em uma conferência de verão em Dartmouth em 1956 com a visão lunar de que “cada aspecto da aprendizagem ou qualquer outra característica da inteligência pode ser descrito com tanta precisão que uma máquina pode ser feita para simulá-lo.” Dezessete anos depois, o relatório Lighthill de 1973 encomendado pelo Conselho de Pesquisa Científica do Reino Unido concluiu que “em nenhuma parte do campo as descobertas feitas até agora produziram o maior impacto que foi prometido”. O financiamento secou e um inverno AI começou. Houve um ressurgimento da pesquisa em IA na década de 1980, alimentado por avanços na memória do computador e na velocidade de processamento e no desenvolvimento de sistemas especialistas, seguido por um segundo inverno de IA quando as limitações dos sistemas especialistas se tornaram aparentes. Outro ressurgimento começou na década de 1990 e continua até hoje

Amplamente divulgadas vitórias no computador sobre campeões mundiais de gamão, damas, xadrez, Go e Jeopardy! alimentaram a ideia de que as esperanças iniciais para a IA estão prestes a se concretizar. Mas, assim como nas primeiras décadas de esperança lunar, previsões ambiciosas e metas móveis continuam a ser a norma.

Em 2014, Ray Kurzweil previu que até 2029 , os computadores terão inteligência de nível humano e todas as capacidades intelectuais e emocionais dos humanos, incluindo “a capacidade de contar uma piada, de ser engraçado, de ser romântico, de ser amoroso , para ser sexy. ” À medida que nos aproximamos de 2029, Kurzweil fala mais sobre 2045 .

Em uma palestra do TED de 2009 , o neurocientista israelense Henry Markram disse que dentro de uma década seu grupo de pesquisa faria a engenharia reversa do cérebro humano usando um supercomputador para simular os 86 bilhões de neurônios e 100 trilhões de sinapses do cérebro.

Esses objetivos fracassados custam dinheiro. Depois de receber a promessa de US $ 1,3 bilhão em financiamento da União Europeia, o Projeto Cérebro Humano da Markram quebrou em 2015. Em 2016, a empresa de pesquisa de mercado PwC previu que o PIB seria 14% ou US $ 15,7 trilhões maior em 2030 por causa dos produtos e serviços de IA. Eles não estavam sozinhos. McKinsey, Accenture e Forrester também prevêem números semelhantes até 2030, com a Forrester em 2016 prevendo US $ 1,2 trilhão em 2020 . Quatro anos depois, em 2020, a Forrester relatou que o mercado de IA era de apenas US $ 17 bilhões . Agora, projeta que o mercado alcance US $ 37 bilhões em 2025. Ops!

As previsões de US $ 15 trilhões feitas em 2016 presumiram o sucesso dos moonshots de IA, como Watson para cuidados de saúde, DeepMind e Nest para uso de energia, veículos autônomos de nível 5 em estradas públicas e robôs e textos humanos. Quando moonshots como esses funcionam, eles podem ser revolucionários; quando acabam sendo uma tortura, os fracassos custam caro.

Aprendemos da maneira mais difícil que ganhar um jogo de Go ou Jeopardy! é muito mais fácil do que processar palavras e imagens, fornecer cuidados de saúde eficazes e construir carros autônomos. Os computadores são como o neozelandês Nigel Richards , que memorizou as 386.000 palavras do dicionário francês do Scrabble e venceu o Campeonato Mundial de Scrabble em francês duas vezes, embora não saiba o significado das palavras em francês que soletra. Da mesma forma, algoritmos de computador ajustam equações matemáticas a dados que eles não entendem e, conseqüentemente, não podem empregar nenhuma das habilidades de pensamento crítico que os humanos possuem.

Se um algoritmo de computador encontrou uma correlação entre Donald Trump tweetando a palavra com e o preço do chá na China quatro dias depois, ele não teria como avaliar se essa correlação é significativa ou sem sentido. Um programa de reconhecimento de imagem de última geração tinha 99 por cento de certeza de que uma série de linhas horizontais pretas e amarelas era um ônibus escolar, evidentemente focando na cor dos pixels e ignorando completamente o fato de que os ônibus têm rodas, portas e um pára-brisa.

O moonshot dos cuidados de saúde também decepcionou. Influenciado pelas jactâncias de Watson da IBM, McKinsey previu uma melhoria de produtividade de 30 a 50 por cento para enfermeiras , uma redução de 5 a 9 por cento nos custos de saúde e economias em saúde em países desenvolvidos iguais a 2 por cento do PIB. O Wall Street Journal publicou um artigo preventivo em 2017 , e logo outros estavam questionando o hype. Um artigo de 2019 no IEEE Spectrum concluiu que o Watson havia “prometido demais e entregue de forma insuficiente”. Logo depois, a IBM retirou o Watson da descoberta de medicamentos, e o entusiasmo da mídia diminuiu à medida que as más notícias sobre os cuidados de saúde de IA se acumulavam. Por exemplo, uma pesquisa da Clínica Mayo de 2020 e da Harvardda equipe clínica que estava usando o apoio à decisão clínica baseada em IA para melhorar o controle glicêmico em pacientes com diabetes deu ao programa uma pontuação média de 11 em uma escala de 0 a 100, com apenas 14% dizendo que recomendariam o sistema a outras clínicas .

Após o fracasso de Watson, a mídia passou para os artigos de saúde do Google na Nature e outros periódicos que relatavam resultados de caixa preta com ajustes não relatados que eram necessários para fazer os modelos funcionarem bem. Depois que o Google publicou seu artigo de dobra de proteínas , um especialista em biologia estrutural disse : “Até que a DeepMind compartilhe seu código, ninguém no campo se importa e são apenas eles dando tapinhas nas próprias costas”. Ele também disse que a ideia de que o enovelamento de proteínas foi resolvido era “risível”. Um grupo internacional de cientistas descreveu um artigo do Googlesobre o câncer de mama como mais uma “revista de alto perfil que publica um estudo muito empolgante que nada tem a ver com ciência. … É mais uma propaganda de tecnologia bacana. Não podemos fazer nada com isso. ” Esses cuidados são bem merecidos à luz do fracasso do altamente elogiado algoritmo Flu Trends do Google. Depois de afirmar ter 97,5 por cento de precisão na previsão de surtos de gripe, o Google Flu Trends superestimou o número de casos de gripe em 100 das 108 semanas seguintes , em uma média de quase 100 por cento, antes de ser silenciosamente aposentado.

O lunar do veículo autônomo está em um estado semelhante. No final de 2018, estava se tornando claro que os carros autônomos eram muito mais difíceis do que se pensava inicialmente, com um artigo do Wall Street Journal intitulado “A propaganda sem motorista colide com a realidade impiedosa “. Em 2020, startups como Zoox, Ike, Kodiak Robotics, Lyft, Uber e Velodyne começaram demissões, falências, reavaliações e liquidações a preços deflacionados . O Uber vendeu sua unidade autônoma no final de 2020, após anos alegando que os veículos autônomos eram a chave para a lucratividade futura. Uma força-tarefa do MIT anunciou em meados de 2020 que sistemas totalmente sem drivers levarão pelo menos uma década para serem implantados em grandes áreas.

No geral, os disparos lunares da IA estão provando ser uma coleção cara de falhas. Um artigo da Wired de outubro de 2020 intitulado “As empresas estão correndo para usar IA – mas poucas vêem o retorno” relatou que apenas 11% das empresas que implantaram IA estão obtendo um retorno “considerável” sobre seus investimentos. Um dos motivos é que os custos muitas vezes acabam sendo mais altos – muito mais altos – do que o inicialmente assumido. De acordo com um artigo do outono de 2020 do MIT Sloan Management Review , “Uma boa regra prática é que você deve estimar que, para cada $ 1 gasto no desenvolvimento de um algoritmo, deverá gastar $ 100 para implantá-lo e suportá-lo”.

edição de 2020 do “Relatório do estado da IA”, publicado pelos investidores em IA Nathan Benaich e Ian Hogarth, concluiu que “estamos nos aproximando rapidamente dos ultrajantes custos computacionais, econômicos e ambientais para obter melhorias cada vez menores no desempenho do modelo.” Por exemplo, “Sem grandes descobertas de pesquisa, reduzir a taxa de erro [de reconhecimento de imagem] de 11,5% para 1% exigiria mais de cem bilhões de bilhões de dólares!”

O fato é que a maioria dos moonshots falha: fusão nuclear, combustíveis sintéticos, vôo supersônico, maglev e blockchain para tudo. Em vez disso, as tecnologias bem-sucedidas geralmente começam em aplicativos pequenos e geralmente esquecidos e, em seguida, se expandem para aplicativos maiores e mais importantes. Os transistores foram usados pela primeira vez em aparelhos auditivos e rádios antes de se tornarem onipresentes em equipamentos militares, computadores e telefones. Os computadores começaram com aplicativos de contabilidade e mais tarde se expandiram para todas as funções de uma empresa. Os LEDs foram usados pela primeira vez em calculadoras e painéis de automóveis, muito antes de serem usados para iluminação. A internet começou como uma ferramenta para professores antes de se tornar a tecnologia mais usada desde a eletricidade. As células solares foram usadas em satélites e locais remotos muito antes de serem usadas para gerar eletricidade para residências e empresas urbanas.

Algumas empresas concentram com sucesso seus esforços de IA em soluções para pequenos problemas com benefícios alcançáveis. Por exemplo, a DHL usa robôs controlados por IA para encontrar pacotes, movê-los entre armazéns e carregá-los em aviões. E a Microsoft adquiriu recentemente a Nuance , uma empresa mais conhecida por um serviço de transcrição de voz de aprendizado profundo que é muito popular no setor de saúde.

Muitos exemplos semelhantes podem ser encontrados na automação de processos robóticos – robôs de software que emulam humanos interagindo com sistemas digitais. Ele pode ser usado para transações contábeis, de manufatura, financeiras e de engenharia e é o segmento de crescimento mais rápido do mercado de IA.

A mesma abordagem incremental pode ser usada para assistência médica, veículos autônomos e muito mais. A difusão e o progresso mutuamente benéficos podem vir da colaboração entre grandes hospitais de pesquisa dentro e entre países, à medida que os pesquisadores aprendem uns com os outros e generalizam de um caso para outro. O Santo Graal de um robotáxi que pode operar sem motorista em todas as localizações geográficas, independentemente do tempo, permanece indefinido, mas os veículos autônomos são usados com sucesso em ambientes restritos, como campos de mineração, grandes fábricas, parques industriais, parques temáticos, clubes de golfe, e campi universitários. Certamente, é melhor aperfeiçoar pequenas soluções antes de seguir para estradas públicas lotadas com uma infinidade de perigos imprevistos.

Um dos motivos pelos quais a IA superprometeu e não foi entregue é que não previmos que construir um computador que supere o cérebro humano seria o disparo lunar de todos os disparos lunares. Os computadores podem um dia rivalizar com a inteligência humana. Nesse ínterim, devemos reconhecer as limitações da IA e aproveitar as vantagens reais dos computadores. O fracasso dos moonshots da IA não é uma razão para desistir da IA, mas é uma razão para ser realista sobre o que a IA pode fazer por nós.

Future Tense é uma parceria da Slate , New America e Arizona State University que examina tecnologias emergentes, políticas públicas e sociedade.

Luis Nassif

Você pode fazer o Jornal GGN ser cada vez melhor.

Apoie e faça parte desta caminhada para que ele se torne um veículo cada vez mais respeitado e forte.

Seja um apoiador