Stephen Hawking teme que inteligência artificial possa ameaçar a humanidade

Jornal GGN – Considerado a maior mente científica da atualidade, o renomado físico Stephen Hawking demonstrou preocupação com o futuro da humanidade por conta do avanço da inteligência artificial. Em carta enviada ao jornal The Independent, Hawking fez algumas considerações a respeito dos potenciais impactos da IA, afirmando que “essa seria a maior conquista da humanidade até então e possivelmente a última”.

Parte das considerações do físico foram feitas em função do filme Transcendence, que trata justamente de um cenário envolvendo a inteligência artificial e sua relação com os seres humanos. “Olhando lá na frente, não há limites fundamentais para o que pode ser alcançado: não há lei da física que impeça partículas de serem organizadas em maneiras que possibilitem computações ainda mais avançadas do que as realizadas no cérebro humano”, afirmou o físico.
O cientista chama a atenção para um conceito criado em 1965, chamado “singularidade”, em que as unidades inteligentes entrariam em um processo de auto-aperfeiçoamento. “Uma transição explosiva e instantânea é possível, porém pode acontecer de maneira diferente do que aconteceu no cinema. Como Irving Good publicou em 1965, máquinas com inteligência superhumana poderiam melhorar seu design repetidamente, melhorando cada vez mais as suas funções e desencadeando o que Vernor Vinge chamava de ‘singularidade’ e que o personagem do filme Transcendence – A Nova Inteligência, estrelado por Johnny Depp, cita em alguns de seus diálogos”.

Para ele, o que poderia acontecer diante disso, seria o que foi mostrado no filme Matrix, de 1999, em que os seres humanos perderiam o controle sobre o planeta. “As máquinas poderão manipular mercados financeiros, seres humanos, desenvolver armas que nós não poderíamos entender e provavelmente provocariam o fim da nossa espécie se não aprendermos a controlar os danos”, adverte o físico.

Stephen Hawking afirma, ainda, que, ao mesmo tempo em que há pesquisas sérias sobre IA em todo o mundo, não há estudos com o que ele chama de “contra medidas”, que seriam meios de deter ou controlar o avanço autônomo da inteligência criada artificialmente por computador.

“Então, encarando os possíveis futuros com benefícios e riscos incalculáveis, os especialistas estão fazendo tudo que está ao alcance deles para garantir o melhor resultado, certo? Não é bem assim. Pouquíssimas pesquisas de contra medidas são desenvolvidas e levadas a sério fora de institutos não lucrativos como o Centro de Estudo de Riscos Existenciais de Cambridge, o Instituto do Futuro da Humanidade, o Instituto de Pesquisas de Inteligência das Máquinas e outros similares”.

“A questão é que todos nós deveríamos pensar um pouco mais a respeito dessa questão. Será que se criássemos inteligência artificial e essa inteligência decidisse viver, o desejo de viver seria algo irrelevante, pré-programado, mesmo que involuntariamente, ou algo espontâneo a ser respeitado? E o que as máquinas achariam disso?”, diz Hawking, autor do clássico “O Universo numa Casca de Noz”, de 2001.

Com informações do Canaltech e The Independent.

Redação

42 Comentários

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

  1. Não tenho temor algum

    Isso muito provavelmente vai acontecer e seremos superados.  C ‘est La Vie !

    Superamos diversos seres para estarmos onde estamos.. Um dia será nossa vez de baixar a crista.. Estou preparado..

    Até anseio por esse dia feliz(?)

  2. motivos para preocupação

    Eu acho que só teremos motivo para preocupação se esses computadores forem programados para pensar como nós.

     Se eels não pensarem como os humanos, tudo bem.

    1. Já existe isso em grau embrionário

      Edson, procure ler sobre os robôs que aprendem que o Edelman está desenvolvendo há muitos anos já, nao por acaso denominados de Darwin 1, 2, 3 etc. . Eles têm meios de interaçao com a realidade externa, podem formar conceitos e reagir de acordo, aprendem com a experiência, e tem até simulacros de valores, coisas a buscar e a evitar. Claro que ainda é muito rudimentar, mas… Eu nao duvidaria. Prefiro repetir Drummond e dizer que, até lá, felizmente já estarei morta. 

  3. Pois eu acho que é

    Pois eu acho que é bobagem.

    Inteligência artificial já maior que a Humana em vários aspectos. Por exemplo, computadores ja vencem humanos no xadrez.

    Mas falta-lhes a capacidade de comandar. Sempre precisarão de humanos por traz e devem servir de instrumento, nunca tomando a iniciativa.

    1. Nada como “achar”, né, mesmo sem base alguma…

      O direito de palpitar é livre, claro, mas um pouco de informaçao ajudaria tanto… 

  4. Se essa inteligência

    Se essa inteligência artificial for realmente inteligente e respeitar todos os tipos de vida do planeta Terra que venha logo.

  5. IA – algoritmo que faz algoritmo

    IA é sim um assunto preocupante pois até agora o que existe são computadores BURROS executando processos programados. O exemplo do xadrez do colega abaixo é um exemplo de uma supermáquina executando um programa desenvolvido para tal. Esse programa não joga truco, só joga xadrez.

    IA é um algoritmo que faz algoritmo… a discussão é a mesma da época da bomba atómica. Será que ocorrerá um efeito em cadeia???? se ocorrer, como controlar?

    1. lembrei

      Lembrei de um episódio de Star Trek – The Next Generation  onde o androide DATA participou pela primeira vez de um jogo de poquer.

      A lógica do andróide não teve chance contra a malícia do ser humano.

      1. “episódio de Star Trek – The

        “episódio de Star Trek – The Next Generation  onde o androide DATA participou pela primeira vez de um jogo de poquer”:

        !!!!

        Vi todos TNG no minimo 5 vezes, Marcon,e nao lembro desse!  QUAL????

      2. Lembrei III

        Boa noite.
        “Lembrei de um episódio de Star Trek – The Next Generation  onde o androide DATA participou pela primeira vez de um jogo de poquer…  A lógica do andróide não teve chance contra a malícia do ser humano.”.

        Se eu estiver bem evocado, Data ficou intrigado sobre o porquê do e o que era o blefe. William Ricker lhe explica que é o blefe quem dá emoção ao jogo, principalmente no pôquer. Tem um episódio muito bom, também, caro Edsonmarcon: é sobre Data advogando pelo direito de máquinas ultra-inteligentes, que trabalham na manutenção da nave, serem tratadas como indivíduos. Ele ganha a guerra contra uma cientista da Federação Interplanetária e as máquinas de conserto da Enterprise se reúnem para salvá-lo de uma situação de risco de explosão de antimatéria. Muito bom.
         

  6. Tem um defeito, meu general

    Que tal um Bertold Brecht básico pra uma segunda feira apocalípitca, doutor Stephen?

     

     O Vosso tanque General, é um carro forte

    Derruba uma floresta esmaga cem
    Homens,
    Mas tem um defeito
    – Precisa de um motorista 

    O vosso bombardeiro, general
    É poderoso:
    Voa mais depressa que a tempestade
    E transporta mais carga que um elefante
    Mas tem um defeito
    – Precisa de um piloto. 

    O homem, meu general, é muito útil:
    Sabe voar, e sabe matar
    Mas tem um defeito
    – Sabe pensar

  7. S. Kubrick Pôs o Dedo na Ferida, 2001, Odisseia no Espaço

    Boa tarde.

    O primeiro tratado sobre o perigo iminente da IA foi, parece, “2001, Odisseia no Espaço, Uma”, do Stanley Kubrick, bem mais até que “Metrópole”, de Fritz Lang. HAL (ante-iniciais de IBM) 9000, o supercomputador, ao antever que seria desligado da missão, por apresentar defeitos, ensandecidamente elimina quase toda a tripulação da Missão. Ciúme, orgulho… imagem e semelhança (psicótica) do seu criador? O calcanhar de Aquiles da humanidade é que, se ‘o homem é um ser condenado a ser livre’, também o é a buscar, prescrutar, especular. Temos o ‘germe’ da nossa própria derrocada. Descemos das árvores. Nada será como antes.

  8. Stephen Hawking

    Daqui de longe dele, posso estar enganado; mas  vejo o próprio Stephen Hawking como um fenômeno dentre os seres vivos.

    Pondo de lado os problemas inerentes a suas doenças ele se põe a refletir sobre (em última análise) a caminhada dos humanos em direção a uma possível auto-destruição. 

    Longa vida a Stephen Hawking.

    Uma Breve História do Tempo

  9. Um medo normal

    esse tipo de medo é normal.

    Temos medo do que ETs ou computadores possam fazer a nós, no futuro, baseados EM NOSSAS PRÓPRIAS AÇÕES

     

    NUNCA tivemos contato com ETs ou computadores inteligentes, portanto o medo que sentimos deles são baseados na história humana, e sabemos como os humanos pode ser cruéis.

     

    Nosso medo é:  E SE ELES FOREM COMO NÓS?

     

     

  10. Leiam o livro do mestre dele,

    Leiam o livro do mestre dele, Roger Penrose: A Nova Mente do Rei – Ed. Campus.

    Roger Penrose é provavelmente o maior erudito vivo em Matemática e Física da atualidade!

    1. o grande o pequeno e a mente humana

      Penrose enveredou por um caminho complicado  e no livro com título acima Stephen Hawking faz criticas contundentes ao trabalho de Penrose . Hawking continua um cientista clássico enquanto Penrose tornou-se um tanto místico.

    1. Mais importante ainda q a consciência é a VONTADE

      O Edelman já colocou simulacros de valores (os correspondentes a bom ou mau, desejável ou ruim, prazer ou dor) nos robôs dele, mas ainda é muito primário. Mas se podem aprender com a experiência (e podem) poderao vir a desenvolver valores por eles mesmos, e aí as coisas mudariam muito. 

    2. Teor do link dado pelo Marcelo, q é mto bom, embora d divulgaçao

      Robô dá primeiros sinais de consciência

      Com informações da New Scientist – 04/04/2011

      Robô dá primeiros sinais de consciência
      O agente de software LIDA conseguiu pela primeira vez completar testes padronizados de avaliação do estado de alerta, ou estado de consciência, no mesmo tempo gasto por humanos. [Imagem: Nevit Dilmen/Wikimedia]

      Consciência robótica

      Ela ainda não é um robô no sentido comum do termo, porque ainda não tem um corpo.

      Mas é o que mais aproxima até hoje daquilo que se poderia chamar de uma “mente robótica”.

      O programa, projetado para ser usado para animar um robô, conseguiu pela primeira vez completar testes padronizados de avaliação do estado de alerta, ou estado de consciência, no mesmo tempo gasto por humanos.

      O nome dessa “consciência robótica” é LIDA, uma sigla paraLearning Intelligent Distribution Agent, agente de distribuição inteligente do aprendizado, em tradução livre.

      LIDA é filha de Stan Franklin, da Universidade de Memphis, com uma “participação especial” de Bernard Baars, do Instituto de Neurociências de San Diego e Tamas Madl, filósofo da Universidade de Viena, na Áustria.

      Funcionamento da mente

      O programa foi inspirado por uma teoria bem estabelecida sobre a consciência humana, chamada “Teoria do Espaço de Trabalho Global” (TAG) – ou GWT, sigla do inglês Global Workspace Theory.

      Segundo a TAG, o processamento inconsciente – a captura e processamento de imagens e sons, por exemplo – é feito por regiões diferentes e autônomas do cérebro, trabalhando paralelamente.

      Nós apenas nos tornaríamos conscientes da informação quando ela é considerada importante o suficiente para ser “transmitida” para o ambiente de trabalho global, uma rede de neurônios interconectados que se espalha por todo o cérebro.

      Quem decide o que é importante para ser transmitido a teoria não diz, mas ela afirma que aquilo que experimentamos como consciência é justamente essa “transmissão”, que permite que as informações sejam compartilhadas por diferentes áreas do cérebro.

      Vários experimentos, usando eletrodos para detectar a atividade cerebral, têm dado suporte a essa noção de difusão das informações pelo cérebro como base da consciência, embora como exatamente a teoria se traduziria em cognição e experiência consciente seja algo ainda longe de estar claro.

      Mente robótica

      O professor Stan Franklin e seus colegas implementaram a teoria em um programa voltado para o controle de um robô, “enriquecendo” as bases da TAG com hipóteses sobre como esses processos de difusão da informação no cérebro se coordenam.

      O resultado foi a mente robótica LIDA, que Franklin acredita ser uma reconstrução do processo de cognição do cérebro humano.

      LIDA é uma “mente artificial” inteiramente gerada por software, ao contrário deexperimentos de inteligência artificial que procuram replicar os próprios neurônios ou até construir um cérebro em um chip.

      O funcionamento de LIDA baseia-se na hipótese de que a consciência é composta de uma série de ciclos, com duração de poucos milissegundos, e cada um subdividido em estágios inconscientes e conscientes.

      Entretanto, só porque esses ciclos cognitivos são consistentes com algumas características da consciência humana, como os experimentos demonstram, isso não significa que é assim que a mente humana trabalha.

      Foi por isso que os cientistas resolveram colocar a mente robótica para competir com mentes humanas.

      Robô dá primeiros sinais de consciência
      Os pesquisadores defendem que seu agente de software LIDA tem “consciência funcional”, diferente da “consciência fenomênica” apresentada pelos humanos. [Imagem: Gengiskanhg/Wikimedia]

      Robô versus humano

      Para melhorar as bases da comparação, os pesquisadores determinaram que as temporizações usadas nos ciclos de LIDA seriam os mesmos observados em dados neurológicos de humanos.

      Por exemplo, os detectores de dados sensoriais do programa checam as informações a cada 30 milissegundos, o tempo que o cérebro humano leva para fazer uma associação entre uma imagem e uma categoria textual.

      A mente robótica foi submetida a dois “testes de consciência”.

      O primeiro consiste em uma versão do teste do tempo de reação, em que alguém deve apertar um botão sempre que uma luz verde à sua frente se acender. LIDA levou cerca de 280 milissegundos para apertar seu botão virtual depois que a luz se acendeu, enquanto um humano médio leva cerca de 200 milissegundos.

      O segundo teste usa uma barra horizontal piscante que aparece na base de uma tela e então se move para cima ao longo de 12 posições. Quando a velocidade de subida da barra é lenta, as pessoas veem a linha em movimento. Quando a velocidade é alta, as pessoas enxergam 12 linhas piscantes.

      Quando os pesquisadores criaram um teste semelhante para LIDA, eles descobriram que, em altas velocidades, ela também falha na percepção de que a linha está se movendo. A velocidade da ilusão de óptica robótica é comparável à dos humanos.

      Robô consciente?

      Mas isto significa que a mente robótica LIDA seja consciente?

      “Eu digo que LIDA é funcionalmente consciente,” diz Franklin, porque ela usa a difusão dos inputs para guiar suas ações e seu aprendizado.

      O pesquisador estabelece uma demarcação clara entre essa consciência funcional e a chamada “consciência fenomênica”, ou “consciência fenomenológica”, não atribuindo à sua mente robótica uma capacidade de subjetividade.

      Mas ele afirma que não há, em princípio, nenhuma razão que impeça que LIDA se torne totalmente consciente um dia: “A arquitetura poderá servir de base para a consciência fenomênica, apenas precisamos descobrir como trazê-la à tona.”

      Pode um computador se tornar consciente?

      Se o pesquisador estiver correto, e se a teoria tiver um poder explicativo do funcionamento da mente humana suficiente para embasar a criação de uma mente artificial, resta uma questão de largo alcance:

      Em que ponto um modelo de consciência pode ele próprio tornar-se consciente? – Se é que pode.

      Antonio Chella, um roboticista da Universidade de Palermo, na Itália, afirma que, antes que se possa atribuir consciência a um agente de software como LIDA, ela vai precisar de um corpo.

      “A consciência de nós mesmos, e do mundo, é baseada em uma contínua interação entre nosso cérebro, nosso corpo e o mundo,” diz ele. “Estou curioso para ver um robô LIDA.”

      Já Murray Shanahan, também roboticista, da Imperial College London, discorda, e diz que um corpo robótico não é necessário. “Somente faz sentido começar a falar sobre consciência no contexto de algo que interage de forma intencional com um ambiente espaço-temporal,” diz ele. “Mas eu fico totalmente satisfeito com uma interação com um ambiente virtual.”

       

      Cientista propõe teoria unificada da inteligência artificial

       

      Franklin, criador de LIDA, afirma estar planejando construir uma versão da consciência robótica capaz de interagir com humanos, provavelmente de forma virtual – sem um corpo robótico.

      “Quando isto acontecer, eu ficarei tentado a atribuir consciência fenomênica ao agente,” afirma ele.

      Objetividade e subjetividade

      O problema é que, mesmo que LIDA consiga um dia ter experiências subjetivas, como poderemos provar isto?

      Não existem testes objetivos da subjetividade: não há como provar objetivamente, por exemplo, que cada um de nós não é o único ser consciente de si mesmo em um mundo de zumbis.

      “Os filósofos veem lidando com isto por mais de 2.000 anos,” diz Franklin. Para ele, talvez só possamos admitir que os computadores tenham subjetividade quando eles se tornarem suficientemente inteligentes e comunicativos.

      Além de todo um campo de estudos sobre os direitos dos robôs, quando isto eventualmente acontecer restará também a questão se as inteligências artificiais serão capazes de evoluir.

      aa

      1. olá, Anarquista

        Anarquista, realmente o site do inovação tecnologica é de divulgação. Para me aprofundar no assunto consulto bastante os trabalhos do professor Marvin Minsky sobre inteligência artificial ,funcionamento e organização da mente.

        O prof. Minsky defende que inteligencias artificiais necessariamente deverão sentir emoções (sic) , sem este atributo as máquinas fracassariam em nosso ambiente terrestre. Há trabalhos do prof. Minsky neste sentido.

        1. Ele tem razao. Sem emoçoes nao há valores, vontade, metas

          Por isso o Edelman tem posto simulacros de valores (o correspondente a prazer e dor nos seres vivos) nos robôs dele. A inteligência é dirigida pelos valores (nao estou falando em princípios abstratos, mas naquilo que faz alguém agir). Leia sobre isso Damásio, “O Erro de Descartes”, é super legal. 

          Além de emoçoes, ou um sucedâneo delas que tenha a mesma funçao, precisam ter um corpo capaz de perceber — ter “órgaos dos sentidos” — e de se mover, agir no real. Sem isso nao há experiência nem aprendizagem minimamente real. 

          Agora, só conhecia o Minsky da primeira fase da IA, a modelada pelos computadores seriais, nao sabia que ele continua ativo. 

          1. bom senso

            Anarquista, o Marvin Minsk deve estar com 92 anos e dificilmente permanece na ativa. Nas palavras de Minsk, há muito pouca gente no mundo desenvolvendo softwares voltados para o bom senso . Uma máquina é capaz de jogar xadrez, mas não entende que uma corda serve para puxar e não empurrar.

            Estes programas de bom senso são muito disputados e as novas descobertas dificilmente vão para o meio acadêmico, são mantidas em segredo e usadas para fazer dinheiro. É um caso típico do mercado jogando contra a ciência. Ainda ,segundo Marvin, desenvolvimento de consciência e emoções em máquinas é muito mais questão de software do que hardware. O livro clássico de Minsky é “Sociedade da Mente” onde ele propõe mecanismos básicos de funcionamento da mente.    

          2. Sao precisos soft e hard

            É preciso sensores perceptuais, possibilidade de movimento, isso depende de hard. O soft é para decodificaçao dos sinais e, no caso dos robôs do Edelman, para implantar com programa os valores. 

  11. ####
    Ola Nassif,
    Acho que

    ####

    Ola Nassif,

    Acho que deveria haver pesquisas como as da computação, na área da inteligencia artificial, IA, ótimo,

    Mas interesses ocultos não falam da outra ponta, a da inteligencia natural, a produção de super cérebros humanos, mesmo utilizando tão somente a genética de Mendel, já que QI elevado acima, ou muito acima da media, é uma característica recessiva, e que só manifesta no famoso (aa), para gerenciar as super maquinas de IA, precisaríamos de humanos super cérebros, produzidos em serie,

    Não ha o que temer,

    Olha que é fácil, os veterinários já fazem melhoramentos nos animais, precisamos de procedimentos idênticos nos humanos,

    Coletas de tecidos para clonagens em larga escala, dos melhores cérebros masculinos e femininos, e a coleta de óvulos e sêmen dos melhores cérebros, para produção de embriões, em larga escala, para serem adotados, inclusive criando se um programa governamental de bolsa barriga de cérebros inteligentes,

    Os impérios dominadores não falam disto, isto é heresia, porque ai as  colônias passariam a produzir inteligências de alto, ou muito alto QI, e como fica as explorações dos colonizadores de sempre?

    No 1984, e no Admirável Mundo Novo, fala se muito é na produção em proveta mas de operários, proletários, deveria é falar na produção de super cérebro, isto é possível, viável e factível, só que  eles, os exploradores como ficam?

    QI elevado acima ou muito acima da media, não esta associado a cor, raça, religião, nacionalidade, gênero, e tudo mais, etc. é uma característica natural, que sempre ocorreu, ocorre, e ocorrera, em todas as partes, e em toda a humanidade, mas cuidado com as propagandas enganosas, e as manipulações, que servem para dispersão de pensamentos,

    Isto não é racismo é inteligentismo,

    Simples e fácil, mas eles não podem admitir isto nas colônias, epa e a minha boquinha da exploração de sempre como fica?

    ####

  12. Se não for assim, será assado.

    A humanidade passou a aumentar exponencialmente o próprio poder [auto]destrutivo, há pouquíssimas décadas.

    Enquanto capital estiver acima do aspecto humanitário (ou enquanto este último nem ao menos existir), nós seres humanos criaremos nosso apocalipse em pouco tempo.

    Somos criativos, temos cada vez mais poder e meios de atingir tal feito. 

    1. Se o Ocidente se explodir em

      Se o Ocidente se explodir em armas ultratecnológicas que só a necessidade de rápido progresso material e de novos mercados nos dá, só vai restar a ilha de Cuba. Nem o Marx imaginaria que esse poderia ser o futuro da humanidade. Que ninguém se esqueça de manter as máquinas do futuro ligadas em uma tomada desplugável e com bateria limitada.

  13. melhor contra medida, autodestruição…

    torná-las “desejantes” como nós…………………

    de preferência de algo que já temos atualmente, não necessariamente material

  14. Inteligências, Capacidade Adaptação e de Contornar Situações…

    Boa noite.

    Todos os seres vivos, salvo bombástica descoberta biológica, são inteligentes. Há diferenças de graus, e não de sim ou não. Ademais, não se trata de inteligência, no caso estrito humano, e sim de modalidades. Inteligências. As máquinas, para serem consideradas inteligentes a ponto de suplantar o criador, teriam de ter dois atributos inerentes às inteligências biológicas (unidades carbono) mais elaboradas: a senciência e a autoconsciência. Sem estas faculdades, são meros amontoados de circuitos e de lógica. Com relação à autoconsciência, a qual, é, às vezes, confundida com aquela, poucas espécies parecem ostentá-la: humanos, chimpanzés e golfinhos, por exemplos.

  15. US$ 134 M

      Noticia de hoje, valor de um unico contrato referente a AI: http://www.militaryaerospace.com/articles/2014/05/blade-phase-3.html

       Aproveitem e conheçam o BAE Taranis, sua história esta em um artigo de 2010 do The Guardian: http://www.theguardian.com/technology/2010/nov/21/military -robots-autonomus-machine

        Testado no ano passado conseguiu que seus sistemas de AI reagissem – sem interferencia do operador – defensivamente, contra ameaças aereas e/ou terrestres a ele dirigidas – o pessoal da BAE e do MoD britanico afirmou que em missões de ataque, os sistemas ofensivos do Taranis são “segregados” ao “comando humano” – alguem acredita ????????

         Outro artigo razoavel: http://www.ucobserver.org/ethics/2011/02/artificial – intelligence/

          Nas feiras aeroespaciais, navais e gerais de artigos de defesa, até há alguns anos atrás ( 5 – 6 ), o que se discutia sobre o “estado da arte” era sobre fusão de dados, respostas sintéticas automáticas pré-programadas, analise randomica + apresentação sintética ( interfaces homem – sistemas – computadores – maquina) etc.., mas nas ultimas, IMDS, França, Malasia, Emirados, Chile, sistemas de AI – independentes de comando & controle humano ( claro que com varios modos de operação, sendo o AI o ultimo ), foram apresentados aos “clientes potenciais”, portanto :

           É realidade que empresas/governos, de paises tecnologicamente avançados ( USA, Europeus, Russos, Israelenses, – em menor escala: China e India), já promovem e vendem(turn-key), equipamentos com AI, ainda que primitiva – colocam no mercado, como o sistema Khibiny-M russo, fica facil imaginar ou mesmo concluir, o que eles possuem, o quanto evoluiram, quanto avançaram neste quesito – e não vendem a ninguem.

  16. Esse Hawking só fala clichês, como sempre

    É um físico super-valorizado. Não é “a maior mente científica da atualidade”, de forma alguma. Sua importância científica há muito tempo não é mais a mesma. Virou um cientista pop, que escreve de forma vulgar sobre ciência para ganhar dinheiro junto ao grande público.

    De resto, Hawking palpita de forma incompetente sobre um assunto, inteligência artificial, acerca do qual ele não entende patavinas.

    Essa preocupação dele é clichê. Existem muitas outras mais pertinentes, como a própria viabilidade ou possibilidade de desenvolver uma inteligência artificial, no sentido forte do termo.

    Os filósofos da mente, como John Searle (que desenvolveu o famoso argumento do “quarto chinês”, que tenta mostrar a impossibilidade de existir inteligência artificial no sentido forte do termo, caracterizado pelo desenvolvimento da consciência, e hoje advoga um muito mais sofisticado sistema de ideias, que giram em torno da questão de assentar que os estados mentais expressam algo intrínseco, privado e subjetivo, experimentado em primeira-pessoa, sendo a consciência algo muito maior do que um complexo sistema de impulsos eletroquímicos, algo não fabricável artificialmente, porque consequência de um desenvolvimento biológico) e Daniel Dennett (que, discordando de Searle, afima que os estados mentais não passam de entidades obscurantistas, frutos da ignorância e, em princípio, reduzíveis à objetividade científica da neurociência e, portanto, possíveis de serem fabricados artificialmente, inclusive num nível de desenvolvimento de consciência) se ocupam de tais assuntos e entendem muito mais de inteligência artificial do que físicos como Hawking, que não passa de um palpiteiro nessa seara, sem qualquer credibilidade, ainda que as questões que ele levanta sejam conhecidas há muito tempo e não exista nenhuma novidade nelas.

    Não se trata de acusar a impossibilidade ou falsidade de tais preocupações, mas sim que elas são um salto muito grande no cerne da questão sobre inteligência artificial, que é saber se realmente ela é possível de ser desenvolvida. Pelo visto, Hawking já sinaliza para algum novo livro que tenha em mente, tudo para ganhar dinheiro.

    Eu prefiro me basear nas ideias e opiniões de quem realmente entende do assunto e não nos palpites clichês de um cientista pop caça-níquel como Hawking.

    Searle e Dennett, filósofos da mente, são primeiro time quando o assunto é inteligência artificial e ambos defendem que é possível desenvolver uma inteligência artificial no sentido forte do termo, mas o fazem por argumentos diferentes: Searle não abre mão da subjetividade e afirma que a inteligência artificial no sentido forte do termo somente será produzida quando as máquinas conseguirem criar esse estado mental (ou consciência) que não está reduzido a impulsos eletroquímicos, pois a consciência seria privada, qualitativamente superior e semanticamente intencional, e Dennett abre mão da subjetividade, considerando que os estados mentais executam funções meramente calculistas, inclusive em relação aquilo a que chamamos de consciência.

    O caminho de Searle é muito mais difícil. Ele nega que possa existir inteligência artificial no sentido forte do termo sem essa característica da consciência, o que depende exatamente de conhecer a natureza dos processos neuronais que geram a consciência e qual a forma de reproduzir esses poderes causais com a técnica. A diferença entre Searle e Dennett tem relações com o que Searle chama de tentativa do funcionalismo de Dennett de reduzir funções semânticas a funções sintáticas. Esse é um debate que se arrasta nos EUA há mais de trinta anos, desde o início dos anos 80.

    Hawking, perto disso aí, é só um palpiteiro sobre o assunto.

    1. Argolo, cientistas ‘pop’,

      Argolo, cientistas ‘pop’, como vc diz, são necessários, desde que não sejam farsantes, pois para muitos são o primeiro contato no campo científico.

      Eles servem para aparecem em matérias na Super Interessante, por exemplo.

      Vejo os como o Wikipédia, cheia de informações falsas, contraditórias, mas sinceramente, acho ela interessnte, desde que a pessoa a veja como um “índice remissivo” e procure se aprofundar no tema qdo ele for complexo, agora, se tiver procurando sobre um esporte obscuro, por exemplo, ele é útil.

      Imagina textos complexos sobre ciências na Marie Claire ? Consegue imaginar ?

      P.S : Fiquei imaginando Hawkings gastando o dinheirão todo que vc diz que ele adora em viagens no Caribe, mulheres, jogatina, noitadas, hehe,

  17. Batalha das IAs

    Hawing, assista a 4a temporada de PERSON OF INTEREST, onde uma batalha de IAs (do “bem” e do “mau”) se trava.

  18. I.A
    Sou um jovem programador e o que esse renomado físico diz me parece sensato. A singularidade pode ser ficção agora mas se as pesquisas continuarem, as máquinas realmente vão se tornar conscientes. O hardware hoje, está bastante evoluído, e ao meu ver, já é possível fazer um protótipo de uma singularidade. O que falta é uma pessoa ou uma equipe com uma mente brilhante que esteja disposta a dar vida ao hardware. Mas se isso acontecer o futuro da humildade poderá ser comprometido. Não saberemos do que máquinas pensantes serão capazes, nem mesmo seus criadores.

Você pode fazer o Jornal GGN ser cada vez melhor.

Apoie e faça parte desta caminhada para que ele se torne um veículo cada vez mais respeitado e forte.

Seja um apoiador