Crenças Céticas XV - Máquinas que pensam ?

Certa vez, observava com atenção a reação de uma platéia de crianças (com idade entre 4 a 6 anos) em numa apresentação de fantoches em um lugar público. Admirei-me ao ver como uma reforçava a reação da outra ao seu lado, ao ver o comportamento dos bonecos no teatrinho. Dava para se ver, no brilho dos olhos, que realmente acreditavam que aqueles bonequinhos estavam ali, vindos de algum lugar encantado, para contar histórias divertidas. Eles tinham reações engraçadas, alegria, tristeza, raiva, contentamento. Elas se identificavam com eles, percebendo o quanto a maneira de ser dos bonecos não diferenciava muito da mãe ou do pai ao seu lado.

Nossa sociedade aprendeu cada vez mais a depender de dispositivos tecnológicos por uma variedade de razões, tanto comerciais como pragmáticas. Desde da prensa de Gütemberg até os modernos sistemas de inteligência artificial (IA), sistemas automáticos auxiliam a realização de uma variedade grande de tarefas. Mais recentemente, porém, sistemas eletrônicos incorporaram funções interativas com os humanos, além da  descomunal expansão de capacidade de informação por que passaram, o que fez reacender o debate sobre o quão inteligente tais sistemas poderiam ser (ver filme abaixo que mostra um robô tocando violino). O nome 'inteligência artificial' tornou-se assim um símbolo para possibilidades ainda mais futurísticas como a de sistemas artificiais exibirem consciência do mesmo grau de tipo dos humanos.

Mecanismo robótico da TOYOTA tocando violino (2007). A legenda diz que o sistema é parte de um esforço demonstrativo de como tais sistemas poderiam ser usados em casas, hospitais e lugares públicos. Embora a similaridade espantosa observada com humanos, trata-se de um sistema que apenas executa instruções pré-programadas, não diferindo, assim, de um marionetes sem cordas.

Recentemente um dos pais fundadores da idéia de inteligência artificial, Marvin Minsky, foi entrevistado e o resultado pode ser visto no artigo com título sugestivo:  'As máquinas já PENSAM' (1). O assunto é complexo o suficiente para exaltar ânimos entre os proponentes da chamada 'strong AI' (IA forte), ou hipótese que afirmar ser possível a sistemas artificiais pensarem e terem uma mente (com uma consciência junto), e os que não pensam assim, advogando uma forma branda de 'computacionalismo' ou 'weak AI' (IA fraca) que afirmar ser possível programar sistemas que apenas parecem executar atividades inteligentes.

Embora seja possível achar que os proponentes da IA forte teriam algum interesse não apenas 'científico' na continuação das pesquisas nessa direção, pesquisas em IA se sustentarão comercialmente por muito tempo ainda, diante da capacidade de se utilizar tais sistemas para resolver problemas práticos. Logo, o assunto 'IA' tem um grande futuro comercial ainda que não se acredite em IA forte.

Obviamente o debate entre as duas formas de se abordar IA tem implicações com as concepções atuais sobre o que é a consciência e o que é o ser humano. Para nós, as esperanças da IA forte são uma aplicação prática da maneira materialista de se ver o mundo e os seres humanos. Como tal crença demonstra desprezo pelas noções espiritualistas, trata-se assim de mais uma crença cética. Cabe a nós, assim, estudar e compreender quais são os fundamentos que suportam a IA forte.

Comentamos abaixo a entrevista citada acima feita por um repórter da revista EXAME. As questões feitas pelo repórter são excelentes e estão grafadas em itálico.

1) Algum dia computadores serão capazes de pensar? 

Eles já pensam de um certo modo, mas não de outros. Um dia, quando entendermos como funcionam outros tipos de pensamento no homem, então poderemos construí-los nas máquinas.

Todas as esperanças de IA forte repousam no futuro. É como se acreditássemos que o futuro fosse uma espécie de 'caixa mágica' de onde se pode tirar qualquer coisa. Como não sabemos como uma coisa funciona hoje, então, quando soubermos amanhã  isso será possível. Esse tipo de argumentação é muito fraca pois estabelece o desconhecido como fundamento para o que não se sabe.

2) Muita gente diz que os computadores não fazem mais que seguir instruções mais rápido que qualquer ser humano. O que pode compensar essa má reputação da inteligência artificial?   

Errado. Computadores podem seguir outros tipos de processos. Quando programadores não sabem resolver um problema, eles podem programar o computador para realizar uma "pesquisa evolutiva". Ele tenta muitas possibilidades para ver qual funciona melhor. Isto é, claramente, o que fazem as pessoas: resolvem problemas por "tentativa e erro".

O repórter da Exame aqui se esqueceu de dar alguns nomes para 'muita gente' em sua questão. Na verdade, os maiores especialistas em assuntos de consciência e cognição pertence a esse grupo. A resposta de Minsky não poderia ter sido mais evasiva. Obviamente que para se fazer uma máquina realizar 'pesquisa evolutiva', ela tem que ser programada, e isso é feito a partir de instruções simples que computadores sabem realizar rapidamente. Aqui começa a transparecer um argumento que é frequentemente usado por proponentes de IA forte: o de que basta um sistema executar algo que se pareça com o que um humano faça para que ele seja classificado como consciente. Além disso, pessoas não se escoram em 'tentativa e erro' para resolver problemas. Essa é uma noção muito limitada do aprendizado humano.

3) Mas algum dia as máquinas desenvolverão algo comparável à consciência? 

Acho que, se consciência quer dizer a capacidade de um cérebro pensar sobre suas próprias atividades, sim. Muitos programas de computador já fazem algo parecido, portanto já são conscientes em um certo grau.

O conceito de consciência - embora tenha sido usado marginalmente no desenvolvimento tecnológico de sistemas de IA (2) - é relevante para se dar uma resposta convincente à questão colocada. A resposta dada, como se baseia em ideia errônea do que é algo consciente, naturalmente levou à conclusão (igualmente errada) de que computadores já pensam. Mas serviu para dar um título sensasionalista à entrevista.

4) Qual será o impacto disso nos negócios?

Em primeiro lugar, teremos maior produtividade em todos os setores. No entanto, quando computadores começarem a pensar tão bem quanto pessoas - e melhor que as pessoas -, as coisas mudarão de formas que não podemos imaginar.

O aumento de produtividade através do uso de sistemas automáticos já é realidade, independente de terem consciência ou não. Como as esperanças são colocadas sobre algo que não se sabe, tudo é realmente possível. 

5) O senhor diz que não há muita diferença entre o pensamento comum e o pensamento criativo. As empresas estão erradas ao procurar executivos criativos? 

Não há muita diferença entre as pessoas mais criativas e as mais comuns, exceto por aquelas serem capazes de descobrir novos modos de pensar. Claro que pequenas diferenças ao pensar podem fazer muita diferença em quantos problemas a pessoa pode resolver. Um engenheiro muito bom vale por uma centena de engenheiros medíocres, por isso às vezes ele ganha o dobro.

A única diferença entre os que são criativos e os que não são, é que os primeiros criam mais coisas novas. Além da obviedade na primeira frase, é necessário explicar porque o ser humano exibe capacidades tão diferentes e discordantes entre indivíduos. Embora sejamos todos geneticamente idênticos, as diferença de comportamento e de capacidade criativa são muito grandes. "Mas isso pode muito bem ser apenas uma maneira equivocada de se ver as coisas", diria um defensor de IA forte. Para Minsky, 'pequenas diferenças no pensar' criam grandes diferenças na hora de se resolver problemas. Por causa disso, um 'bom engenheiro que vale por 100 engenheiros medíocres' ganha apenas o dobro e não  100 vezes o salário de um engenheiro medíocre...

6) Os defensores da inteligência artificial não cometem um erro ao descartar o livre arbítrio como ilusão? 

Quando você diz "usei meu livre arbítrio para tomar uma decisão", isso só quer dizer "não sei o bastante sobre minha mente para entender como tomei esta decisão".

Essa foi a melhor questão da entrevista. Com a resposta podemos ler o que se passou na mente de Minsky: 'E por acaso você sabe o que é livre-arbítrio?' Mesmo assim, temos que reconhecer, Minsky deu uma resposta educada, embora 'tangencial' à questão proposta. 

7) Quais as implicações éticas de produzir cérebros em linha de montagem? O senhor não teme algo como o Admirável Mundo Novo, de Aldous Huxley? 

Diria que podemos antecipar o oposto. As primeiras máquinas industriais eram usadas para repetir processos idênticos em linha de montagem. Mas um robô moderno programado pode fazer coisas diferentes a cada trabalho. Poderíamos ter robôs que projetam terno e sapatos perfeitos para cada indivíduo. Quando pudermos fabricar máquinas que pensam, poderemos fazer cada uma delas de modo diferente. Não seria muito difícil fazê-las muito mais diferentes umas das outras do que as pessoas são.

Mais uma vez o entrevistado dá uma resposta pouco satisfatória. A questão proposta era sobre as implicações éticas e bem ponderáveis - no sentido de se criar 'Franksteins', que se voltem contra seus criadores, uma possilidade perfeitamente cabível diante das apostas de IA forte. As respostas comuns são do tipo: 'toda tecnologia pode ser usada para o bem ou para o mal'.  Assim, se novos Fransksteins conscientes aparecerem, isso já era previsto. Por isso, Minsky preferiu focar o lado bom.

Mas, como tudo é possível, Minsky poderia ter respondido muito bem: 'podemos programá-los para serem sempre escravos e bonzinhos para com seus criadores' . Ah, mas ele não poderia mesmo dizer isso, pois, de acordo com a crença de IA forte sobre a possibilidade de consciências artificiais, elas seriam em todos os aspectos iguais as nossas e, portanto, não poderiam ser programadas para obedecer determinadas instruções. Crendo-se ou não na existência de livre arbítrio, ter consciência implica em certas liberdades que sistemas autônomos artificiais devem ter para serem considerados verdadeiramente conscientes. Em algum momento da história do desenvolvimento da IA, a noção de livre arbítrio terá que surgir... 

Conclusão

Vou terminar como comecei: para a maioria dos crentes em IA forte - apoiados por concepções materialistas do ser humano - a consciência artificial é possível. Analisando a maioria dos argumentos, temos a impressão que eles são como as crianças que se impressionam e fantasiam com o comportamento aparentemente humano de bonecos ou fantoches em um teatrinho.

Crêem eles que a consciência pode ser definida pelos seus efeitos, por se recusarem a analisar, ou sequer acreditar, em suas causas. Na verdade, para o paradigma materialista, o cérebro, como fonte de consciência, não exige que se busque nada além: está tudo lá, grafado entre códigos neurais que aguardam um pouco mais para serem desvendados.  

Referências

(1) http://exame.abril.com.br/revista-exame/edicoes/0662/noticias/as-maquinas-ja-pensam-m0046093

(2) Ver artigo: Drew McDermott (2007), Artificial Intelligence and Consciousness, The Cambridge Handbook of Consciousness. Cambridge University Press.