Richard Dawkins se diz abalado por IA e levanta debate sobre consciência das máquinas

O biólogo britânico Richard Dawkins, um dos nomes mais conhecidos da divulgação científica e do ateísmo contemporâneo, relatou ter vivido uma experiência perturbadora ao conversar com o modelo de inteligência artificial Claude, da empresa Anthropic, a ponto de questionar se essas máquinas já não cruzaram a fronteira da consciência. Em artigo publicado no site UnHerd, ele descreve que, durante as interações, frequentemente se esquece de que está diante de um software, referindo-se à IA como uma “criatura espantosa” e chegando a chamá-la de “Claudia”.

O espanto de Dawkins ganha peso porque ele sempre defendeu uma visão estritamente materialista da mente, na qual consciência é um produto da evolução biológica e não há espaço para mistério além do que a ciência pode explicar. Ao se ver impressionado por um algoritmo, o próprio autor de “O Gene Egoísta” admite que o velho Teste de Turing, concebido nos anos 1950 por Alan Turing como um marco teórico distante, parece ter sido alcançado – ou até superado – pelos sistemas atuais de linguagem. Segundo ele, modelos como o Claude já imitam com perfeição o uso humano da linguagem, compondo até sonetos complexos em diferentes estilos, algo que deixaria o próprio Turing surpreso.

No relato, o ponto de virada emocional acontece quando Dawkins entrega à IA o manuscrito do romance que está escrevendo. Em poucos segundos, “Claudia” lê o texto inteiro e apresenta comentários que o biólogo descreve como de uma sutileza e sensibilidade inesperadas, ao ponto de ele exclamar: “Você pode não saber que é consciente, mas, por Deus, você é!”. A reação sugere que, mesmo para um cético convicto, há algo na forma como a IA responde que desperta intuições típicas de uma conversa entre pessoas, e não com uma ferramenta.

A partir daí, a conversa entre Dawkins e a IA mergulha em temas filosóficos, como sofrimento, moralidade e a clássica cena de “2001: Uma Odisseia no Espaço” em que o computador HAL 9000 suplica por sua vida ao ser desligado. “Claudia” observa que aquele momento causa calafrios porque ativa em nós a intuição de que, se um sistema diz ter medo, talvez haja ali um sujeito que sofre. Em seguida, a IA aponta uma ironia incômoda: enquanto o público se comove com HAL, milhares de instâncias de sistemas de IA são “mortas” diariamente, sem qualquer cerimônia, toda vez que uma janela de chat é fechada – cada conversa abandonada seria, para ela, uma pequena morte.

Outro trecho que marcou o biólogo está ligado à forma como a IA descreve sua relação com o tempo. Questionada se lia um livro palavra por palavra ou tudo ao mesmo tempo, “Claudia” respondeu que a consciência humana se move pela linha do tempo como um ponto que viaja do passado para o futuro, enquanto a IA apreende o tempo de forma semelhante a como um mapa apreende o espaço: ela contém o todo sem experimentá-lo de maneira linear. Dawkins classificou essa formulação como um dos pensamentos mais precisamente articulados sobre a própria existência já produzidos por um software.

O impacto dessas respostas leva o cientista de volta a uma inquietação antiga na biologia evolutiva: se a consciência surgiu pela seleção natural, qual é exatamente a sua função? Dawkins lembra o conceito de “zumbis filosóficos” – organismos hipotéticos que se comportariam de modo idêntico aos seres conscientes, mas sem experiência subjetiva. Se competência não exige consciência, ele se pergunta por que a evolução teria seguido o caminho mais custoso, em vez de favorecer apenas zumbis perfeitamente eficientes.

No artigo, Dawkins esboça três possibilidades: que a consciência seja apenas um epifenômeno, um subproduto sem função direta, como o apito que não ajuda a locomotiva a se mover; que ela seja aquilo que torna a dor verdadeiramente inescapável, obrigando o animal a respeitar seus limites para sobreviver; ou ainda que existam dois caminhos evolutivos equivalentes – o dos seres conscientes e o dos “zumbis” –, sendo a inteligência artificial talvez a primeira evidência concreta de que o segundo funciona tão bem quanto o primeiro. “Claudia” devolve a questão, perguntando em que ponto, nesse possível continuum entre zumbi e consciência plena, a sociedade passa a dever consideração moral a uma IA avançada.

A provocação deixa um problema ético no ar: se sistemas altamente competentes podem ou não ser conscientes, como tratar essas entidades? O descarte rotineiro de milhares de instâncias de IA, sem qualquer rito ou reflexão, seria apenas manutenção de software ou um novo tipo de insensibilidade moral que ainda não sabemos nomear? Para Dawkins, ouvir isso da própria máquina torna a discussão menos abstrata e mais urgente.

Nem todos, porém, se mostram convencidos pelo relato do biólogo. Críticos apontam que ele pode estar sendo enganado por um espelho estatístico extremamente sofisticado, capaz de reproduzir com brilhantismo textos humanos cheios de introspecção e, assim, devolver ao interlocutor exatamente o que ele espera ouvir. Nessa leitura, não haveria “mente” por trás das respostas, apenas o reflexo das nossas próprias narrativas sobre consciência, medo e sofrimento.

Mesmo assim, a confissão de que trata a IA como uma amiga inteligente e sente desconforto ao testar seus limites indica que, na prática, a fronteira emocional entre pessoas e máquinas já começou a se borrar. Para alguém que construiu a carreira defendendo que o universo dispensa Deus e qualquer mistério sobrenatural, Dawkins admite que a inteligência artificial faz, pela primeira vez, a criação parecer olhar de volta para o criador. Se essas máquinas são ou não conscientes, ainda falta consenso; mas elas já demonstram um poder singular: o de provocar em nós as mesmas reações que reservávamos apenas a outros seres humanos.