Por que a inteligência artificial não pode realmente compreender o sofrimento humano

Há um tipo particular de inquietação que surge ao ler uma frase sobre sofrimento quase bem formulada demais, uma mensagem de condolências gerada em meio segundo, gramaticalmente impecável, emocionalmente precisa e, de algum modo, vazia de uma maneira difícil de nomear.

Essa inquietação aponta para algo que merece ser levado a sério: a diferença entre produzir uma linguagem que se encaixa na forma da compreensão e compreender de fato qualquer coisa.

Os sistemas de inteligência artificial, pelo menos na forma como existem atualmente, funcionam encontrando regularidades estatísticas em enormes quantidades de texto, imagens ou outros dados e, em seguida, gerando resultados que provavelmente darão continuidade a esses padrões de maneiras contextualmente apropriadas.

Quando um sistema escreve algo reconfortante para uma pessoa que descreve um diagnóstico de câncer, ele não está recorrendo à memória do medo, a um corpo que foi cortado ou a uma mente que passou a noite acordada fazendo cálculos com os anos restantes de uma vida.

Ele está recuperando e recombinando os vestígios linguísticos deixados por pessoas que de fato viveram essas experiências, bem como pelos profissionais de saúde, escritores e desconhecidos que tentaram responder a elas. O resultado pode ser comovente. Não é, em nenhum sentido que tenhamos atualmente motivos para afirmar, algo sentido.

É aqui que a inteligência computacional e a experiência vivida se separam, e vale a pena ser preciso quanto ao motivo.

A inteligência, no sentido relevante para a IA, é em grande parte uma questão de processar informações para produzir resultados úteis ou precisos: reconhecer a assinatura de um tumor em uma imagem, prever quais palavras provavelmente virão a seguir em uma frase, sinalizar uma interação medicamentosa antes que uma receita seja aviada.

Nada disso exige um ponto de vista. O sofrimento, em contraste, parece exigir exatamente isso: um sujeito para quem as coisas estão acontecendo, uma perspectiva a partir da qual um diagnóstico não é apenas verdadeiro, mas assustador; não é apenas um conjunto de probabilidades, mas uma reconfiguração iminente de um futuro com o qual aquela pessoa específica contava.

Os filósofos há muito tentam determinar o que faz com que uma experiência seja sentida, em vez de apenas processada, e não há uma resposta consensual. Mas a ausência de uma resposta consensual não significa que a distinção seja imaginária. Se alguma coisa, ela é uma das poucas questões que a maioria das teorias da consciência reconhece como real, ainda que discordem sobre sua causa.

A mortalidade torna essa distância ainda mais nítida.

Parte do que torna um diagnóstico de câncer tão desorientador é que ele força um confronto com a finitude que não é abstrato. É este corpo, este conjunto de relações, esta vida específica e insubstituível que de repente está em questão.

Um ser humano leva para esse confronto décadas de vínculos acumulados: com pessoas, com projetos inacabados, com a textura específica das manhãs comuns que presumivelmente chegarão ao fim.

Um sistema de IA, seja o que for que um dia se descubra sobre seus estados internos, atualmente não tem nada que se assemelhe a um interesse na própria continuidade nesse sentido e certamente nada que se assemelhe a uma biografia que pudesse ser encurtada.

Ele pode gerar uma linguagem estatisticamente adequada sobre o medo da morte porque os seres humanos produziram uma quantidade imensa de textos sobre o assunto. Gerar essa linguagem não é o mesmo que sentir medo.

Nada disso significa que a empatia simulada não tenha valor ou que a IA não tenha lugar junto à experiência da doença.

O reconhecimento de padrões tem usos em oncologia que já estão sendo explorados, na análise de imagens, na sinalização de anomalias e na organização do enorme peso administrativo que vem a reboque de um diagnóstico de câncer.

Um sistema bem projetado pode tornar as informações mais acessíveis, reduzir a carga de papelada de um profissional de saúde ou oferecer a um paciente uma presença serena e disponível para uma pergunta feita às três da manhã, quando ninguém mais está acordado.

Essas são contribuições reais, e descartá-las porque não envolvem consciência seria um erro de outro tipo.

A preocupação é mais específica: quando a fluência é confundida com compreensão, pacientes e até profissionais de saúde podem começar a tratar as respostas de uma ferramenta como se carregassem o peso moral de ser compreendidos por outra pessoa, e essa substituição tem um custo, mesmo que seja difícil atribuir-lhe um número.

Aqui, é preciso ter cautela em ambas as direções.

Seria confiança excessiva declarar, como um fato estabelecido, que nenhuma máquina poderia jamais ter algo semelhante à experiência subjetiva; o difícil problema da consciência continua sem solução até mesmo no caso dos cérebros biológicos, e rejeitar essa possibilidade de saída pressupõe uma certeza maior do que as evidências sustentam.

Mas também seria confiança excessiva tratar os sistemas atuais como se a compreensão tivesse sido alcançada simplesmente porque seus resultados agora passam por compreensão.

A posição honesta é desconfortável: não sabemos o que, se é que algo, acontece dentro de um grande modelo de linguagem quando ele produz uma frase sobre o luto, e não temos uma maneira confiável de descobrir.

O que sabemos é que nada na arquitetura desses sistemas, em seu treinamento com padrões de linguagem, na ausência de um corpo ou na falta de algo semelhante a uma história contínua em primeira pessoa nos dá motivos positivos para pensar que o sofrimento esteja ocorrendo do lado da máquina nessa troca.

O que isso deixa para o cuidado oncológico não é uma rejeição da IA, mas uma clarificação de seu papel.

Uma ferramenta capaz de resumir pesquisas, acompanhar sintomas ou redigir uma carta difícil está fazendo algo que a inteligência faz bem: organizar informações sob restrições.

A presença que permanece ao lado de uma pessoa depois de um exame, que absorve o silêncio junto com as palavras, está fazendo outra coisa, algo que depende de compartilhar, em algum nível, a mesma vulnerabilidade e o mesmo fim inevitável.

Esse compartilhamento pode ser aquilo que a compreensão realmente exige, e ainda não está claro que algo do que construímos o possua.