Por qué la inteligencia artificial no puede comprender verdaderamente el sufrimiento humano

Hay una inquietud particular que surge al leer una frase sobre el sufrimiento que está casi demasiado bien construida: un mensaje de condolencias generado en medio segundo, impecable desde el punto de vista gramatical, emocionalmente acertado y, de algún modo, vacío de una manera difícil de nombrar.

Esa inquietud apunta a algo que merece tomarse en serio: la diferencia entre producir un lenguaje que encaja con la forma de la comprensión y comprender realmente algo, sea lo que sea.

Los sistemas de inteligencia artificial, al menos tal como existen hoy, funcionan encontrando regularidades estadísticas en enormes cantidades de texto, imágenes u otros datos, y después generando resultados que probablemente continúen esos patrones de maneras adecuadas al contexto.

Cuando un sistema escribe algo reconfortante para una persona que describe un diagnóstico de cáncer, no recurre al recuerdo del miedo, a un cuerpo que ha sido intervenido ni a una mente que ha pasado la noche en vela haciendo cuentas con los años de vida que quedan.

Recupera y recombina las huellas lingüísticas dejadas por personas que sí vivieron esas cosas, así como por los médicos, escritores y desconocidos que intentaron responderles. El resultado puede conmover. No es, en ningún sentido que hoy tengamos motivos para afirmar, algo sentido.

Aquí es donde la inteligencia computacional y la experiencia vivida se separan, y vale la pena precisar por qué.

La inteligencia, en el sentido pertinente para la IA, consiste en gran medida en procesar información para producir resultados útiles o precisos: reconocer la huella de un tumor en una imagen, predecir qué palabras probablemente vendrán después en una frase, señalar una interacción entre medicamentos antes de que se surta una receta.

Nada de esto requiere un punto de vista. El sufrimiento, en cambio, parece exigir exactamente eso: un sujeto al que le suceden cosas, una perspectiva desde cuyo interior un diagnóstico no solo es verdadero, sino aterrador; no solo un conjunto de probabilidades, sino una reconfiguración inminente de un futuro con el que esa persona en particular contaba.

Los filósofos llevan mucho tiempo intentando determinar qué hace que una experiencia sea sentida y no meramente procesada, y no existe una respuesta definitiva. Pero la ausencia de una respuesta definitiva no significa que la distinción sea imaginaria. Si acaso, es una de las pocas cosas que la mayoría de las teorías de la conciencia coinciden en considerar real, aunque discrepen sobre su causa.

La mortalidad agudiza aún más la brecha.

Parte de lo que hace tan desorientador un diagnóstico de cáncer es que obliga a enfrentarse con una finitud que no es abstracta. Es este cuerpo, este conjunto de relaciones, esta vida particular e irremplazable la que de pronto queda en entredicho.

Un ser humano llega a ese enfrentamiento con décadas de apego acumulado: a personas, a proyectos inconclusos, a la textura específica de las mañanas ordinarias que presumiblemente tendrán un final.

Un sistema de IA, sea lo que sea que finalmente se descubra sobre sus estados internos, no tiene actualmente nada parecido a un interés en su propia continuidad en este sentido, y desde luego nada parecido a una biografía que pudiera verse truncada.

Puede generar un lenguaje estadísticamente adecuado sobre el miedo a la muerte porque los seres humanos han producido cantidades ingentes de textos sobre el tema. Generar ese lenguaje no es lo mismo que tener miedo.

Nada de esto significa que la empatía simulada carezca de valor, ni que la IA no tenga un lugar cerca de la experiencia de la enfermedad.

El reconocimiento de patrones tiene aplicaciones en oncología que ya se están explorando: en el análisis de imágenes, en la detección de anomalías y en la organización del enorme peso administrativo que arrastra consigo un diagnóstico de cáncer.

Un sistema bien diseñado puede hacer más accesible la información, reducir la carga de papeleo de un médico u ofrecer a un paciente una presencia serena y disponible para responder una pregunta formulada a las tres de la madrugada, cuando nadie más está despierto.

Son contribuciones reales, y descartarlas porque no implican conciencia sería otra clase de error.

La preocupación es más acotada: cuando la fluidez se confunde con la comprensión, los pacientes e incluso los médicos pueden empezar a tratar las respuestas de una herramienta como si llevaran el peso moral de ser comprendidos por otra persona, y esa sustitución tiene un costo, aunque resulte difícil ponerle una cifra.

Aquí conviene ser prudentes en ambas direcciones.

Sería demasiado categórico declarar, como un hecho establecido, que ninguna máquina podría tener jamás algo parecido a una experiencia subjetiva; el difícil problema de la conciencia sigue sin resolverse incluso en los cerebros biológicos, y descartar de plano esa posibilidad supone una certeza mayor de la que permiten las pruebas.

Pero sería igualmente categórico tratar los sistemas actuales como si hubieran alcanzado la comprensión simplemente porque sus resultados ahora pasan por comprensión.

La postura honesta es incómoda: no sabemos qué, si es que algo, sucede dentro de un modelo de lenguaje de gran escala cuando produce una frase sobre el duelo, y no contamos con una manera fiable de averiguarlo.

Lo que sí sabemos es que nada en la arquitectura de estos sistemas (su entrenamiento basado en patrones lingüísticos, la ausencia de un cuerpo, la falta de algo parecido a una historia continua en primera persona) nos da razones positivas para pensar que el sufrimiento esté ocurriendo del lado de la máquina en ese intercambio.

Lo que esto deja para la atención oncológica no es un rechazo de la IA, sino una clarificación de su papel.

Una herramienta capaz de resumir investigaciones, llevar un registro de síntomas o redactar una carta difícil está haciendo algo que la inteligencia hace bien: organizar información bajo determinadas restricciones.

La presencia que acompaña a una persona después de una prueba, que acoge el silencio junto con las palabras, está haciendo otra cosa: algo que depende de compartir, en algún nivel, la misma vulnerabilidad y el mismo final eventual.

Ese compartir puede ser lo que la comprensión realmente requiere, y aún no está claro que algo de lo que hemos construido lo posea.