为什么人工智能无法真正理解人类的痛苦

读到一句描写痛苦的文字时，人会感到一种特殊的不安。那句话几乎写得过于完美，一则慰问信息在半秒钟内生成，语法无可挑剔，情感拿捏得恰到好处，却又以一种难以言明的方式显得空洞。

这种不安指向了一件值得认真对待的事：生成符合人类理解形态的语言，与真正理解任何事物之间的差别。

至少以目前的形态来看，人工智能系统的工作方式，是在海量的文本、图像或其他数据中寻找统计规律，然后根据语境，以恰当的方式生成最可能延续这些模式的输出。

当一个系统为一位正在讲述癌症诊断结果的人写下安慰的话时，它并不是在调用对恐惧的记忆，也没有一个曾被切开过的身体，更没有一个曾经彻夜不眠、计算生命还剩多少年的头脑。

它是在提取并重新组合那些经历过这些事情的人留下的语言痕迹，以及临床医生、作家和陌生人试图回应这些经历时留下的语言痕迹。结果可能令人动容。但就我们目前有依据断言的任何意义而言，它并没有真正感受到这些。

计算智能与亲身经历正是在这里分道扬镳的，而我们有必要准确说明原因。

与人工智能相关的智能，主要是处理信息以产生有用或准确的输出：在扫描图像中识别肿瘤的特征，预测一句话接下来最可能出现哪些词，在处方开出前提醒可能存在的药物相互作用。

这些都不需要一个观点。相比之下，痛苦似乎恰恰需要这一点：需要有一个承受事情发生的主体，需要有一个从内部出发的视角，使诊断不只是一项真实的事实，同时也是令人恐惧的事实；使它不只是一组概率，同时也是对这个特定的人原本赖以规划的未来即将被重新改写的预兆。

哲学家们长期以来一直试图确定，究竟是什么让一种经历成为被感受到的经历，而不只是被处理的信息，但目前并没有定论。然而，没有定论并不意味着这种区别是虚构的。恰恰相反，尽管不同理论对意识为何产生意见不一，这种区别却是大多数意识理论都承认真实存在的少数事物之一。

死亡意识使这道鸿沟进一步加深。

癌症诊断之所以令人如此失去方向，部分原因在于它迫使人面对一种并非抽象意义上的有限性。突然受到质疑的，是这具身体，是这一组关系，是这段具体且不可替代的人生。

人类在面对这一切时，会带着数十年积累的依恋：对人的依恋，对尚未完成的计划的依恋，对那些具体的日常清晨的依恋，而这些清晨大概终将停止到来。

无论未来最终会发现人工智能的内部状态是什么样的，就目前而言，它并没有任何在这种意义上类似于对自身延续的利害关系，更当然谈不上拥有一段可能被缩短的人生传记。

它可以生成在统计意义上恰如其分的、关于对死亡的恐惧的语言，因为人类已经围绕这个主题写下了海量文字。生成这种语言，并不等于感到恐惧。

这一切并不意味着模拟出来的共情毫无价值，也不意味着人工智能在疾病经历附近没有立足之地。

模式识别在肿瘤学中已经有一些正在探索的用途，例如分析图像、标记异常，以及整理癌症诊断所带来的庞大行政负担。

一个设计良好的系统可以让信息更容易获取，减轻临床医生的文书负担，或者在凌晨三点、所有人都已入睡时，为患者提出的问题提供一个冷静且随时可用的回应对象。

这些都是真实的贡献。仅仅因为它们不涉及意识就将其否定，同样会是一种错误。

真正令人担忧的范围更窄：当人们把流畅误认为理解时，患者乃至临床医生都可能开始把工具的回答当作另一人真正理解自己时所承载的道德分量，而这种替代确实会付出代价，尽管这种代价很难用数字衡量。

在这里，两个方向都需要保持谨慎。

如果把“任何机器都不可能拥有类似主观体验的东西”宣布为一个已经确定的事实，那就未免过于自信。即使对于生物的大脑，意识的难题也尚未解决，断然排除这种可能性，意味着所持的确定性超过了证据能够支持的程度。

但仅仅因为当前系统的输出已经足以被当作理解，就把它们视为已经实现了理解，同样是过于自信。

诚实的立场令人不安：当大型语言模型生成一句关于悲伤的话时，我们不知道其内部究竟发生了什么，也没有可靠的方法查明这一点。

我们确实知道的是：无论是这些系统的架构、它们在语言模式上的训练、它们没有身体，还是它们缺乏任何类似连续的第一人称经历，都没有为我们提供积极理由，让我们认为痛苦正在交流的机器一端发生。

对于癌症照护而言，这并不意味着拒绝人工智能，而是要澄清它所扮演的角色。

一个能够总结研究、追踪症状或起草一封艰难信件的工具，正在做智能擅长的事情：在约束条件下组织信息。

一个人在扫描之后陪伴患者，连同话语一起承受沉默，则是在做另一件事。这件事在某种程度上取决于双方共享同样的脆弱性，也共享同一个最终结局。

这种共享也许正是理解实际所需要的东西，而我们已经构建出来的一切是否拥有它，目前仍不清楚。