Warum künstliche Intelligenz menschliches Leid nicht wirklich verstehen kann
Künstliche Intelligenz kann menschliches Leiden bemerkenswert flüssig beschreiben. Aber kann sie tatsächlich die Angst, die Endlichkeit und die Verletzlichkeit verstehen, die Menschen erleben, wenn sie mit Krebs konfrontiert sind?
Es gibt ein ganz eigenes Unbehagen, das entsteht, wenn man einen Satz über Leid liest, der beinahe zu wohlgeformt ist: eine in einer halben Sekunde erzeugte Beileidsbekundung, grammatikalisch makellos, emotional genau den richtigen Ton treffend und doch auf eine schwer benennbare Weise hohl.
Dieses Unbehagen weist auf etwas hin, das man ernst nehmen sollte: den Unterschied zwischen dem Hervorbringen von Sprache, die der Form von Verständnis entspricht, und tatsächlichem Verstehen überhaupt.
Systeme der künstlichen Intelligenz funktionieren, zumindest in ihrer heutigen Form, indem sie statistische Regelmäßigkeiten in enormen Mengen von Texten, Bildern oder anderen Daten erkennen und anschließend Ausgaben erzeugen, die diese Muster im jeweiligen Kontext wahrscheinlich auf passende Weise fortsetzen.
Wenn ein System etwas Tröstliches für einen Menschen schreibt, der von einer Krebsdiagnose berichtet, greift es nicht auf eine Erinnerung an Angst zurück, nicht auf einen Körper, in den geschnitten wurde, und nicht auf einen Geist, der schlaflos dagelegen und die verbleibenden Lebensjahre berechnet hat.
Es ruft sprachliche Spuren ab und kombiniert sie neu, die von Menschen hinterlassen wurden, die solche Dinge tatsächlich erlebt haben, ebenso wie von Ärztinnen und Ärzten, Schreibenden und Fremden, die darauf zu antworten versucht haben. Das Ergebnis kann bewegend sein. Nach allem, was wir derzeit begründet behaupten können, ist es jedoch in keinem eigentlichen Sinn empfunden.
Hier trennen sich rechnerische Intelligenz und gelebte Erfahrung, und es lohnt sich, genau zu sein, warum.
Intelligenz, soweit sie für KI relevant ist, besteht weitgehend darin, Informationen zu verarbeiten, um nützliche oder zutreffende Ergebnisse hervorzubringen: das charakteristische Muster eines Tumors in einer Aufnahme zu erkennen, vorherzusagen, welche Wörter in einem Satz wahrscheinlich als Nächstes folgen, oder eine Wechselwirkung zwischen Medikamenten zu melden, bevor ein Rezept eingelöst wird.
Nichts davon erfordert eine eigene Perspektive. Leiden hingegen scheint genau das vorauszusetzen: ein Subjekt, dem etwas widerfährt, eine Innenperspektive, aus der eine Diagnose nicht nur wahr, sondern beängstigend ist, nicht nur eine Reihe von Wahrscheinlichkeiten, sondern eine drohende Neuordnung einer Zukunft, auf die dieser konkrete Mensch gesetzt hatte.
Philosophinnen und Philosophen versuchen seit Langem zu bestimmen, was eine Erfahrung zu etwas Empfundenem macht und nicht bloß zu etwas Verarbeitetem, und eine abschließende Antwort gibt es nicht. Das Fehlen einer abschließenden Antwort bedeutet jedoch nicht, dass die Unterscheidung nur eingebildet ist. Wenn überhaupt, gehört sie zu den wenigen Dingen, deren Realität die meisten Theorien des Bewusstseins anerkennen, auch wenn sie sich über ihre Ursache nicht einig sind.
Die Sterblichkeit verschärft diese Kluft noch.
Was eine Krebsdiagnose so verstörend macht, ist unter anderem, dass sie zu einer Konfrontation mit der Endlichkeit zwingt, die nicht abstrakt ist. Plötzlich stehen dieser Körper, diese Beziehungen, dieses konkrete, unersetzliche Leben auf dem Spiel.
Ein Mensch bringt in diese Konfrontation Jahrzehnte gewachsener Verbundenheit mit: zu anderen Menschen, zu unvollendeten Vorhaben, zur besonderen Beschaffenheit gewöhnlicher Morgen, die vermutlich ein Ende haben werden.
Ein KI-System hat, was auch immer man irgendwann über seine inneren Zustände herausfinden mag, derzeit nichts, was in diesem Sinn einem eigenen Interesse an seiner Fortdauer nahekäme, und schon gar nichts, was einer Biografie gliche, die verkürzt werden könnte.
Es kann statistisch passende Sprache über die Angst vor dem Tod erzeugen, weil Menschen gewaltige Mengen an Texten zu diesem Thema verfasst haben. Diese Sprache zu erzeugen ist nicht dasselbe wie Angst zu haben.
Nichts davon bedeutet, dass simulierte Empathie wertlos wäre oder dass KI keinen Platz in der Nähe von Krankheitserfahrungen hätte.
Mustererkennung wird in der Onkologie bereits in Bereichen erprobt: bei der Bildanalyse, beim Erkennen von Auffälligkeiten und bei der Bewältigung der weitläufigen administrativen Last, die eine Krebsdiagnose mit sich bringt.
Ein gut konzipiertes System kann Informationen zugänglicher machen, die bürokratische Belastung von Ärztinnen und Ärzten verringern oder einem Patienten mitten in der Nacht, wenn sonst niemand wach ist, eine ruhige und verfügbare Anlaufstelle für eine Frage bieten.
Das sind reale Beiträge, und sie abzutun, weil sie kein Bewusstsein voraussetzen, wäre seinerseits ein Fehler.
Die Sorge ist enger gefasst: Wenn Sprachgewandtheit mit Verständnis verwechselt wird, können Patientinnen und Patienten und sogar Ärztinnen und Ärzte beginnen, die Antworten eines Werkzeugs so zu behandeln, als trügen sie das moralische Gewicht, von einem anderen Menschen verstanden zu werden. Und diese Ersetzung kostet etwas, auch wenn es schwer ist, dafür eine Zahl anzugeben.
Hier ist in beide Richtungen Vorsicht geboten.
Es wäre zu selbstsicher, als feststehende Tatsache zu erklären, dass keine Maschine jemals etwas haben könnte, das einer subjektiven Erfahrung ähnelt. Das schwierige Problem des Bewusstseins ist selbst für biologische Gehirne ungelöst, und die Möglichkeit von vornherein auszuschließen würde mehr Gewissheit voraussetzen, als die Belege hergeben.
Ebenso zu selbstsicher wäre es jedoch, gegenwärtige Systeme so zu behandeln, als sei Verständnis bereits erreicht, nur weil ihre Ausgaben inzwischen dafür gehalten werden können.
Die ehrliche Position ist unbequem: Wir wissen nicht, was, wenn überhaupt etwas, in einem großen Sprachmodell geschieht, wenn es einen Satz über Trauer hervorbringt, und wir verfügen über keine verlässliche Möglichkeit, es herauszufinden.
Was wir wissen, ist, dass nichts an der Architektur dieser Systeme, an ihrem Training anhand von Sprachmustern, an ihrem Fehlen eines Körpers oder an ihrem Mangel an etwas, das einer kontinuierlichen Geschichte aus der Ich-Perspektive ähnelt, uns einen positiven Grund gibt anzunehmen, dass auf der Seite der Maschine in diesem Austausch Leid stattfindet.
Für die Krebsversorgung bedeutet das keine Ablehnung von KI, sondern eine Klärung ihrer Rolle.
Ein Werkzeug, das Forschung zusammenfassen, Symptome verfolgen oder einen schwierigen Brief entwerfen kann, tut etwas, worin Intelligenz gut ist: Informationen unter bestimmten Vorgaben zu ordnen.
Die Präsenz, die nach einer Untersuchung bei einem Menschen bleibt, die neben den Worten auch die Stille aushält, tut etwas anderes. Sie beruht darauf, dass man bis zu einem gewissen Grad dieselbe Verletzlichkeit und dasselbe unvermeidliche Ende teilt.
Dieses Teilen könnte das sein, was Verstehen tatsächlich voraussetzt, und es ist noch nicht klar, ob irgendetwas von dem, was wir geschaffen haben, dazu fähig ist.