KI-Ethik auf Wartelisten: Wenn Algorithmen über Leben und Tod entscheiden

Genau in diesem Moment, in dem KI-Systeme beginnen, solche Entscheidungen mit zu gestalten, fordert Anthropic eine Pause. Der Vorschlag ist, in seiner Naivität, das Erhellendste, was die KI-Industrie seit Langem produziert hat. Denn er zeigt: Selbst die Hersteller begreifen nicht mehr, was sie gebaut haben.

Dabei ist die eigentliche Frage nicht, ob KI in der Medizin eingesetzt werden soll. Diese Debatte ist entschieden. Random-Forest-Algorithmen und künstliche neuronale Netze werden bereits zur Prognose von Komplikationsrisiken nach Transplantationen eingesetzt; KI überwacht Organqualität in Echtzeit und optimiert Logistikketten. Das Hasso-Plattner-Institut hat konkrete Anwendungsfelder beschrieben, in denen algorithmische Systeme Transplantationsergebnisse verbessern können. Die Frage ist, unter welchen Bedingungen wir das akzeptieren – und wer die Rechnung zahlt, wenn das System versagt.

Das Transparenz-Versprechen und sein Bruch

Die These, KI eliminiere menschliche Voreingenommenheit aus Allokationsentscheidungen, ist verlockend. Organtransplantation nach medizinischen Kriterien – Dringlichkeit, Erfolgsaussichten, Wartezeit, Blutgruppenkompatibilität – klingt nach rationaler Objektivität. Das Transplantationsgesetz und die Richtlinien der Bundesärztekammer bilden heute diesen Rahmen; Eurotransplant betreibt das elektronische Vergabesystem. Schon dieses System ist nicht neutral: Wer Zugang zu Transplantationszentren hat, wer welche Diagnosen bekommt, wer überhaupt auf die Liste gesetzt wird – all das trägt gesellschaftliche Ungleichheit in den Algorithmus.

KI verstärkt diese Verzerrungen, wenn sie unkritisch auf vorhandene Daten trainiert wird. Das ist kein theoretisches Risiko. In US-Krankenhäusern hat ein Prognosemodell systematisch Patienten mit schwarzer Hautfarbe benachteiligt – nicht weil die Entwickler das wollten, sondern weil die Trainingsdaten historische Diskriminierung widerspiegelten. Ein Modell, das aus verzerrten Daten lernt, wird verzerrte Entscheidungen treffen. Es wird sie nur schneller und mit größerer Autorität treffen als ein menschlicher Arzt, dessen Urteil wenigstens anfechtbar ist.

Das ist der Kern des Problems: Wer einem Algorithmus widerspricht, kämpft gegen eine Black Box.

Steelmanning: Das Gegenargument verdient Respekt

Die Befürworter algorithmischer Allokation haben das bessere Argument auf ihrer Seite, was die kurzfristige Effizienz betrifft. KI kann Parameter berücksichtigen, die kein menschlicher Entscheider in Echtzeit integrieren kann – genetische Biomarker, Komorbiditäten, logistische Variablen über Standort und Verfügbarkeit von Operationssälen. Sie kann, wenn sauber trainiert, bestimmte Formen menschlicher Willkür reduzieren: den Arzt, der unbewusst jüngeren Patienten bevorzugt; das Komitee, das unter Zeitdruck entscheidet. Die Europäische Gesellschaft für Organtransplantation sieht in KI-gestütztem Matching ein ernsthaftes Potenzial, Abstoßungsreaktionen zu reduzieren und Transplantationsergebnisse zu verbessern. Das ist kein Marketing – das sind Leben.

Wer diese Vorteile verwirft, muss sagen, wie viele schlechtere Transplantationsergebnisse er bereit ist zu akzeptieren, um das Prinzip menschlicher Entscheidungshoheit zu wahren. Das ist eine legitime Abwägung. Aber sie muss explizit geführt werden, nicht als Reflex gegen Technologie.

Anthropics Pause: ehrlich, aber unzureichend

Zurück zu Anthropic. Das Unternehmen meldet, dass über 80 Prozent des Codes in seinen Systemen inzwischen von Claude selbst geschrieben werden und die Entwicklungszyklen sich auf etwa das Achtfache beschleunigt haben. Das Unternehmen fordert eine international koordinierte, überprüfbare Pause. Man muss Anthropic die Ehrlichkeit abnehmen – zumindest teilweise. Wer selbst warnt, dass seine eigene Technologie außer Kontrolle geraten könnte, riskiert Marktanteile.

Aber der Vorschlag verfehlt das eigentliche Problem. Eine Pause hält keinen Algorithmus an, der bereits in einem Transplantationszentrum läuft. Sie schützt nicht die Patientin, deren Ablehnung vom Wartelisten-System nicht erklärt werden kann, weil der Code proprietär ist. Und sie beantwortet nicht die Frage, die der EU AI Act – seit August 2024 in Kraft, die meisten Vorschriften ab August 2026 wirksam – ebenfalls offen lässt: Wer haftet, wenn das System tötet?

Die Deutsche Gesellschaft für Künstliche Intelligenz in der Medizin entwickelt eigene ethische Grundsätze, die Patientenautonomie und Nichtschaden betonen. Der Deutsche Ärztetag fordert prospektive klinische Studien für KI-Anwendungen im Gesundheitswesen. Das sind die richtigen Institutionen, die richtigen Forderungen. Aber sie arbeiten an einem Normierungsrahmen, während die Systeme bereits deployt werden.

Was tatsächlich gebraucht wird

Drei Bedingungen müssen erfüllt sein, bevor ein KI-System an Organtransplantations-Wartelisten beteiligt wird. Erstens: vollständige algorithmische Transparenz gegenüber den behandelnden Ärzten und den Patienten. Nicht als Marketing-PDF, sondern als prüfbarer Code mit Dokumentation der Trainingsdaten und nachgewiesener Bias-Analyse über demographische Gruppen hinweg. Das DRZE betont zu Recht, dass erklärbare KI keine Option ist, sondern Voraussetzung für legitime Entscheidungsprozesse.

Zweitens: klare Haftungsregeln. Wenn ein Algorithmus eine Zuteilung empfiehlt und der Patient stirbt, weil die Empfehlung fehlerhaft war – wer antwortet dafür? Das medizinische Personal, das unterschrieben hat? Der Hersteller des Modells? Die Behörde, die es zertifiziert hat? Der EU AI Act gibt einen Rahmen, aber er beantwortet diese Frage im Einzelfall nicht abschließend. Das müssen nationale Gesetzgeber tun, und zwar bevor, nicht nachdem Schaden entsteht.

Drittens: menschliche Entscheidungshoheit als strukturelles Prinzip, nicht als Feigenblatt. Ein Komitee, das KI-Empfehlungen stets bestätigt, weil Abweichung zu aufwendig ist, ist keine Aufsicht – es ist Legitimierungsmaschine. Menschliche Aufsicht bedeutet, dass Widerspruch möglich ist, dokumentiert wird und keine Sanktion nach sich zieht.

Eine KI-Pause löst nichts davon. Sie verlagert das Problem in die Zeit nach der Pause – und die kommt bestimmt, mit noch leistungsfähigeren Systemen. Was jetzt gebraucht wird, ist nicht Innehalten, sondern Gesetzgebung mit Biss: Transparenzpflicht, Bias-Audit vor Zulassung, Haftungsklarheit, echte Aufsichtsstrukturen. Anthropics Mut zur Selbstkritik wäre besser investiert in die Offenlegung seiner eigenen Modelle, als in einen Appell, den die Konkurrenz ignoriert.

Wer über Leben und Tod entscheidet, muss erklären können, warum.