Angenommen, die Maschine irrt. Angenommen, sie irrt präzise, in einer Weise, die kein Arzt sofort erkennt — weil das Modell exakt jene Domäne trifft, in der die menschliche Kontrolle längst routiniert weggesehen hat.

Dieser Fall ist noch nicht eingetreten. Aber er strukturiert die gesamte Debatte über KI in der Medizin: nicht ob die Technologie nützt, sondern wann ihre Fehler anfangen, unsichtbar zu werden.

Zwei Maschinen, zwei Felder

Es lohnt sich, sauber zu trennen, was gerade oft vermengt wird: KI im klinischen Alltag und KI in der biomedizinischen Grundlagenforschung. Beide expandieren, aber ihr Versprechen und ihre Risiken folgen unterschiedlichen Mechanismen.

Im klinischen Alltag übernimmt KI vor allem das, was Ärzte selbst als zermürbend beschreiben: Dokumentation, Terminverwaltung, Arztbriefe. Das sogenannte Ambient Scribing — Systeme, die Gespräche mitschreiben und Befundentwürfe generieren — soll die Bearbeitungszeit administrativer Aufgaben um bis zu 40 Prozent senken. Laut dem Philips Future Health Index 2026 kommen dabei im Schnitt 16 Arbeitstage pro Klinikmitarbeiter und Jahr zusammen. Rund 38 Prozent der niedergelassenen Ärzte nutzen bereits entsprechende Tools; über 80 Prozent der Nicht-Anwender planen den Einstieg (Stiftung Gesundheit, April 2026).

Parallel läuft in der Grundlagenforschung ein anderes Experiment. AlphaFold3, das Proteinstrukturmodell von Google DeepMind, kann die dreidimensionalen Strukturen von Proteinen, Liganden und Nukleinsäuren vorhersagen — eine Fähigkeit, die für die Wirkstoffentwicklung und die Entschlüsselung biologischer Mechanismen erheblich ist. Die Frage, ob AlphaFold3-Vorhersagen direkt als Grundlage für Gen-Edits taugen, lässt sich derzeit nicht mit Zahlen beantworten: Studien zu spezifischen Fehlerraten solcher Anwendungen liegen nicht vor. Was vorliegt, ist ein Benchmark für Protein-Protein-Komplexe: Dort zeigt AlphaFold3 beim Vergleich mit experimentellen Strukturen eine um 8,6 Prozent erhöhte Fehlerquote bei der Vorhersage von Bindungsenergieänderungen. Bei flexiblen Proteindomänen und Ligandenbindungsstellen bleibt die Genauigkeit weiter hinter experimentellen Methoden zurück.

Kontrast-Satz. AlphaFold3 wurde als Quantensprung für die Strukturbiologie angekündigt — die bislang verfügbaren Validierungsdaten zeigen ein Modell, das in präzisen Anwendungsfällen spezifisch und quantifizierbar versagt.

Das Vertrauensproblem ist kein Randproblem

Ein Patient weiß nun, dass der Arzt für seinen Brief eine KI nutzt. Was passiert? Eine im Deutschen Ärzteblatt referierte Studie zeigt: Das Vertrauen in den Arzt sinkt — und zwar auch dann, wenn die KI ausschließlich für administrative Aufgaben eingesetzt wird, nicht für die Diagnose selbst. Die Terminbereitschaft geht zurück. Die Wahrnehmung der ärztlichen Empathie verschlechtert sich.

Das ist ein paradoxer Befund. Denn dieselbe Forschungslage, die KI in der Administration als Entlastung feiert, zeigt bei ChatGPT-generierten Antworten auf Patientenfragen, dass diese in Blindtests von Ärzten und Patienten in Empathie-Bewertungen häufig besser abschnitten als Antworten echter Ärzte — in einer vielzitierten Studie in 78,6 Prozent der verglichenen Fälle. Allerdings: Diese Studien messen schriftliche Texte in kontrollierten Settings, nicht das Gespräch auf der Bettkante um 22 Uhr.

Die Kategorie „Empathie" ist hier das Problem. Sie meint zwei Dinge gleichzeitig: die sprachliche Performance der Zugewandtheit, die KI messbar gut imitiert, und die erlebte Beziehung, die für Therapietreue, Informationsqualität und letztlich Behandlungserfolg entscheidend ist. Ob das eine das andere ersetzt, ist ungeklärt. Die Forschung hat das erste gemessen und schweigt zum zweiten.

Was Ethikräte sagen — und was sie nicht regeln

Der Deutsche Ethikrat hat in seiner Stellungnahme „Mensch und Maschine" (2023) eine klare Linie gesetzt: KI darf menschliche Entfaltung nicht vermindern. Entscheidungsgrundlagen müssen nachvollziehbar sein. Black-Box-Systeme, deren Entscheidungsfindung technisch intransparent bleibt, hält der Rat in medizinischen Kontexten mit schwerwiegenden Konsequenzen für nicht vertretbar.

Die Zentrale Ethikkommission der Bundesärztekammer ergänzt: Clinical Decision Support Systems sind willkommen, solange Ärzte in die Entscheidungsfindung einbezogen bleiben. Die Verantwortung liege weiterhin beim Arzt.

Was dabei fehlt, ist die operative Zuspitzung. „Der Arzt bleibt verantwortlich" klingt nach Klarheit; es ist in Wirklichkeit eine aufgeschobene Frage. Denn je mehr KI in Diagnose-Workflows eingebettet wird, desto mehr stellt sich das Problem, ob ein Arzt, der einem KI-Vorschlag folgt, noch sinnvoll verantwortlich gemacht werden kann — ohne die Systemgrundlage zu kennen, auf der der Vorschlag beruht. Ab August 2026 gilt der EU AI Act für Hochrisiko-KI im Gesundheitsbereich. Die Haftungsfrage bleibt damit gerahmt, nicht gelöst.

Das Milliarden-Versprechen und seine Substanz

Die Kostenfrage ist in der Debatte omnipräsent und in belastbaren Zahlen dünn. Eine Studie schätzt, dass KI im deutschen Gesundheitswesen jährlich bis zu 125 Milliarden Euro einsparen könnte — vorausgesetzt, es gibt flächendeckenden Zugang zu elektronischen Patientenakten. Deloitte beziffert das Einsparpotenzial für die GKV durch gezielte Maßnahmen, zu denen KI beitragen soll, auf bis zu 13 Milliarden Euro. Beide Zahlen sind Projektionen, keine Ist-Werte.

Was im GKV-System tatsächlich ankommt, ist noch nicht messbar. Die Ausgaben der Krankenkassen für Krankenhausbehandlungen stiegen von 2010 bis 2024 nominal von 59 auf 102 Milliarden Euro — ein Anstieg um rund 70 Prozent. Ob die laufende KI-Integration diesen Trend bremst, wird sich frühestens in drei bis fünf Jahren in den Abrechnungsdaten zeigen, wenn Implementierung, Skalierung und Nutzungsroutinen Zeit hatten, sich einzuspielen.

Eine strukturelle Hürde bleibt: Die Kosten für digitale Infrastruktur sind im dualen Krankenhausfinanzierungssystem systematisch unterfinanziert. Effizienzgewinne aus KI werden deshalb zunächst durch Digitalisierungsausgaben konsumiert, bevor sie als Nettoeinsparung sichtbar werden.

Woran sich die Deutung entscheiden wird

Das Muster, das sich abzeichnet: KI optimiert Verwaltung und diagnostische Nebenaufgaben schneller, als Regulierung und Forschung Schritt halten. Der klinische Kern — Diagnose, Therapieentscheidung, Aufklärungsgespräch — bleibt vorerst beim Arzt, weniger aus prinzipieller Entscheidung als aus regulatorischer Unsicherheit.

Für AlphaFold3 und seine Nachfolger in der Grundlagenforschung gilt dasselbe Muster mit anderen Zeitachsen: Die Vorhersagefähigkeit wächst schneller, als Validierungsstudien für spezifische Anwendungsfelder — insbesondere Gen-Editierung — nachgezogen werden. Die Lücke zwischen Leistungsversprechen und belegter Verlässlichkeit ist derzeit die wichtigste Beobachtungsgröße.

Ob sich das Effizienz-Versprechen einlöst, ohne die Arzt-Patienten-Beziehung strukturell zu beschädigen, zeigt sich in drei Jahren an zwei Indikatoren: erstens an den GKV-Leistungsausgaben je Fall in Einrichtungen mit dokumentiertem KI-Einsatz — tatsächliche Kostensenkung oder bloße Verlagerung; zweitens an Längsschnittstudien zur Patientenzufriedenheit und Therapietreue in Praxen, die Ambient Scribing eingeführt haben. Beides liegt noch nicht vor.