KI-Sicherheit: Zwischen IPO-Hype und dem Ruf nach Verantwortung

Die Frage, wem er gehört, ist es auch.

Genau darum dreht sich die KI-Debatte im Gesundheitssektor – nicht um Science-Fiction, sondern um eine sehr konkrete Verteilungsfrage: Wer trägt das Risiko, wenn KI-Systeme versagen? Und wer kassiert, wenn sie treffen?

Das beste Argument für Tempo

Beginnen wir fair: Die Industrie hat die stärkste Position auf ihrer Seite. Die klassische Medikamentenentwicklung kostet im Schnitt 2,8 Milliarden US-Dollar und dauert zwölf Jahre – bei einer Misserfolgsrate, die selbst in frühen Studienphasen bei gut 50 % liegt. KI-gestützte Ansätze können diese Quoten nachweislich verbessern: Amgen reduzierte die Entwicklungszeit bis zur klinischen Prüfung um 60 %, frühe KI-Kandidaten erreichen in Phase-I-Studien Erfolgsraten von knapp 90 %. Drug-Repurposing – die Wiederbelebung gescheiterter Wirkstoffe für andere Indikationen – senkt Kosten auf durchschnittlich 300 Millionen US-Dollar bei Entwicklungszeiten zwischen drei und zwölf Jahren.

Wer in diesem Tempo bremst, riskiert, dass Medikamente gegen seltene Erkrankungen, gegen resistente Keime, gegen Krankheiten ohne profitable Marktgröße schlicht nicht entstehen. Das ist kein abstraktes Argument – es ist der konkrete Preis von Regulierungsversagen.

Wo das Argument kippt

Und doch: Die Prämisse, dass schnelle Marktdurchdringung automatisch breiten Nutzen erzeugt, trägt nicht.

Das erste Problem ist technischer Natur. Forscherinnen der Universität Basel haben gezeigt, dass aktuelle KI-Modelle zur Medikamentenentwicklung zwar Muster in Daten erkennen, aber die zugrundeliegenden physikalisch-chemischen Prinzipien nicht verstehen. Bei neuen Proteinen oder strukturell neuartigen Wirkstoffen versagen sie. Was in der Trainingsdomäne brilliert, kann jenseits davon gefährlich falsch liegen – und im medizinischen Kontext heißt falsch: Menschen sterben, oder es hilft nicht, was helfen sollte.

Das zweite Problem ist strukturell. Sozialwissenschaftlerin Safiya Noble, Professorin an der UCLA, hat für den Bereich der Suchalgorithmen belegt, was strukturell auch für medizinische KI gilt: Systeme, die auf historischen Datensätzen trainiert wurden, übertragen die Ungerechtigkeiten der Vergangenheit in die Zukunft. Medizinische Trainingsdaten sind systematisch verzerrt – Frauen, People of Color und einkommensschwache Bevölkerungsgruppen sind in klinischen Studien chronisch unterrepräsentiert. Ein Algorithmus, der auf diesen Daten optimiert, reproduziert keine Neutralität; er kodiert Ausschluss.

Das dritte Problem ist ökonomisch. Selbst wenn KI die Entwicklungskosten um 30 % senkt, ist nicht geklärt, wer von dieser Ersparnis profitiert. Die Pharmaindustrie hat in KI-bezogene Unternehmen zwischen 2014 und 2024 über 400 % mehr investiert als in den Jahren zuvor. Investitionen dieser Größenordnung folgen Renditeerwartungen, nicht Versorgungszielen. Ein günstigeres Medikament, das ausschließlich für solvente Märkte entwickelt und dort zum Maximalpreis angeboten wird, ist kein Fortschritt für die globale Gesundheit.

Sicherheitsversprechen ohne Biss

FDA und EMA haben inzwischen gemeinsam zehn Leitprinzipien für den guten Einsatz von KI in der Medikamentenentwicklung verabschiedet. Der Ansatz ist richtig, die Substanz noch dünn. Standards für adaptive oder kontinuierlich lernende Modelle fehlen weitgehend; die Frage der Haftung – wer verantwortet einen Schaden, den ein Black-Box-Modell verursacht hat, dessen Entscheidungslogik nicht vollständig rekonstruierbar ist – ist regulatorisch unbeantwortet.

Unternehmenseigene Sicherheitsversprechen füllen diese Lücke nicht. Wenn Anthropic und OpenAI „verantwortungsvolle KI" als Markenwert positionieren, ist das nicht Regulierung – es ist Selbstverpflichtung ohne Sanktionsmechanismus. Der Unterschied ist derselbe wie zwischen einer freiwilligen Umweltbilanz und einem gesetzlichen Emissionslimit.

Was Liz Kendall richtig sieht

Die britische Ministerin Liz Kendall hat im September 2025 in ihrer Funktion als Secretary of State for Science, Innovation and Technology eine Initiative angekündigt, die bis 2030 zehn Millionen Arbeitnehmerinnen und Arbeitnehmer im Umgang mit KI qualifizieren soll. Die Formulierung, KI müsse „für alle" arbeiten, klingt nach politischem Allgemeinplatz – sie benennt aber das entscheidende Versäumnis der gegenwärtigen Debatte.

Automatisierung in Forschung und Entwicklung vernichtet bestimmte Laborberufe, bevor neue entstehen. Wer die Gewinne dieser Transition einstreicht, sind die Kapitaleigner der KI-Infrastruktur. Wer die Anpassungskosten trägt, sind Beschäftigte ohne hinreichende Absicherung. Das ist keine apokalyptische Prognose – es ist die Mechanik jeder bisherigen technologischen Disruption, wenn kein politischer Eingriff die Verteilung korrigiert.

Allerdings: Kendalls Position bleibt in einer Spannung. Ihre Sonderberaterin hat öffentlich erklärt, KI-Unternehmen schuldeten Kreativen keine Kompensation für die Nutzung urheberrechtlich geschützter Inhalte als Trainingsdaten. Wer „für alle" einfordert, muss auch erklären, warum das für Kreative nicht gilt.

Was Regulierung leisten muss

Demokratiepolitisch – und das ist das offengelegte Kriterium dieses Kommentars – ist der Kern der Frage: Entscheiden demokratisch legitimierte Institutionen über die Rahmenbedingungen dieser Technologie, oder setzt die Industrie de facto die Standards, weil die Regulierung zu langsam ist?

Vier Anforderungen sind nicht verhandelbar:

Erstens, Trainingsdaten-Audits als Zulassungsbedingung. Kein medizinisches KI-System auf den Markt ohne belegbare Herkunft, Repräsentativität und Bias-Prüfung seiner Trainingsdaten – dokumentiert gegenüber der Regulierungsbehörde, nicht nur intern.

Zweitens, Haftungsklarheit. Wer ein KI-System in die Medikamentenentwicklung einbringt, haftet für Schäden, die auf nachweisbaren Modellfehlern beruhen – auch wenn das Modell nicht vollständig erklärbar ist. Die Uninterpretierbarkeit des Black-Box-Modells ist kein Haftungsausschluss, sondern ein Risiko, das der Anbieter trägt.

Drittens, Zugangsregulierung als Gegenleistung für öffentliche Förderung. Steuerfinanzierte Grundlagenforschung, auf der KI-Medikamentenentwicklung aufbaut – von Proteinstruktur-Datenbanken bis zu öffentlich finanzierten klinischen Studien –, berechtigt zu Auflagen: Preiskorridore, Versorgungspflichten für einkommensschwache Märkte, Lizenzpflichten für vernachlässigte Krankheiten.

Viertens, partizipative Standards. Wer von algorithmischen Entscheidungen betroffen ist – Patientinnen und Patienten, Beschäftigte im Gesundheitswesen, marginalisierte Gemeinschaften –, muss in der Entwicklung von Bewertungskriterien vertreten sein. Technische Standards sind keine rein technische Frage.

Das Potenzial ist real. Zwölf Monate statt mehrerer Jahre für einen Wirkstoffkandidaten, Medikationsfehler mit 99,6 % Sensitivität erkannt – wer das verwirft, verweigert kranken Menschen Chancen. Aber ein Potenzial ist keine Garantie, und Tempo ist keine Legitimation. Wer beides verwechselt, überlässt die Entscheidung darüber, wem KI dient, denjenigen, die an ihr verdienen.