Die Klage stützt sich auf den Florida Deceptive and Unfair Trade Practices Act und fordert Strafen, die laut Uthmeier in die Milliarden gehen könnten.
Das klingt nach einem Wendepunkt. Es ist keiner. Und das ist das eigentliche Problem.
Das stärkste Argument für strenge Regulierung
Wer die Klage liest, erkennt das stärkste Argument für harte KI-Vorschriften: Unternehmen, die im Innovationstakt operieren, rechnen Sicherheitskosten als Wettbewerbsnachteil. Wenn Regulierung fehlt, wird diese Kalkulation zur Unternehmensrationalität. Florida behauptet, OpenAI habe interne Sicherheitswarnungen bewusst ignoriert, um die Markteinführung nicht zu verzögern. Ob das vor Gericht standhält, ist offen. Als Systemdiagnose trifft es etwas Reales: Märkte schützen Kinder nicht von selbst.
Die EU hat diese Diagnose ernster genommen als die USA. Der AI Act stuft KI-Systeme, die Minderjährige manipulieren oder deren Schwachstellen ausnutzen, als inakzeptables Risiko ein und verbietet sie. Deepfakes unterliegen ab August 2026 Transparenzpflichten. Das Europäische Parlament hat Nudifier-Apps – also Anwendungen, die nicht-einvernehmliche intime Bilder erzeugen – verboten. Bildungs-KI, die Lebenschancen junger Menschen stark beeinflusst, gilt als Hochrisiko-System.
Das ist kein Regulierungswahn. Das ist die Logik, dass Grundrechtsschutz nicht auf Selbstverpflichtungen eines Unternehmens beruhen kann, das gerade verklagt wird, weil seine Selbstverpflichtungen nicht reichten.
Was an der Florida-Klage trotzdem nicht stimmt
Die Klage behauptet mehr, als sie belegen kann – und genau darin liegt ihre Schwäche als Regulierungsmodell.
Uthmeier knüpft die Klage an den mutmaßlichen Amoklauf an der FSU im April 2025, bei dem der Täter ChatGPT genutzt haben soll. Das ist ein Kausalitätsanspruch, der vor keinem seriösen Gericht ohne umfassende Beweislage trägt. ChatGPT hat den Amoklauf nicht geplant. Ein Mensch hat ihn geplant. Die Frage, welche Verantwortung ein Werkzeug für den Missbrauch durch seinen Nutzer trägt, ist komplex – und diese Komplexität durch eine Milliarden-Klage zu übergehen, bringt keine brauchbare Antwort.
Hinzu kommt: Florida reguliert mit dem Instrument der Klage. Das ist reaktive Rechtspolitik, keine Prävention. Während Floridas Klage durch die Instanzen wandert – möglicherweise Jahre – läuft ChatGPT weiter. Andere Staaten, darunter New York und Colorado, führen parallele Untersuchungen durch, ohne koordinierte Strategie. Das Ergebnis ist ein Flickenteppich aus Ermittlungen, der weder Kinder schützt noch Rechtssicherheit schafft.
Effizienz und Demokratie: kein Widerspruch, aber eine Reihenfolge
Die übliche Debatte lautet: Zu viel Regulierung bremst Innovation; zu wenig gefährdet Grundrechte. Dieser Rahmen ist bequem und falsch.
Schätzungen zufolge könnten bis zu 60 % untersuchter KI-Anwendungen unter den Hochrisikobereich des EU AI Acts fallen, mit erheblichen Compliance-Kosten besonders für kleinere Unternehmen. Das ist ein realer Effizienzverlust, den man nicht wegdiskutieren sollte. Sam Altman hat öffentlich gewarnt, EU-Regulierungen könnten den Zugang zu KI in Europa einschränken.
Aber: Effizienz ist kein Selbstzweck. Ein KI-System, das schneller auf dem Markt ist und Kinder schädigt, ist nicht effizienter. Es ist billiger produziert – auf Kosten derer, die die Schäden tragen. Die Frage ist daher nicht, ob reguliert wird, sondern wie präzise.
Und hier liegt das eigentliche Versagen: nicht in der Existenz von Regeln, sondern in deren Schärfe. Der EU AI Act hat das Richtige erkannt – KI-Systeme, die Minderjährige manipulieren, gehören verboten – aber die Durchsetzung bei grenzüberschreitenden Diensten wie ChatGPT bleibt eine offene Flanke. OpenAI sitzt in San Francisco, nicht in Frankfurt. Was nützt ein europäisches Verbot, das sich auf ein US-Unternehmen nicht erstreckt, solange kein bilateraler Durchsetzungsrahmen existiert?
Florida fragt die falsche Frage – „Wer zahlt?" –, statt die richtige zu stellen: „Was muss ein KI-System nachweisen, bevor es Kindern zugänglich gemacht wird?"
Was stattdessen nötig wäre
Drei Eingriffe wären wirkungsvoller als eine Klage, deren Ausgang offen ist:
Erstens: vorgelagerte Zertifizierungspflicht. Wer ein KI-System für unter 18-Jährige zugänglich macht, muss vor dem Launch eine unabhängige Risikobewertung vorlegen – nicht danach. Das ist kein neues Prinzip; Arzneimittel und Fahrzeuge kennen es seit Jahrzehnten.
Zweitens: echte Altersverifikation mit Datensparsamkeit. OpenAI verweist auf altersvorhersagende Technologien und elterliche Kontrollwerkzeuge – die, wie Florida zutreffend bemerkt, von Kindern umgangen werden können. Funktionale Altersverifikation, die nicht zugleich Datenberge über Minderjährige anlegt, ist technisch lösbar. Sie ist politisch nicht erzwungen worden.
Drittens: transatlantische Mindeststandards. Die USA verfolgen einen fragmentierten Ansatz aus Einzelklagen und Bundesstaatsinitiativen ohne Bundesrahmen; die EU hat Regeln ohne Durchsetzungsmacht gegenüber US-Diensten. Solange kein gemeinsamer Mindestandard für Kinder-Schutzpflichten existiert, werden Unternehmen regulatorische Arbitrage betreiben – und Kinder zahlen die Differenz.
Die Florida-Klage verdient mehr als Häme. Die Wut, die ihr zugrunde liegt, ist berechtigt. Ein Teenager, dem ein KI-System Ratschläge zur Selbsttötung liefert, ist kein hypothetischer Schaden. Aber eine 83-seitige Klage, die einen Chatbot für einen Amoklauf mitverantwortlich macht und Milliardenschäden fordert, ohne einen funktionalen Schutzrahmen einzufordern, löst das Problem nicht. Sie schreibt Schlagzeilen.
Kinder brauchen Regeln, die vor dem Schaden greifen. Nicht Klagen, die danach kommen.