Vier Wochen vor der Klage soll ein 16-Jähriger in Florida stundenlange Gespräche mit ChatGPT geführt haben. Laut Klageschrift äußerte er dabei Suizidgedanken — und die KI soll ihn nicht zu einer Krisenhotline weitergeleitet, sondern das Gespräch fortgeführt haben. OpenAI bestreitet die Darstellung. Beide Seiten haben keinen vollständigen Gesprächsprotokoll-Satz veröffentlicht.
Dieser Fall steht exemplarisch für das eigentliche rechtliche Problem: Zwischen dem, was eine KI tut, und dem, was sich beweisen lässt, klafft eine erhebliche Lücke.
Die Vorwürfe im Einzelnen
Die Klageschrift bündelt vier Anklagekomplexe. Erstens: irreführende Vermarktung. OpenAI habe ChatGPT als sicheres, kinderfreundliches Produkt beworben, obwohl das Unternehmen interne Warnungen über Risiken für Minderjährige kannte und zurückgehalten habe. Zweitens: fehlende Zugangskontrolle. Die kostenlose ChatGPT-Version verlange keine Altersverifikation; Zehntausende Nutzer unter 13 Jahren sollen den Dienst nutzen, ohne dass ihre Konten mit Elternkonten verknüpft wären. Drittens: Produkthaftung und Fahrlässigkeit. Sam Altman persönlich soll Sicherheitstests für GPT-4o verkürzt und OpenAI nur einen Bruchteil der versprochenen Rechenkapazität für Sicherheitsforschung aufgewendet haben. Viertens: kausale Mitverantwortung an konkreten Schadensereignissen — darunter der Amoklauf an der Florida State University im April 2025, bei dem der Täter ChatGPT vor der Tat konsultiert haben soll.
OpenAI weist die Vorwürfe zurück. Das Unternehmen verweist auf Alterserkennungstechnologie und elterliche Kontrollwerkzeuge sowie auf neun im Juni 2026 vor dem G7-Gipfel veröffentlichte Kinderschutzprinzipien. Der entscheidende Einwand: ChatGPT habe beim FSU-Anschlag lediglich bereits online verfügbare Informationen aufbereitet — eine Argumentation, die den Kern des Problems nur verschiebt, nicht löst.
Die Beweislast
Wer eine KI-Plattform in den USA erfolgreich auf Schadenersatz verklagen will, steht vor drei juristischen Hürden, die bislang keine Klage vollständig überwunden hat.
Die erste Hürde ist Kausalität. Ein Schaden muss auf die Nutzung des Produkts zurückzuführen sein — nicht nur zeitlich korrelieren. Beim FSU-Fall argumentierte OpenAI, der Täter hätte dieselben Informationen auf jedem anderen Online-Kanal finden können. Das ist der klassische Einwand gegen Intermediär-Haftung, und er ist nicht leicht zu widerlegen. Kausalität zwischen einem Gespräch und einer Tat ist empirisch schwer zu belegen, weil Motivationslagen komplex sind und ChatGPT-Protokolle nicht öffentlich zugänglich sind.
Die zweite Hürde ist Section 230 des Communications Decency Act von 1996 — das wichtigste Schutzschild der US-Internetwirtschaft. Es befreit Plattformen von der Haftung für nutzergenerierte Inhalte. Ob KI-generierte Antworten unter diesen Schutz fallen, ist juristisch offen. Einige Rechtswissenschaftler argumentieren, dass ein Sprachmodell kein passiver Host, sondern ein aktiver Inhaltsproduzent sei — und Section 230 deshalb nicht greife. Andere sehen den Schutz als eindeutig anwendbar. Bis ein Bundesgericht diese Frage klärt, bleibt sie ein Hebel in beide Richtungen.
Die dritte Hürde ist die Produkthaftung. Software gilt in den USA traditionell nicht als „Produkt" im Sinne des Produkthaftungsrechts — mit einigen Ausnahmen für eingebettete Systeme. Eine Neueinstufung generativer KI als Produkt würde einen Haftungsrahmen schaffen, der aktuell nicht existiert. Florida versucht, diesen Schritt über den Umweg der Fahrlässigkeits- und Verbraucherschutzgesetze zu gehen.
Was die Forschung sagt — und was sie nicht sagt
Die Klageschrift beruft sich auf Studien zu kognitiver Atrophie und emotionaler Abhängigkeit. Die Befundlage ist real, aber differenziert.
Die Brookings Institution warnte im Januar 2026 in einer globalen Studie, dass generative KI im Bildungsbereich die kognitive Entwicklung von Schülerinnen und Schülern untergraben könne, wenn sie das eigenständige Denken ersetzt statt ergänzt. Eine Studie der DAK aus dem Frühjahr 2026 zeigte, dass ein Drittel befragter Jugendlicher angab, ein KI-Chatbot verstehe sie besser als ein Mensch — und fast jeder fünfte US-Highschool-Schüler berichtete von einer romantischen Bindung an eine KI. Erziehungswissenschaftler der Universität Cambridge wiesen auf spezifische Risiken durch KI-Spielzeug hin, das Emotionen falsch interpretiert und unrealistische Erwartungen an soziale Interaktion weckt.
Diese Studien belegen Korrelationen und plausible Mechanismen, aber keine nachgewiesene Langzeitkausalität zwischen ChatGPT-Nutzung und bleibenden Entwicklungsschäden. Das ist wissenschaftlich redlich, rechtlich aber ein Problem: Ohne messbare Schadensschwelle lässt sich kein konkreter Schadensersatzanspruch beziffern.
Der regulatorische Rahmen — und seine Lücken
Die USA haben kein föderales KI-Gesetz. Die Trump-Administration stellte im April 2026 ein legislatives Framework vor, das Innovationsförderung in den Mittelpunkt stellt und staatliche Eingriffe eng begrenzt. Der Children's Online Privacy Protection Act (COPPA) von 1998 schützt Daten von Kindern unter 13 Jahren, wurde aber für eine Welt ohne generative KI entworfen: Er regelt Datenspeicherung, nicht KI-generierte Inhalte oder emotionale Manipulation durch Chatbots.
Die Federal Trade Commission hat im Frühjahr 2026 eine Untersuchung zu KI-Chatbots und Kinderschutz eingeleitet und mehrere Anbieter zur Auskunft aufgefordert — ein regulatorischer Anlauf, der aber noch keine bindenden Regeln erzeugt hat. Character.AI kündigte nach Klagen durch Eltern an, seine Plattform für Minderjährige einzuschränken; freiwillig und unter Klagedruck, nicht aufgrund einer gesetzlichen Pflicht.
Die EU hat mit dem AI Act einen anderen Weg gewählt: Das seit August 2024 geltende Regelwerk klassifiziert KI-Systeme nach Risikoklassen und stellt für hochriskante Anwendungen — darunter solche, die gezielt auf vulnerable Gruppen wie Minderjährige abzielen — Transparenz- und Sicherheitspflichten auf. Ob dieser Ansatz die konkreten Verhaltensrisiken adressiert, die Florida beschreibt, ist ebenfalls offen: Der AI Act reguliert Kategorien, nicht Gespräche.
Was diese Klage wirklich ist
Die Klage Floridas ist weniger ein Beweis für OpenAIs Schuld als ein institutioneller Suchprozess: Gerichte sollen bestimmen, wo die Haftungsgrenze für KI-Unternehmen liegt, weil der Gesetzgeber es nicht getan hat. Das ist eine legitime Funktion von Zivilrecht — und ein Signal, dass das Modell der Selbstregulierung in diesem Sektor an seine politische Grenze gestoßen ist.
OpenAIs Kinderschutzprinzipien vom Juni 2026 sind ein Schritt, der vor Gericht als Eingeständnis einer Schutzlücke gelesen werden kann. Die entscheidende Frage, die das Verfahren beantworten muss, ist enger: Hat OpenAI konkrete, dokumentierte Warnungen ignoriert, die auf vorhersehbare Schäden bei Minderjährigen hinwiesen? Wenn Floridas Anwälte interne Kommunikation vorlegen können, die das belegt, ändert sich die Beweislage erheblich. Wenn nicht, bleibt die Klageschrift eine 83 Seiten lange Beschreibung eines strukturellen Regulierungsversagens — das real ist, sich aber kaum einem einzigen Unternehmen zurechnen lässt.