Stellen Sie sich vor, Sie recherchieren ein juristisches Gutachten. Ein großes Sprachmodell liefert Ihnen auf Anfrage ein scheinbar perfektes Oberlandesgerichtsurteil – inklusive Aktenzeichen, Entscheidungsdatum und fundierter Begründung. Das Problem: Weder Urteil noch Gericht existieren in dieser Form. Die KI hat halluziniert.
Drucken Sie dieses Dokument aus und legen es Ihrem Mandanten oder gar einem Gericht vor, halten Sie eine täuschend echte Fälschung in Händen. Das deutsche Strafrecht aber sieht darin – juristisch betrachtet – weitgehend eine straflose Lüge. Wie kann das sein?
Das Versprechen der Urkunde
§ 267 StGB schützt den Rechtsverkehr vor gefälschten Urkunden. Eine Urkunde ist danach jede verkörperte Gedankenerklärung, die einen Aussteller erkennen lässt und zum Beweis im Rechtsverkehr bestimmt ist. Das klassische Beispiel: der unterschriebene Kaufvertrag, das amtliche Siegel, der echte Gerichtsbeschluss.
Eine Urkunde ist unecht, wenn der scheinbare Aussteller nicht mit dem tatsächlichen Aussteller übereinstimmt – etwa weil jemand eine fremde Unterschrift fälscht. Die jahrhundertealte Logik: Wer eine Urkunde fälscht, täuscht gezielt über ihre Herkunft. Genau an dieser Stelle scheitert die klassische Strafbarkeit bei KI-generierten Halluzinationen.
Das Problem mit dem Aussteller
Eine Chat-KI, die ein nicht existentes Aktenzeichen oder ein erfundenes Gerichtsurteil ausgibt, erzeugt einen statistisch plausiblen Token-Strom – ohne Willen, ohne Erklärungsbewusstsein und ohne erkennbaren menschlichen Aussteller. Das deutsche Strafrecht kennt jedoch nur menschliche Täter. Eine KI kann nicht bestraft werden; sie besitzt keine Rechtspersönlichkeit.
Selbst wenn man das Dokument in den Mittelpunkt stellt, gerät die Dogmatik ins Wanken: Eine Urkunde setzt voraus, dass ein identifizierbarer (scheinbarer) Aussteller von einem tatsächlichen abweicht. Bei der KI-Halluzination fällt diese Täuschung über die Identität des Ausstellers weg – der eigentliche Erzeuger ist ein stochastischer Algorithmus, rechtlich „niemand“. Konkret: Ein Ausdruck mit dem maschinell generierten Vermerk „Erstellt von ChatGPT“ ist formal echt, weil der Aussteller korrekt benannt ist – der Inhalt mag falsch sein, aber das ist straflos. Ein Ausdruck ohne solche Kennzeichnung hat überhaupt keinen rechtlich identifizierbaren Aussteller. In beiden Fällen scheitert § 267 StGB.
Eine Brücke ins Digitale: § 269 StGB
Näher am Problem liegt eigentlich § 269 StGB (Fälschung beweiserheblicher Daten). Dieser Tatbestand erfasst das Herstellen oder Verändern von Daten, die bei ihrer Wahrnehmung den Eindruck einer unechten Urkunde erwecken. Nach überwiegender Auffassung könnten KI-generierte PDFs oder Word-Dateien mit erfundenen Gerichtsurteilen hier subsumiert werden, sofern sie bei Wahrnehmung den Eindruck einer echten Urkunde erwecken. Die entscheidende Frage: Ersetzt die KI den menschlichen Willensakt durch statistische Token-Prognose? Die Rechtsprechung steht hier erst am Anfang – und damit auch die strafrechtliche Erfassung: nicht bewusste Manipulation, sondern statistische Plausibilitätserzeugung.
Wer haftet dann? Der Nutzer?
Der naheliegende Gedanke: Der Mensch, der das KI-Dokument in Verkehr bringt, müsste haftbar sein. Theoretisch ja – praktisch scheitert es meist am Vorsatzerfordernis. § 267 und § 269 StGB sind reine Vorsatzdelikte. Wer gutgläubig auf die Ausgabe vertraut, handelt nicht vorsätzlich.
Bei wiederholter Nutzung eines als halluzinationsanfällig bekannten Modells für sensible Bereiche (z. B. Gerichtsvorlagen) könnte ein Gericht durchaus bedingten Vorsatz annehmen – wenn der Nutzer Warnungen ignoriert und die Prüfung unterlässt. Die typische Recherche-Situation erfüllt diese Schwelle aber selten. Auch die Konstruktion der mittelbaren Täterschaft (KI als „Werkzeug“) stößt an Grenzen, solange der Nutzer nicht bewusst eine Täuschung über den Aussteller anstrebt.
Der Gesetzgeber reagiert – aber unzureichend
Die Rechtslage ist nicht mehr völlig vakuumös. Der EU AI Act (Verordnung 2024/1689) führt Transparenzpflichten ein (Art. 50): KI-generierte Inhalte müssen in vielen Fällen als solche gekennzeichnet werden. Verstöße können mit hohen Bußgeldern (bis 35 Mio. Euro bzw. 7 % des globalen Umsatzes) geahndet werden – allerdings als Ordnungswidrigkeit, nicht als Straftat.
Die geplante KI-Haftungsrichtlinie wurde im Februar 2025 von der Kommission zurückgezogen. Die neue Produkthaftungsrichtlinie (EU) 2024/2853, die digitale Produkte ausdrücklich einschließt, muss bis Dezember 2026 in nationales Recht umgesetzt werden. Geschädigte können dann unter bestimmten Voraussetzungen Schadensersatz für Vermögensschäden durch fehlerhafte KI-Ausgaben verlangen – inklusive teilweiser Beweislastumkehr.
Was also tun? Notwendige Reformen
Die strafrechtliche Schutzlücke bleibt vorerst bestehen. Drei gezielte Schritte wären sinnvoll:
- Erweiterung des § 269 StGB: Die automatisierte Erzeugung täuschend echter Scheinurkunden (insbesondere mit amtlichen Strukturen wie Aktenzeichen, Gerichtsbezeichnungen etc.) sollte der klassischen Urkundenfälschung gleichgestellt werden – unabhängig von einem menschlichen „Ausstellerwillen“.
- Verschärfte Aufsichtspflichten für KI-Betreiber: Nach dem Vorbild des § 130 OWiG könnten bei systematischer Vernachlässigung von Sorgfaltspflichten (z. B. fehlende Faktenverifikation oder Kennzeichnung) auch strafrechtliche Sanktionen möglich werden.
- Technische Standards mit strafbewehrter Pflicht: C2PA-konforme Wasserzeichen oder maschinenlesbare Provenance-Metadaten – kombiniert mit einer strafbewehrten Pflicht, solche Kennzeichnungen nicht böswillig zu entfernen oder zu umgehen.
Zum Schluss
Bis diese Lücken geschlossen sind, gilt der alte Grundsatz in verschärfter Form: Vertrauen Sie keiner KI-Quelle, die Sie nicht selbst zweifelsfrei überprüft haben. Wer ein halluziniertes Gerichtsurteil ausdruckt und verwendet, ist im Zweifel weder klarer Täter noch geschütztes Opfer – sondern vor allem gutgläubig. Und genau diese Gutgläubigkeit schützt das geltende Strafrecht in diesem Fall nur unzureichend.
Der Rechtsverkehr verdient besseren Schutz vor der neuen Qualität algorithmisch erzeugter Falschinformationen.
