KI-Detektoren: Warum sie oft falschliegen – und was Wasserzeichen ändern

Das Wichtigste

• Stilbasierte Detektoren fragen im Kern eine KI, ob ein Text „nach KI klingt“ – das kann nicht verlässlich funktionieren. Selbst OpenAI nahm den eigenen Detektor wegen geringer Genauigkeit nach wenigen Monaten offline.
• Die Zahlen aus einem Test der MIT Technology Review (2024, 14 Tools): 96 % Trefferquote bei menschlichen Texten, nur 74 % bei KI-Texten – und nach leichter Bearbeitung nur noch 42 %.
• Falschpositive von 1–4 % klingen wenig, bedeuten aber bei tausenden geprüften Arbeiten systematisch falsche Betrugsvorwürfe – mit deutlich erhöhter Quote bei Texten von Nicht-Muttersprachlern.
• Seit dem 2. August 2026 verpflichtet der EU AI Act (Art. 50) Anbieter generativer KI, Ausgaben maschinenlesbar zu kennzeichnen – der Grund, warum Anthropic als erster Anbieter ein statistisches Text-Wasserzeichen in Claude aktiviert hat.
• Das neue Wasserzeichen beweist Claude-Beteiligung an der Wortwahl – nicht Autorschaft. Ein negativer Test sagt weiterhin fast nichts: Der Text kann von einem Menschen stammen, von einem anderen Modell oder umfassend umgeschrieben sein.

Erklärung und Kontext

Mit der Verbreitung von ChatGPT setzten Schulen und Universitäten zunehmend KI-Detektoren ein – Tools wie GPTZero, Turnitin oder Originality.AI, die mit hohen Treffergenauigkeiten werben. Was als Schutzmaßnahme gedacht war, wurde zur Falle: Immer wieder wurden Schüler und sogar professionelle Autoren zu Unrecht beschuldigt, ihre Texte von KI schreiben zu lassen.

Die Datenlage dazu war schon 2024 eindeutig. Ein Test der MIT Technology Review mit 14 Tools (darunter Turnitin, GPTZero, Compilatio) ergab: Menschliche Texte wurden zu 96 % korrekt erkannt, KI-Texte nur zu 74 % – und sobald KI-Texte leicht bearbeitet wurden, fiel die Erkennungsrate auf 42 %. Andere Studien maßen 1–4 % falschpositive Urteile, mit dramatisch höheren Werten bei Nicht-Muttersprachlern. Für Instrumente, die über Betrugsvorwürfe entscheiden, ist das disqualifizierend – die MIT-Sloan-Lehrleitlinie zieht denselben Schluss schon im Titel: „AI Detectors Don't Work.“

Der Grund ist prinzipiell: Diese Detektoren untersuchen den fertigen Text auf Merkmale, die typisch für Sprachmodelle erscheinen. Es ist Raten mit Statistik – und jedes neue Erkennungstool erzeugt sofort Gegen-Tools, die Texte so umschreiben, dass sie nicht mehr erkannt werden. Ein endloses Wettrüsten.

Der Systemwechsel: Wasserzeichen statt Stil-Raterei

2026 hat sich die Lage strukturell verändert. Seit dem 2. August gelten die Transparenzpflichten des EU AI Act (Artikel 50): Anbieter generativer KI müssen von ihren Systemen erzeugte oder manipulierte Inhalte in maschinenlesbarem Format kennzeichnen. Anthropic nennt diese Vorschrift ausdrücklich als Grund für sein neues Text-Wasserzeichen in Claude – aktiviert weltweit, weil sich die Markierung nach Unternehmensangaben nicht dauerhaft auf einzelne Regionen begrenzen lässt.

Die Technik ist elegant: Ein Sprachmodell wählt jedes Wort aus mehreren plausiblen Fortsetzungen. Für das Wasserzeichen verändert Anthropic die Quelle dieses Zufalls – der bisherige Text und ein geheimer Schlüssel beeinflussen, welche der plausiblen Fortsetzungen gewählt wird. Ein einzelnes Wort verrät nichts; über hunderte Wortentscheidungen entsteht ein statistisches Muster, das Anthropics Detektor nachweisen kann. Es stehen keine versteckten Zeichen im Text, Copy-Paste hilft nicht – die Signatur steckt in der Wortwahl selbst.

Wichtig sind die Eigenschaften, die daraus folgen:

• Stark bei Übersetzungen (praktisch jedes Wort neu gewählt), schwach bei leichten Korrekturen (zu wenige veränderte Stellen für einen Nachweis – sagt Anthropic selbst).
• Anbietergebunden: Anthropics Detektor erkennt Claude. OpenAI, Google und andere können eigene, inkompatible Verfahren nutzen. Ein negativer Claude-Test kann alles bedeuten: Mensch, Gemini, ChatGPT, altes Claude, umgeschriebener Text.
• Entfernbar: Leichte Bearbeitung übersteht das Wasserzeichen laut Anthropic wahrscheinlich; eine vollständige Neufassung entfernt es. Open-Source-Projekte zum Entfernen erschienen unmittelbar nach der Ankündigung.
• Noch nicht überprüfbar: Anthropics offizieller Detektor ist bislang nicht veröffentlicht; angekündigt ist eine Detection API. Reale Fehlerraten sind offen (Stand 19.08.2026).

Was daran wichtig ist

Die AI-Peanuts-Einordnung, zugespitzt am Juristen-Beispiel: Ein Anwalt schreibt sein Gutachten komplett selbst und lässt es von Claude nur ins Englische übersetzen. Künftig trägt die Übersetzung ein starkes Claude-Wasserzeichen – der Detektor meldet „Claude beteiligt“. Nur beantwortet dieser Treffer fast nichts: Er sagt nicht, wer recherchiert, gedacht und argumentiert hat. Er kann eine Übersetzung kaum von einem Text unterscheiden, den Claude weitgehend selbst formuliert hat.

Genau daran hängt die Grundsatzkritik: Wenn bald fast jeder Text irgendeine KI-Berührung hat (Übersetzen, Strukturieren, Korrigieren, Zusammenfassen), was sagt ein binäres „mit KI / ohne KI“ dann noch aus? Die Photoshop-Analogie der Redaktion: Praktisch jedes veröffentlichte Foto lief durch Bildbearbeitung – eine Pflichtkennzeichnung „mit Photoshop bearbeitet“ hätte heute keinerlei Informationswert. Wasserzeichen beantworten die technische Frage („War Modell X an den Wörtern beteiligt?“) zuverlässig – die eigentlich interessante Frage („Wessen Leistung ist das?“) beantworten sie nicht.

Grenzen und Risiken

• Für Lehrkräfte und Prüfer: Weder alte Detektoren noch neue Wasserzeichen taugen als alleiniger Beweis für Täuschung. Fehlbeschuldigungen treffen systematisch die Falschen (v. a. Nicht-Muttersprachler). Sinnvoller: Prüfungsformate anpassen (mündlich, prozessbegleitend, KI-transparent), statt auf Erkennung zu setzen.
• Für Unternehmen: Interne „KI-Anteil“-Prüfungen mit Stil-Detektoren sind Scheinsicherheit. Wer Nachweisbarkeit braucht, sollte auf dokumentierte Workflows setzen, nicht auf nachträgliche Erkennung.
• Für die Regulierung: Die maschinenlesbare Kennzeichnungspflicht gilt pro Anbieter – ein flächendeckendes, anbieterübergreifendes Erkennungssystem existiert nicht und ist technisch nicht in Sicht.
• Zeitstand beachten: Die Detektor-Zahlen stammen aus Tests von 2024; das Anthropic-Wasserzeichen ist seit August 2026 aktiv, sein Detektor unveröffentlicht. Beides kann sich weiterentwickeln.

Häufige Fragen

Kann ein Lehrer beweisen, dass ich ChatGPT benutzt habe?

Mit stilbasierten Detektoren: nein – ihre Fehlerraten sind zu hoch, positive wie negative Ergebnisse sind kein Beweis. Mit Anbieter-Wasserzeichen künftig teilweise: Sie können Modell-Beteiligung nachweisen, aber nicht unterscheiden, ob die KI übersetzt, korrigiert oder den Inhalt erdacht hat.

Warum beschuldigen Detektoren gerade Nicht-Muttersprachler?

Weil deren Texte statistisch eher den Mustern ähneln, die Detektoren als „KI-typisch“ gelernt haben (einfachere Satzstrukturen, konservativere Wortwahl). Studien zeigen bei diesen Texten deutlich erhöhte Falschpositiv-Raten.

Was ist der Unterschied zwischen Detektor und Wasserzeichen?

Ein Detektor rät nachträglich anhand des Stils. Ein Wasserzeichen wird beim Schreiben absichtlich eingebaut (bei Anthropic: über die schlüsselgesteuerte Wortwahl) und ist dadurch für den passenden Detektor zuverlässig nachweisbar – aber nur für Texte des jeweiligen Anbieters.

Muss ich KI-generierte Texte jetzt kennzeichnen?

Die maschinenlesbare Kennzeichnungspflicht des EU AI Act trifft die Anbieter der KI-Systeme. Für Nutzer gilt eine sichtbare Offenlegungspflicht vor allem bei veröffentlichten Texten zu Themen öffentlichen Interesses – und auch dort nicht, wenn ein Mensch den Text redaktionell geprüft hat und die Verantwortung trägt. (Keine Rechtsberatung; Details hängen vom Einzelfall ab.)

Quellen und ursprüngliche AI-Peanuts-Ausgaben

• AI-Peanuts-Ausgabe vom 22.10.2024: „Nein, KI-Detektoren erkennen NICHT alles – und das hat Folgen!“
• AI-Peanuts-Ausgabe vom 18.08.2026: „Das KI-Wasserzeichen kommt!“
• EU AI Act, Artikel 50 (Transparenzpflichten) (geprüft am 19.08.2026)
• MIT Sloan EdTech: AI Detectors Don't Work (geprüft am 19.08.2026)
• Aus den Ausgaben verlinkt: Anthropics Erklärung zum Text-Wasserzeichen (August 2026), Bloomberg zu falschen Betrugsvorwürfen (Oktober 2024)