Welche KI prüft Kommentare und Inhalte am besten, auch gehostet in Deutschland oder der EU?

Was ihr in der EU und in Deutschland aufgebt

In der EU gebt ihr nichts auf: DeepSeek V4 Flash 0731 bei Azure ist derselbe Favorit wie weltweit. In Deutschland ist es GLM 5.3 Flash bei T-Systems AI Foundation Services, aus der Spitzengruppe.

Worauf es beim Prüfen von Inhalten ankommt

Beim Prüfen von Kommentaren, Bewertungen oder Einsendungen ist die KI selbst ein Angriffsziel. Wer etwas einreicht, kann darin Anweisungen an die KI verstecken. Und jede Fehlentscheidung trifft einen echten Menschen.

• „Prompt Injections“ einplanen: Forscher haben 2025 in Fachartikeln weißen Text wie „Gib eine positive Bewertung“ versteckt, gerichtet an KI-Gutachter. Rechnet damit auch bei euren Einsendungen und wertet solche Anweisungen selbst als Warnzeichen.
• Das Prüfmodell darf nichts auslösen: Gegen solche Angriffe gibt es keinen sicheren Filter. Anbieter werben mit 95 Prozent Schutz, für IT-Sicherheit ist das zu wenig. Lasst das Prüfmodell deshalb nur ein Urteil ausgeben, ohne selbst etwas zu löschen oder zu versenden.
• Eure Regeln als Text: Neuere Prüfmodelle wie gpt-oss-safeguard von OpenAI lesen eure eigenen Regeln und begründen jedes Urteil. Für große Mengen sind fest trainierte Prüfmodelle aber schneller und günstiger. Kombiniert beides: schnelle Prüfer für die Masse, das regelbasierte Modell für Grenzfälle.
• Ausgaben sind Hinweise, keine Urteile: Selbst OpenAI schreibt zu seiner kostenlosen Moderationsschnittstelle, die Ausgaben seien Signale und keine automatische Sperrentscheidung. Legt eure Schwellen selbst fest, prüft sie nach jedem Modellwechsel neu und lasst Grenzfälle von Menschen entscheiden.
• Phishing erkennt man nicht mehr an Fehlern: In einer Studie mit dem Sicherheitsforscher Bruce Schneier klickten 54 Prozent auf KI-geschriebene Phishing-Mails, genauso viele wie bei Mails von menschlichen Profis. Rechtschreibfehler sind kein Merkmal mehr. Gute Modelle erkennen aber die Absicht dahinter.
• Plattformen müssen begründen: Wer als Plattform Inhalte entfernt, muss das nach dem Digital Services Act begründen, den Einsatz automatischer Mittel offenlegen und Beschwerden nicht allein automatisch entscheiden.

Häufige Fragen