Falscher Alarm! KI-Detektoren irren sich – und Schüler leiden darunter

Schwierige Zeit für Schülerinnen und Studenten – auf der einen Seite steht einem die Antwort zu jeder Frage auf Knopfdruck zur Verfügung, und wenn man sich dann doch mal die Mühe macht, alles selbst zu schreiben, wird man fälschlicherweise des KI-Betrugs bezichtigt. Das Problem an der Sache: Diese KI-Detektoren funktionieren nicht!

Mehr dazu in der heutigen Ausgabe - und natürlich noch viel mehr!

Peanuts für heute:

• 🏫 Falscher Alarm! KI-Detektoren irren sich – und Schüler leiden darunter

• 🔢 Top 10 Vorhersagen für die KI-Industrie 2025

• 🛠️ Alle Top-Video Modelle in einem Tool!

🥜 Die größte Nuss:

❌ Nein, KI-Detektoren erkennen NICHT alles – und das hat Folgen!

Hätte es mal ChatGPT zu meiner Schul- oder Unizeit gegeben dürften sich viele die letzten zwei Jahre gedacht haben. Es ist auch immer wieder charmant zu sehen, wie ChatGPT & Co. während der Semesterferien weniger Website-Traffic verzeichnen. 

Das hat sich aber natürlich alles längst rumgesprochen. Immer mehr Lehrer und Professoren setzen KI-Detektoren ein, um sicherzustellen, dass Arbeiten nicht von Tools wie ChatGPT stammen. 

Doch was als Schutzmaßnahme gedacht ist, wird zunehmend zur Falle. Tools wie GPTZero, Turnitin oder Originality.AI werben zwar mit beeindruckenden Treffergenauigkeiten, in der Realität liegen die fehlerhaften Urteile jedoch weit über dem, was akzeptabel wäre. 

Immer wieder kommt es zu falschen Anschuldigungen, bei denen Schüler oder sogar professionelle Autoren zu Unrecht beschuldigt werden, ihre Texte mithilfe von KI erstellt zu haben. Die Konsequenzen solcher Fehlurteile sind schwerwiegend. 

Wie gut sind die KI Detektoren?

MIT Technology Review Studie: 

14 getestete Tools, darunter Turnitin, GPTZero und Compilatio. 

• Die Tools erkannten menschlich geschriebene Texte mit 96% Genauigkeit.

• Bei KI-generierten Texten lag die Erkennungsgenauigkeit bei 74%.

• Nach leichter Bearbeitung der KI-Texte sank die Erkennungsrate auf 42%

Weitere Studien kommen auf 1%-4% falschpositiver Ergebnisse. Allerdings steigt dieser Wert dramatisch bei Texten, die nicht von englischen Muttersprachlern kamen. Bei solchen Werten sollte man diese Tools eigentlich nicht einsetzen. 

Wie gehen die Modellhersteller damit um?

Es gibt immer wieder Bemühungen, KI-generierte Inhalte mit Wasserzeichen zu versehen. Und hier auch Branchenstandards zu setzen. Googles setzt auf SynthID, Meta will alle Bildgenerierungen mit Wasserzeichen versehen. OpenAI hat wohl auch eines, will es bisher aber nicht veröffentlichen. Und das wohl auch aus gutem Grund: Die Gefahr falscher Erkennungen ist einfach zu groß. 

Wasserzeichen haben immer ein Problem, um das man nicht herum kommt: Robustheit vs. Unauffälligkeit. Ein robustes Wasserzeichen sollte verschiedene Arten der Bearbeitung überstehen können, während es gleichzeitig für den Betrachter nicht wahrnehmbar sein sollte. Diese beiden Ziele stehen oft im Widerspruch zueinander.

Mit jedem neuen Erkennungstool gibt es ein weiteres, das genau diese Erkennung umgeht. Wir sind während unserer Recherche auf zahllose Tools gestoßen, die nichts anderes machen als einen Text wieder so umzuschreiben, dass er weniger erkannt wird. Ein endloses Wettrüsten. 

Die viel wichtigere Frage lautet, wie wir zukünftig mit dieser Technologie umgehen - und weniger, ob KI Inhalte erkennbar sind. In diesem Blog Artikel gibt das MIT Professoren ein paar Ratschläge, wie man als Lehrkraft damit umgehen sollte. Wie geht Ihr damit um? Schreibt uns gerne eine Mail an [email protected].
Artikel

📖 Das offizielle AI Peanuts Workbook!

Du hast angefangen, dich tiefer mit dem Thema KI zu beschäftigen und willst den nächsten Schritt machen? Dann ist unser offizielles AI Peanuts Workbook genau das Richtige für dich!

Das Workbook ist kein klassisches “Buch”, sondern ein praxisorientiertes, interaktives digitales Dokument. Gegliedert in 3 Teile:

Theorie — Der Textbuch-Teil des Workbooks, in dem wir das Thema KI und seine technischen Grundlagen erklären.
Praxis — Eine Reihe von praktischen Tutorials, mit denen du lernst, KI praktisch anzuwenden (z.B.: ChatGPT Masterprompts, HeyGen, NotebookLM, Midjourney…)
Daten — Datenbanken mit den besten KI-Tools und den spannendsten Firmen im KI-Umfeld.

🛠️ Trai it out:

Krea — Das Tool haben wir hier schon mal vorgestellt, weil es u.a. super für die KI-Bilderstellung geeignet ist. Jetzt kommt es mit einem Update und vereint gleich mehrere beliebte Video-Modelle in einem: Luma, Runway, Kling, Hailuo und Pika. Das ist genial - weil es das Thema KI-Videoerstellung noch zugänglicher macht und möglich macht, über das eigene Ausprobieren ein besseres Gefühl für die Fähigkeiten und Limitationen der unterschiedlichen Anbieter zu bekommen.

Weitere Neue Tools, Updates & Demos:

• RealFakePhotos* — Wir dachten ja, das Thema KI-Headshots sei durchgespielt. Aber dieses Tool - dahinter steckt ein Team aus Deutschland und der Schweiz - liefert wirklich Top Ergebnisse
  

• TimeSkip — Für Video-Creator - Youtube Kapitel mit Hilfe von KI erstellen
  

• Trag — Für Entwickler - Hilft beim Code Review
  

• xAI API — Elon Musk’s OpenAI Konkurrenz kommt jetzt nicht nur in Form von Grok, sondern auch als API

*Affiliate Link - d.h. bei Kauf erhalten wir eine kleine Provision. Wir empfehlen nur Tools, die wir auch wirklich gut finden.

🍭🍬 Gemischte Tüte

🇪🇺 EU-News:

• Das Europäische Parlament erweitert mit Claude den Zugang zu seinen Archiven. NOCHMAL…DAS EU PARLAMENT NUTZT KI! FREIWILLIG! Link
  

• ASML, das niederländische Unternehmen, das die riesigen Lithografiemaschinen baut, die für die Chipherstellung benötigt werden, hat diesen Monat die Erwartungen der Investoren enttäuscht. Der Markt verlangsamt sich, aber TSMC hat genau nach Plan geliefert. Link

  👩‍💻 Tech-News:

• Ein smarter Artikel von A16Z über den Einsatz von generativer AI, um kleinen Unternehmen beim Verarbeiten unstrukturierter Daten zu helfen. Das AI Peanuts-Team hat kürzlich etwas Ähnliches für ein Mittelstands-Unternehmen in Deutschland umgesetzt. Link
  

• Video-Interview mit Kevin Weil, OpenAIs Head of Product (früher Twitter und Instagram). Link
  

• Wenig überraschend: Mira Murati, die gerade als CTO von OpenAI zurückgetreten ist, sammelt jetzt Geld für ein neues Unternehmen. Wie viele Grundlagenmodelle von Ex-OpenAI-Leuten brauchen wir eigentlich? Link
  

• Die AI-Suchmaschine Perplexity verhandelt über eine Bewertung von 9 Milliarden Dollar. Link
  

• Meta’s AI-Chef sagt, Weltmodelle seien der Schlüssel zu „menschlicher KI“ – aber das könnte noch 10 Jahre dauern. Link
  

• Ein Datenengpass bremst die AI-Forschung aus, sagt einer der neuen Nobelpreisträger. Link
  

• Mitsubishi präsentiert AI-gesteuerte Kampfdrohnen. Link
  

• Meta AI veröffentlicht Meta Spirit LM, ein Open-Source-Modell, das Text und Sprache kombiniert. Link
  

• WhatsApp testet eine neue Meta-AI-Chat-Memory-Funktion in der Beta-Version. Link
  

• Lenovo enthüllt auf der Tech World 2024 ein breites Spektrum an KI-Lösungen. Link

👷 Work:

• Amazon hat eine ganze Suite von AI-gesteuerten Automatisierungstools gestartet, um Werbetreibenden bei der Erstellung von Assets zu helfen. Link
  

• So optimiert Uber das Training von LLMs mit Open Source und In-House-Lösungen. Link

🆕 Neue Anwendungsfelder:

• Papst Franziskus und der Vatikan haben gerade eine „AI-Bibel“ geschaffen, die den Glauben im digitalen Zeitalter neu definieren soll...Amen! Link

🔐 Cybersecurity:

• Wahnsinn! Ein Deepfake-Romanzbetrug hat Männer in ganz Asien dazu gebracht, über 46 Millionen Dollar zu verlieren, wie die Polizei in Hongkong berichtete. Link

🏥 Health:

• Nvidia, Google und Microsoft fahren nach Las Vegas, um ihre Healthcare-AI-Tools zu präsentieren. Link
  

• Benchmarking maschineller Lernmethoden zur Vorhersage synthetischer Sterblichkeit bei Krebs. Link
  

• Neue AI-gesteuerte Nanotechnologie soll Arterienblockaden ohne Operation behandeln. Link

🖼️ Kreativindustrie:

• Adobe hat eine Studie zu AI in der Kreativbranche veröffentlicht. Link
  

• Adobe setzt weiterhin auf generative AI und hat diese Woche sein Firefly-Tool auch auf Video erweitert, mit voller Nutzerkontrolle und natürlich rechtlicher Absicherung. Link
  

• Adobe stellt ein neues AI-Tool vor, das 2D-Kunst wie 3D-Objekte rotieren lässt. Link

🔥 Hot Takes:

• Der „State of AI“-Bericht von Air Street für 2024 ist raus. Das Meiste ziemlich technisch, aber Nathan Benaich weiß, wovon er spricht! Absolut lesenswert. Link

• Hier sind bspw. 10 Vorhersagen für die nächsten 12 Monate:

  1. Eine Investition von über 10 Milliarden US-Dollar von einem souveränen Staat in ein großes US-amerikanisches KI-Labor löst eine nationale Sicherheitsüberprüfung aus.

  2. Eine App oder Website, die von jemandem ohne Programmierkenntnisse erstellt wurde, wird viral gehen (z. B. App Store Top-100).

  3. Frontier-Labore implementieren bedeutende Änderungen an den Datenpraktiken, nachdem Fälle vor Gericht gebracht werden.

  4. Die frühe Umsetzung des EU-KI-Gesetzes wird weicher als erwartet ausfallen, nachdem Gesetzgeber befürchten, zu weit gegangen zu sein.

  5. Eine Open-Source-Alternative zu OpenAI o1 übertrifft dieses in einer Vielzahl von Reasoning-Benchmarks.

  6. Herausforderer schaffen es nicht, eine bedeutende Delle in NVIDIAs Marktposition zu hinterlassen.

  7. Die Investitionen in humanoide Roboter werden zurückgehen, da Unternehmen Schwierigkeiten haben, ein passenden Produkt-Market-Fit zu erreichen.

  8. Starke Ergebnisse von Apples On-Device-Forschung beschleunigen die Dynamik rund um persönliche On-Device-KI.

  9. Eine von einem KI-Wissenschaftler generierte Forschungsarbeit wird auf einer großen ML-Konferenz oder einem Workshop akzeptiert.

  10. Ein Videospiel, das auf der Interaktion mit GenAI-basierten Elementen basiert, wird zum Durchbruch gelangen.

🧂 Salty Memes:

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]