Falscher Alarm! KI-Detektoren irren sich – und Schüler leiden darunter
PLUS: 10 Vorhersagen für KI-Industrie in 2025
Schwierige Zeit für Schülerinnen und Studenten – auf der einen Seite steht einem die Antwort zu jeder Frage auf Knopfdruck zur Verfügung, und wenn man sich dann doch mal die Mühe macht, alles selbst zu schreiben, wird man fälschlicherweise des KI-Betrugs bezichtigt. Das Problem an der Sache: Diese KI-Detektoren funktionieren nicht!
Mehr dazu in der heutigen Ausgabe - und natürlich noch viel mehr!
Peanuts für heute:
🏫 Falscher Alarm! KI-Detektoren irren sich – und Schüler leiden darunter
🔢 Top 10 Vorhersagen für die KI-Industrie 2025
🛠️ Alle Top-Video Modelle in einem Tool!
🥜 Die größte Nuss:
❌ Nein, KI-Detektoren erkennen NICHT alles – und das hat Folgen!
Hätte es mal ChatGPT zu meiner Schul- oder Unizeit gegeben dürften sich viele die letzten zwei Jahre gedacht haben. Es ist auch immer wieder charmant zu sehen, wie ChatGPT & Co. während der Semesterferien weniger Website-Traffic verzeichnen.
Das hat sich aber natürlich alles längst rumgesprochen. Immer mehr Lehrer und Professoren setzen KI-Detektoren ein, um sicherzustellen, dass Arbeiten nicht von Tools wie ChatGPT stammen.
Doch was als Schutzmaßnahme gedacht ist, wird zunehmend zur Falle. Tools wie GPTZero, Turnitin oder Originality.AI werben zwar mit beeindruckenden Treffergenauigkeiten, in der Realität liegen die fehlerhaften Urteile jedoch weit über dem, was akzeptabel wäre.
Immer wieder kommt es zu falschen Anschuldigungen, bei denen Schüler oder sogar professionelle Autoren zu Unrecht beschuldigt werden, ihre Texte mithilfe von KI erstellt zu haben. Die Konsequenzen solcher Fehlurteile sind schwerwiegend.
Wie gut sind die KI Detektoren?
MIT Technology Review Studie:
14 getestete Tools, darunter Turnitin, GPTZero und Compilatio.
Die Tools erkannten menschlich geschriebene Texte mit 96% Genauigkeit.
Bei KI-generierten Texten lag die Erkennungsgenauigkeit bei 74%.
Nach leichter Bearbeitung der KI-Texte sank die Erkennungsrate auf 42%
Weitere Studien kommen auf 1%-4% falschpositiver Ergebnisse. Allerdings steigt dieser Wert dramatisch bei Texten, die nicht von englischen Muttersprachlern kamen. Bei solchen Werten sollte man diese Tools eigentlich nicht einsetzen.
Wie gehen die Modellhersteller damit um?
Es gibt immer wieder Bemühungen, KI-generierte Inhalte mit Wasserzeichen zu versehen. Und hier auch Branchenstandards zu setzen. Googles setzt auf SynthID, Meta will alle Bildgenerierungen mit Wasserzeichen versehen. OpenAI hat wohl auch eines, will es bisher aber nicht veröffentlichen. Und das wohl auch aus gutem Grund: Die Gefahr falscher Erkennungen ist einfach zu groß.
Wasserzeichen haben immer ein Problem, um das man nicht herum kommt: Robustheit vs. Unauffälligkeit. Ein robustes Wasserzeichen sollte verschiedene Arten der Bearbeitung überstehen können, während es gleichzeitig für den Betrachter nicht wahrnehmbar sein sollte. Diese beiden Ziele stehen oft im Widerspruch zueinander.
Mit jedem neuen Erkennungstool gibt es ein weiteres, das genau diese Erkennung umgeht. Wir sind während unserer Recherche auf zahllose Tools gestoßen, die nichts anderes machen als einen Text wieder so umzuschreiben, dass er weniger erkannt wird. Ein endloses Wettrüsten.
Die viel wichtigere Frage lautet, wie wir zukünftig mit dieser Technologie umgehen - und weniger, ob KI Inhalte erkennbar sind. In diesem Blog Artikel gibt das MIT Professoren ein paar Ratschläge, wie man als Lehrkraft damit umgehen sollte. Wie geht Ihr damit um? Schreibt uns gerne eine Mail an [email protected].
Artikel
📖 Das offizielle AI Peanuts Workbook!
Vollgepackt mit KI-Wissen, Tools & Tutorials!
Du hast angefangen, dich tiefer mit dem Thema KI zu beschäftigen und willst den nächsten Schritt machen? Dann ist unser offizielles AI Peanuts Workbook genau das Richtige für dich!
Das Workbook ist kein klassisches “Buch”, sondern ein praxisorientiertes, interaktives digitales Dokument. Gegliedert in 3 Teile:
Theorie — Der Textbuch-Teil des Workbooks, in dem wir das Thema KI und seine technischen Grundlagen erklären.
Praxis — Eine Reihe von praktischen Tutorials, mit denen du lernst, KI praktisch anzuwenden (z.B.: ChatGPT Masterprompts, HeyGen, NotebookLM, Midjourney…)
Daten — Datenbanken mit den besten KI-Tools und den spannendsten Firmen im KI-Umfeld.
🛠️ Trai it out:
Krea — Das Tool haben wir hier schon mal vorgestellt, weil es u.a. super für die KI-Bilderstellung geeignet ist. Jetzt kommt es mit einem Update und vereint gleich mehrere beliebte Video-Modelle in einem: Luma, Runway, Kling, Hailuo und Pika. Das ist genial - weil es das Thema KI-Videoerstellung noch zugänglicher macht und möglich macht, über das eigene Ausprobieren ein besseres Gefühl für die Fähigkeiten und Limitationen der unterschiedlichen Anbieter zu bekommen.
Weitere Neue Tools, Updates & Demos:
RealFakePhotos* — Wir dachten ja, das Thema KI-Headshots sei durchgespielt. Aber dieses Tool - dahinter steckt ein Team aus Deutschland und der Schweiz - liefert wirklich Top Ergebnisse
TimeSkip — Für Video-Creator - Youtube Kapitel mit Hilfe von KI erstellen
Trag — Für Entwickler - Hilft beim Code Review
xAI API — Elon Musk’s OpenAI Konkurrenz kommt jetzt nicht nur in Form von Grok, sondern auch als API
*Affiliate Link - d.h. bei Kauf erhalten wir eine kleine Provision. Wir empfehlen nur Tools, die wir auch wirklich gut finden.
🍭🍬 Gemischte Tüte
🇪🇺 EU-News:
Das Europäische Parlament erweitert mit Claude den Zugang zu seinen Archiven. NOCHMAL…DAS EU PARLAMENT NUTZT KI! FREIWILLIG! Link
ASML, das niederländische Unternehmen, das die riesigen Lithografiemaschinen baut, die für die Chipherstellung benötigt werden, hat diesen Monat die Erwartungen der Investoren enttäuscht. Der Markt verlangsamt sich, aber TSMC hat genau nach Plan geliefert. Link
👩💻 Tech-News:
Ein smarter Artikel von A16Z über den Einsatz von generativer AI, um kleinen Unternehmen beim Verarbeiten unstrukturierter Daten zu helfen. Das AI Peanuts-Team hat kürzlich etwas Ähnliches für ein Mittelstands-Unternehmen in Deutschland umgesetzt. Link
Video-Interview mit Kevin Weil, OpenAIs Head of Product (früher Twitter und Instagram). Link
Wenig überraschend: Mira Murati, die gerade als CTO von OpenAI zurückgetreten ist, sammelt jetzt Geld für ein neues Unternehmen. Wie viele Grundlagenmodelle von Ex-OpenAI-Leuten brauchen wir eigentlich? Link
Die AI-Suchmaschine Perplexity verhandelt über eine Bewertung von 9 Milliarden Dollar. Link
Meta’s AI-Chef sagt, Weltmodelle seien der Schlüssel zu „menschlicher KI“ – aber das könnte noch 10 Jahre dauern. Link
Ein Datenengpass bremst die AI-Forschung aus, sagt einer der neuen Nobelpreisträger. Link
Mitsubishi präsentiert AI-gesteuerte Kampfdrohnen. Link
Meta AI veröffentlicht Meta Spirit LM, ein Open-Source-Modell, das Text und Sprache kombiniert. Link
WhatsApp testet eine neue Meta-AI-Chat-Memory-Funktion in der Beta-Version. Link
Lenovo enthüllt auf der Tech World 2024 ein breites Spektrum an KI-Lösungen. Link
👷 Work:
🆕 Neue Anwendungsfelder:
Papst Franziskus und der Vatikan haben gerade eine „AI-Bibel“ geschaffen, die den Glauben im digitalen Zeitalter neu definieren soll...Amen! Link
🔐 Cybersecurity:
Wahnsinn! Ein Deepfake-Romanzbetrug hat Männer in ganz Asien dazu gebracht, über 46 Millionen Dollar zu verlieren, wie die Polizei in Hongkong berichtete. Link
🏥 Health:
🖼️ Kreativindustrie:
Adobe hat eine Studie zu AI in der Kreativbranche veröffentlicht. Link
Adobe setzt weiterhin auf generative AI und hat diese Woche sein Firefly-Tool auch auf Video erweitert, mit voller Nutzerkontrolle und natürlich rechtlicher Absicherung. Link
Adobe stellt ein neues AI-Tool vor, das 2D-Kunst wie 3D-Objekte rotieren lässt. Link
🔥 Hot Takes:
Der „State of AI“-Bericht von Air Street für 2024 ist raus. Das Meiste ziemlich technisch, aber Nathan Benaich weiß, wovon er spricht! Absolut lesenswert. Link
Hier sind bspw. 10 Vorhersagen für die nächsten 12 Monate:
Eine Investition von über 10 Milliarden US-Dollar von einem souveränen Staat in ein großes US-amerikanisches KI-Labor löst eine nationale Sicherheitsüberprüfung aus.
Eine App oder Website, die von jemandem ohne Programmierkenntnisse erstellt wurde, wird viral gehen (z. B. App Store Top-100).
Frontier-Labore implementieren bedeutende Änderungen an den Datenpraktiken, nachdem Fälle vor Gericht gebracht werden.
Die frühe Umsetzung des EU-KI-Gesetzes wird weicher als erwartet ausfallen, nachdem Gesetzgeber befürchten, zu weit gegangen zu sein.
Eine Open-Source-Alternative zu OpenAI o1 übertrifft dieses in einer Vielzahl von Reasoning-Benchmarks.
Herausforderer schaffen es nicht, eine bedeutende Delle in NVIDIAs Marktposition zu hinterlassen.
Die Investitionen in humanoide Roboter werden zurückgehen, da Unternehmen Schwierigkeiten haben, ein passenden Produkt-Market-Fit zu erreichen.
Starke Ergebnisse von Apples On-Device-Forschung beschleunigen die Dynamik rund um persönliche On-Device-KI.
Eine von einem KI-Wissenschaftler generierte Forschungsarbeit wird auf einer großen ML-Konferenz oder einem Workshop akzeptiert.
Ein Videospiel, das auf der Interaktion mit GenAI-basierten Elementen basiert, wird zum Durchbruch gelangen.
🧂 Salty Memes:
Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]
Willkommen!
Hat dir das ein Freund oder eine Kollegin geschickt? Melde dich an und erhalte 2x Woche deine eigene Ausgabe mit den wichtigsten KI News direkt in dein Postfach.
Hilf uns dabei, besser zu werden! Was war schlecht? Was war gut? Wie fandest Du diese Ausgabe von AI Peanuts? |
Bis Freitag!