🧑‍🔬 MIT-Studie: Das macht ChatGPT mit deinem Gehirn

Unsere letzte Ausgabe ist bei vielen von euch im Spam-Ordner gelandet – Sorry dafür! Woran das lag, wissen wir noch nicht so genau, aber fügt diesen Absender gerne euren Kontakten hinzu – damit helft ihr uns sehr. Wir arbeiten daran, dass das seltener passiert!

Diese Ausgabe ist jedenfalls vollgepackt mit News: Es gibt viele neue Podcasts zu KI, die wir euch ans Herz legen wollen, die OpenAI-Files bringen Sam Altman zum Schwitzen, und in der großen Nuss geht es um eine Studie, die untersucht, was KI mit uns anstellt.

Peanuts für heute:

• 🧠 Die Große Nuss: Was ChatGPT mit deinem Gehirn macht

• 🛠️ Trai it Out: Mobile Apps mit der VibeCode App entwickeln

• 📊 Highlight: Tolle neue Podcasts zu KI

🥜 Die größte Nuss:

🧑‍🔬 MIT-Studie: Das macht ChatGPT mit deinem Gehirn

In unserer letzten Ausgabe, haben wir über den Einsatz von KI-Tools in der Schule geschrieben und euch in einer Umfrage nach eurer Meinung gefragt. Das Ergebnis zeigt, dass sich Optimismus und Sorge bei den teilnehmenden Eltern aktuell in etwa die Waage halten.

Und jetzt gibt es eine Studie, die der Diskussion noch eine weitere interessante Ebene hinzufügt: MIT-Forscher haben gemessen, was im Gehirn passiert, wenn du ChatGPT zum Schreiben nutzt.

Das Ergebnis: Das Gehirn schaltet ab. Buchstäblich. Aber das Beste kommt noch: Als die Studie veröffentlicht wurde, liefen Leute sofort zu ChatGPT, um sich die Ergebnisse zusammenfassen zu lassen.

Die Ironie war vorhersehbar. Studienautorin Nataliya Kosmyna hatte deshalb "KI-Fallen" in ihr Paper eingebaut – und prompt halluzinierte ChatGPT Details, die nie drin standen. Willkommen in der Zukunft des kritischen Denkens.

Das Experiment

Das MIT Media Lab wollte wissen: Was macht KI mit unseren Köpfen? Also nahmen sie 54 Teilnehmer und teilten sie in drei Gruppen auf:

Gruppe A: Schreibt Essays mit ChatGPT-Hilfe
Gruppe B: Nutzt Google-Suche
Gruppe C: Arbeitet komplett ohne Hilfsmittel

Alle 54 Teilnehmer trugen EEG-Geräte, die ihre Gehirnaktivität maßen. Nach drei Essays wurde getauscht: Gruppe A schrieb ohne ChatGPT, während Gruppe C die KI nutzen durfte.

Brain-off vs. Brain-on

Die Messungen zeigten dramatische Unterschiede in der Gehirnaktivität:

• Brain-only-Gruppe: Maximale neuronale Vernetzung. Das Gehirn feuerte in Bereichen für Kreativität, Gedächtnisabruf und Selbstüberwachung. Komplexe Denkprozesse liefen auf Hochtouren.
  

• Google-Gruppe: Mittlere Aktivität. Mehr visuelle Areale aktiv (scrollen, scannen, bewerten), aber weniger vernetzt als die "nur Gehirn"-Gruppe.
  

• ChatGPT-Gruppe: Minimal-Modus. Die geringste und am wenigsten vernetzte Hirnaktivität. Das Gehirn wurde praktisch in den Ruhezustand versetzt.

Die Qualität spiegelte die Messungen wider: ChatGPT-Essays waren laut den Autoren "soulless" und austauschbar, während die Brain-only-Gruppe diversere und individuellere Texte produzierte.

Das "Skills first, then tools"-Problem

Die Studie trifft einen Nerv: KI-Tools sind so gut darin, uns zu entlasten, dass wir aufhören zu denken. Das Design verleitet dazu, sich nicht nur Assistenz einzuholen, sondern das komplette Denken auszulagern.

Die Parallele zu den 70ern ist offensichtlich – damals wurde über Taschenrechner genauso diskutiert. Aber hier geht es nicht nur um Rechnen, sondern um die Grundlage kritischen Denkens: die Fähigkeit, Gedanken zu entwickeln, zu verknüpfen und zu bewerten.

Das MIT-Team warnt vor "overreliance" – besonders bei jungen Nutzern. Besser ist: "Skills first, then tools." Erst lernen, eigenständig zu denken, dann KI als Werkzeug nutzen. Sonst fehlt die Kompetenz, KI-Outputs kritisch zu hinterfragen.

Die Meta-Ironie

Kaum war die Studie online, rannten Social Media-Nutzer zu ChatGPT, um sich die Erkenntnisse über die Gefahren von ChatGPT zusammenfassen zu lassen. Eine der Autorinnen hatte es kommen sehen.

Sie baute bewusst "KI-Fallen" ein – Anweisungen wie "nur diese Tabelle lesen", die LLMs dazu bringen, unvollständige Zusammenfassungen zu liefern.

"Wir wollten genau das sehen, weil wir ziemlich sicher waren, dass das LLM halluzinieren würde", sagte die Autorin. Mission accomplished.

Was das bedeutet

Die Studie ist klein (54 Teilnehmer) und noch nicht peer-reviewed. Aber die Autoren hielten es für wichtig, früh zu veröffentlichen – die gesellschaftliche Diskussion sei zu dringend.

Die MIT-Forscher nutzen in der Studie den Begriff einen Begriff "Cognitive Debt" – kognitive Schulden. Jede Abkürzung, die man mit KI nimmt, erzeugt Zinszahlungen in verlorener Denkfähigkeit. Und wie bei finanziellen Schulden kommt irgendwann die Rechnung.

Menschen mit starken kognitiven Grundleistungen zeigten HÖHERE neuronale Vernetzung beim KI-Einsatz als “chronische” Nutzer – also Nutzer die auf KI-Hilfe bereits angewiesen sind. Sie nutzen KI als Verstärker, nicht als Ersatz. Aber chronische KI-Nutzer, die plötzlich ohne arbeiten mussten? Sie performten schlechter als Menschen, die nie KI genutzt hatten.

Die Lösung ist nicht, KI nicht zu nutzen. Es geht um strategischen Einsatz. Besonders kritisch ist das für junge Nutzer, die noch gar nicht die Chance hatten, ihr kritisches Denkvermögen aufzubauen.

ChatGPT macht vieles einfacher, aber einfacher bedeutet nicht immer besser. Zumindest nicht für dein Gehirn.

🛠️ Trai it out:

Mobile Apps mit der VibeCode App entwickeln

Mit dem “Vibe Coding” Trend kommen wir in ein neues Zeitalter von höchst persönlicher und individueller Software. Mit den diversen Tools (z.B. Bolt, v0, Lovable), die wir in diesem Newsletter immer wieder vorgestellt haben wird das Erstellen von kleinen Tools für den eigenen Bedarf möglich und einfach.

Bisher sind die meisten Tools vor allem auf das Erstellen von Web Apps ausgerichtet und die Bedienung funktioniert vor allem am PC gut. Jetzt gibt es mit der VibeCode App für iOS eine super simple App für’s Erstellen von Mobile Apps. Dahinter steckt u.a. der Creator Riley Brown, der mit seinen Videos und Tutorials zum Coden mit KI-Unterstützung in den letzten Monaten viele Follower auf Twitter gewinnen konnte und als Vorreiter der Szene gilt.

Die App ist ganz spezifisch auf nicht-technische Nutzer ausgelegt, macht u.a. das Prompting via Spracheingabe simpel und macht es zudem einfach, die erstellten Apps schnell zu teilen.

Zugegeben, der monatliche Preis von über 20€ ist nicht ganz günstig, wer aber einen einfachen Einstieg ins mobile Vibe Coding sucht, der wird hier fündig!

Spannende Demos:

Tools kurz & knackig:

• LTX.studio — “Pro”-Tool für KI-Videogenerierung, auch mit Veo 3 in EU

• Nanobrowser — Chrome Plugin für KI-gestützte Automation im Browser

• v0 Design Mode — Macht Frontend Anpassungen in v0 einfacher

🍭🍬 Gemischte Tüte

📖 Must Reads:

Unsere Gemischte Tüte ist immer vollgepackt - in dieser neuen Sektion kuratieren wir zukünftig die aus unserer Sicht wichtigsten 3 Links:

• Neue KI-Podcasts: Es gibt einen kleinen Podcast-Goldrausch in der KI-Industrie, der sich lohnt. OpenAI startet ihren eigenen Podcast. Sam Altman’s Bruder Jack Altman hat seinen Bruder Sam interviewt – mit der spannenden Aussage: „Superintelligenz kommt wahrscheinlich. Aber vielleicht verändert sie gar nicht so viel.“ Und Square hat einen sehr coolen Podcast und hat OpenAI-Co-Founder Greg Brockman interviewed. 
  

• Karpathy Talk auf der YC-Startup School: Der ehemalige Head of AI bei Tesla und zuvor bei OpenAI spricht über die fundamentale Transformation der Software-Entwicklung. Der Talk wird in KI-Kreisen derzeit sehr gehypt. Es geht darum, wie "Vibe Coding" die Software-Entwicklung für jeden zugänglich macht und wie LLMs neben Menschen und APIs zur dritten primären Schnittstelle für digitale Informationen werden. Link
  

• Die OpenAI-Files: Zwei KI-Watchdog-Firmen, das Midas Project und das Tech Oversight Project, dokumentieren umfassende Bedenken hinsichtlich der Führung, Integrität und Unternehmenskultur von OpenAI. Sie kritisieren den Wandel des Unternehmens von einer gemeinnützigen Organisation zu einem gewinnorientierten Modell. Link

🇪🇺 EU-News:

• NVIDIAs nächste Expansion: Ein eigenes KI-Rechenzentrum in Deutschland – und dazu eine Partnerschaft mit Perplexity. Ziel: Unterstützung europäischer KI-Unternehmen beim Aufbau eigener LLMs in Landessprache. Link 
  

• Ifo-Institut: 40 % der deutschen Unternehmen nutzen KI aktiv, weitere 19 % planen den Einstieg. Link

  👩‍💻 Tech-News:

• OpenAI verbessert seine „Projects“-Funktion: Jetzt mit Deep Research, Sprachmodus und besserem Memory über verschiedene Sessions. Link 

• Midjourney veröffentlicht erstes KI-Videomodell „V1“. Link

• Google & OpenAI steigt aus der Partnerschaft mit Scale AI aus, nachdem Meta $14 Milliarden investiert hat und praktisch den CEO übernommen hat. Link 

• Die US-Armee rekrutiert Tech-Führungskräfte – darunter Leute von Meta und OpenAI. Ziel: KI-Strategien militärisch nutzbar machen. Link 

• Gemini 2.5 Pro hat Pokémon komplett durchgespielt – aber dabei gezeigt, wie AI unter Stress versagen kann. In kritischen Spielsituationen hat das Modell „gepanikt“ und irrationale Entscheidungen getroffen. Spannender Einblick, wie KI unter Druck tickt. Link 

• OpenAI erhält 200-Millionen-Dollar-Auftrag vom US-Verteidigungsministerium – Fokus: Cyberabwehr und Verwaltungsautomatisierung. Link 

• OpenAI vs. Microsoft: Der Streit um den Milliarden-Kauf von Windsurf spitzt sich zu. Windsurf ist ein Konkurrent von GitHub Copilot, und OpenAI will Microsoft nun womöglich bei Kartellbehörden melden. Link 

• OpenAI-Mitarbeiter haben bereits über drei Milliarden Dollar an Anteilen verkauft. Link 

• Meta arbeitet mit Prada und Oakley an neuen Smart-Brillen – Launchpreis bei rund 360 Dollar. Link

🇨🇳 China & AI Race:

• ByteDance (TikTok) und MiniMax haben Google bei der KI-Videogenerierung überholt – laut Artificial Analysis sind ihre Modelle Seedance und Hailuo 02 jetzt an der Spitze. Link 

👷 Work & Education:

• Sehr ausführlicher Karriere-Guide in KI-Zeiten: Wer KI versteht und einsetzen kann, bleibt wertvoll – trotz Automatisierung. Link

• Amazon sagt offen: Künstliche Intelligenz wird mittelfristig Jobs im Konzern kosten. CEO Andy Jassy sieht über 1.000 KI-Projekte in der Pipeline, viele davon mit direktem Einfluss auf die Belegschaft. Link 

• McKinsey warnt: Firmen holen zu wenig aus KI heraus – der Schlüssel liegt in autonomen Agenten, nicht bloßer Prozessautomatisierung. Lasst uns raten wer das integrieren soll…McKinsey? Link

🆕 Neue Anwendungsfelder:

• Perplexity Finance bietet ab sofort Excel-Finanzmodelle direkt zum Download an – praktisch für alle, die mit Kennzahlen arbeiten. Lange war das Bloomberg Terminal das einzige (und sehr teure) Tool für Investoren – einige wechseln nun zu Perplexity. Link 

• CBS hat einen Mann interviewed, der seiner KI-Freundin einen Heiratsantrag macht – und in Tränen ausbricht. Link

• Astronomen haben ein neuronales Netz trainiert, das Millionen Simulationen analysiert und zeigt: Das Schwarze Loch in unserer Galaxie rotiert mit Höchstgeschwindigkeit – und widerspricht bisherigen Theorien. Link 

🔐 AI Safety:

• IBM, Microsoft und Google machen sich Gedanken, wie sie ihre KI-Modelle gegen Prompt Injection (quasi LLMs durch versteckte Prompts “hacken”) absichern – ein lesenswerter Überblick über kommende Sicherheitsdesigns. Link 

• Webseiten von Nvidia, Stanford und sogar US-Regierungsseiten wurden zum Hosten von KI-generiertem Spam missbraucht – unsauber eingebettete Drittanbieter-Domains leiteten unbemerkt auf fragwürdige Seiten weiter. Link 

🖼️ Kreativindustrie:

• YouTube integriert Veo 3 in Shorts – KI-Video bald direkt in der App. Link

• Meta testet neue Video-AI-Funktionen: In der Meta-AI-App kannst du Kleidung, Licht oder Umgebung in Videos mit einem Klick verändern. Link 

• AI-Filmmaking wird laut Brancheninsidern schon jetzt zum Mainstream. Link

🔥 Takes:

• George Hotz ist eine der besten Stimmen im Bereich der KI für uns. Er bezeichnet Cursor und Windsurf als „wertlos“ – OpenAI und Anthropic würden langfristig ebenfalls keinen Wert schaffen. Er setzt auf Open Source und TSMC. Link

🧂 Salty Memes:

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]